Получил образование в Омском ГИФКе.
В 1962 году стал победителем Первенства Вооруженных Сил СССР по борьбе самбо. Начал трудовую деятельность тренером в городе Омске.
Организовал работу спортивных школ по борьбе самбо. Тренировал Н. Данилова, Владимира Кливоденко, которые завоевывали титул чемпионов мира, а также чемпиона Европы по самбо А. Хоша и чемпиона Европы по дзюдо Евгения Погорелова.
В Волгограде организовал центр для развития борьбы самбо. Владимир Зарипзянович Шестаков называл Анатолия Хмелева своим наставником.
Во второй половине 1970-х годов Анатолий Хмелев переехал в Москву для работы главным тренером ЦС «Динамо». Он повлиял на развитие и формирование таких спортсменов, как Григорий Веричев, Николай Солодухин, Александр Яцкевич, Валерий Девисенко, Виталий Песняк.
Работал в Федерации дзюдо России тренером по резерву. Умер 11 ноября 2001 года.
С 2002 года в городе Омске проводится всероссийский турнир памяти Анатолия Алексеевича Хмелева.