Анатолий Владимирович Тарасов родился 10 декабря 1918 года в Москве. В 1937 году он поступил в Высшую школу тренеров при Московском институте физкультуры. До войны Тарасов играл в футбол, был игроком атаки. С чемпионата 1941 года Тарасов сразу ушел на фронт. Вернулся с Великой Отечественной войны в звании майора.
В 1945 году Анатолий Тарасов был рекомендован в наставники спортивного клуба Военно-воздушных сил Московского военного округа. Так Тарасов стал тренером армейских команд одновременно по хоккею с шайбой и по футболу. Спустя два года Тарасова назначили играющим тренером хоккейной команды Центрального дома Красной армии (впоследствии переименован в ЦСКА).
За свою долгую спортивную карьеру Анатолий Тарасов выиграл в чемпионатах СССР 100 матчей, забив в них 106 шайб. Хоккейной командой ЦСКА Тарасов руководил почти три десятилетия вплоть до 1975 года. Под его руководством команда ЦСКА становилась золотым призером чемпионата СССР 18 раз.
С 1958 года в течение 14 лет Тарасов руководил сборной СССР. Совместно с Аркадием Чернышевым установил непревзойдённый рекорд — в течение 9 лет подряд (1963-1971) сборная СССР по хоккею под их руководством становилась чемпионом во всех международных турнирах.
Под руководством Тарасова сборная СССР девять раз побеждала на чемпионатах мира (1963-1971 гг.) и трижды становилась чемпионом Олимпийских игр (1964, 1968, 1972 гг.).
Тарасов воспитал несколько десятков неоднократных чемпионов мира и Олимпийских игр. В их число входят такие легендарные хоккеисты как Валерий Харламов, Анатолий Фирсов, Владислав Третьяк, Борис Михайлов, Александр Рагулин, Виктор Кузькин, Александр Альметов, Борис Александров, Владимир Петров и другие. Анатолий Тарасов так много сделал для становления и развития отечественной хоккейной школы, внес большой вклад и в мировой хоккей, недаром его называют «отцом русского хоккея».
В 1974 году Тарасов был введен в Зал хоккейной славы в Торонто. В 1997 году в числе первых включен в Зал хоккейной славы Международной федерации хоккея.
Лауреат международной премии Уэйна Гретцки, вручаемой Залом хоккейной славы НХЛ людям, которые внесли выдающийся вклад в развитие хоккея.
Именем Анатолия Тарасова назван один из дивизионов Континентальной хоккейной лиги.