В 1969 году окончил театральный факультет Дальневосточного педагогического института. И в этом же году стал артистом Приморского краевого драматического театра им. Горького, где дебютировал ролью Раскольникова в спектакле «Преступление и наказание».

В 1970-1979 гг. работал в Саратовском академическом театре драмы им. К.Маркса.

На киноэкране дебютировал главной ролью в фильме «Это сильнее меня» (1973, режиссёр Ф.Филиппов).

В 1981 году «за талантливое воплощение образов современников в кино и высокое исполнительское мастерство» А. Я. Михайлов был удостоен премии Ленинского комсомола. Зрительский успех (лучший актёр 1982 года по результатам опроса журнала «Советский экран») и Государственную премию РСФСР имени братьев Васильевых (1983 г.) Михайлову принесла роль Павла Зубова в картине «Мужики!..» (1981 год, режиссёр - И.Бабич).

В 1973-1985 гг. играл в Московском театре им. Ермоловой.

С 1985 года - актер Государственного Академического Малого театра.

На курсе преподают: Михайлов Александр Яковлевич, Арькова Елена Борисовна, Федоров Александр Львович, Акулова Тамара Васильевна.