После института был призван в армию, где служил два года, с 1974 по 1976.

После службы работал в Курском вагонном депо, был старшим осмотрщиком вагонов на железнодорожной станции Курск. С 1976 по 1979 год — на комсомольской работе в Курске и Курской области, был секретарём Дмитриевского и Щигровского райкомов ВЛКСМ.

С 1979 по 1983 год — заведующий отделом Дмитриевского райкома КПСС Курской области

С 1983 года работал в Щигровском райкоме КПСС вторым секретарём, затем первым секретарём. В 1984 году закончил Высшую партийную школу в Ростове-на-Дону.

В марте 1990 года был избран депутатом, а затем и председателем исполкома Щигровского районного Совета народных депутатов. В июле 1990 года На XXVIII съезде КПСС выступил с резкой критикой «деструктивной политики Горбачева-Яковлева».

В 1991 году — председатель исполкома Курского областного Совета.

В должности первого секретаря Щигровского райкома КПСС 39-летний Александр Михайлов встретил августовские события 1991 года. Активно поддерживал ГКЧП.

Тогда же, в августе 1991 года, был избран председателем Щигровского районного Совета народных депутатов. Был председателем этого Совета по октябрь 1993 года.

До февраля 1993 был членом Социалистической партии трудящихся. В 1993 году вступил в КПРФ, где был избран первым секретарем Курского обкома КПРФ и членом ЦК КПРФ.

В декабре 1993 года был избран депутатом Государственной Думы первого созыва, входил в состав фракции КПРФ, являлся членом Комитета по обороне.

С 1995 по 1999 год — депутат Государственной Думы РФ второго созыва, также входил во фракцию КПРФ, был председателем подкомитета по вопросам военного сотрудничества, ограничения и сокращения вооружений и вооруженных сил Комитета по обороне.

В декабре 1999 года был избран депутатом Государственной Думы РФ третьего созыва по федеральному списку КПРФ, был членом фракции КПРФ, заместителем председателя Комитета по обороне.

В ноябре 2000 года баллотировался кандидатом в губернаторы Курской области, лидировал по итогам первого тура выборов (39,5 % голосов) и одержал победу во втором туре выборов 5 ноября, набрав 55,5 % голосов избирателей, участвовавших в голосовании (у соперника — главного федерального инспектора по Курской области В. Суржикова — 37,9 %, прежний губернатор А. Руцкой не был допущен к выборам). 9 ноября 2000 года областная избирательная комиссия вручила Михайлову удостоверении об избрании его губернатором. 18 ноября 2000 года Михайлов вступил в должность. При этом он сложил с себя полномочия депутата Госдумы и первого секретаря обкома Курской организации КПРФ. Он заявил: «Вся команда Руцкого должна уйти в отставку».

Вскоре после избрания заявил в интервью газете «Коммерсантъ», что у предыдущего губернатора области Александра Руцкого мать — еврейка и теперь, сменив Руцкого, Михайлов победил и стоящих за его спиной Березовского и «всероссийский еврейский конгресс». Однако теперь, после прихода к власти Владимира Путина, «для России начнется освобождение от всей этой скверны, которая накопилась за десять лет». Геннадий Зюганов заявил, что Михайлову надо «заниматься конкретными делами, а не копаться в чужих родословных». В том же месяце в Курске, по заявлению еврейских правозащитных организаций, имел место и ряд других инцидентов антисемитского характера. За эти заявления Михайлов подвергся выговору от полпреда в Центральном округе Георгия Полтавченко и извинился перед Руцким.

22 февраля 2005 года депутатами Курской областной Думы по представлению Президента Российской Федерации был утвержден в должности губернатора области на новый 5-летний срок.

13 мая 2014 года досрочно подал в отставку, чтобы принять участие в сентябрьских выборах губернатора области.Избран на новый срок в ЕДГ — 14 сентября 2014 года с результатом 68,81%.