Sovyet diplomatı, siyasi figür ve Politbüro üyesi olan bu insan, birçok siyasi analiste göre Mihail Gorbaçov'un gerçekleştirdiği siyasi reformların arkasındaki ana düşünce sahibidir. Bazı komplo teorisyenlerine göre de SSCB'nin çöküşünde çok yakın bir rol oynamıştır ve onu Batı'nın ajanı olarak görenler de vardır. Hatta SSCB KGB başkanı olmuş Kryuchkov, kendi kitabında (Личность и власть - Kişilik ve iktidar) onun Amerika'nın ajanı olduğuna dair suçlamalar yapmış ve çeşitli KGB kanalları aracılığıyla yabancı devletlerle bilgi alışverişinde bulunduğunu Gorbaçov'a bildirdiğinde, Gorbaçov'un buna önem vermediğini belirtmiştir.
Kendi hatıralarına göre, Nikita Kruşçev'in Stalin hakkında yaptığı eleştirel konuşmadan sonra komünizm ideolojisine olan inancını kaybetmiştir. 1958'de KGB'nin Fulbright burs programı için seçtiği öğrenciler arasına girmiş, Amerika'da Columbia Üniversitesi'nde eğitim almış ve bu dönemde ingiliz dili ve edebiyatını derinlemesine öğrenmiştir. 60'lı yıllarda Merkez Komitesi'nin propaganda dairesinin başkan yardımcısı, sonrasında ise başkanı olmuştur. Ancak, 1972'de yazdığı "Против антиисторизма" (Anti-Tarihselciliğe Karşı) adlı makalede Sovyet liderliğinin Rus milliyetçiliğine karşı tutumunu eleştirdiği için görevinden alınmış ve Kanada'ya büyükelçi olarak gönderilmiştir. Komplo teorilerine göre, Kanada'ya büyükelçi olarak gönderilmesinde Batı'da Sovyetlerin gri kardinali olarak tanınan Mikhail Suslov'un rolü olmuştur. Orada, Kanada'nın eski başbakanı Pierre Trudeau ile yakın dost olmuştur. Gorbaçov ile tanışıklığı ise 1983 yılında Gorbaçov'un Kanada ziyareti sırasında onu eşlik etmesiyle başlamış ve geri döndüğünde Gorbaçov'un ısrarı ile Yuri Andropov Yakovlev'i geri çağırmıştır. Gorbaçov genel sekreter olduğunda, Yakovlev yeniden propaganda dairesinin başkanlığına seçilmiş ve ayrıca Politbüro'nun üyesi olmuştur. 20 Ağustos 1991 darbesinden birkaç gün önce partiden gönüllü olarak ayrılmıştır. Rusya bağımsız olduktan sonra bir süre parti lideri olarak faaliyet göstermiştir.
