Marksizm'le birlikte temel hedef olarak Komünizm sistemine ulaşmayı kendisine ilke edinmiştir. Ancak, bu iki düşünce arasında sadece uygulanacak yöntemler farklıdır. Marx ve takipçileri, devlet aygıtının ani bir biçimde şiddet kullanılarak yıkılmasına gerek olmayacağını, çünkü işçilerin bilinçlenerek, bir süre sonra zaten kendiliğinden devleti ortadan kaldıracağını savunuyorlardı. Buna karşılık, Bakunin ve Anarşistler, devlet aygıtının derhal ortadan kaldırılması gerektiğini, bunun için gerekirse terör de kullanılabileceğini savunmaktaydılar. Onların düşüncesi, işçi sınıfının sistemin tepesine geçse bile, ona benzemek zorunda kalacağı ve bundan sonra işçilerin diktatörlüğünün başlayacağıydı. Bunun için, Anarşizm, bir an önce devletin ortadan kaldırılması gerektiğini savunur.
Anarşizm, I. Enternasyonel'de, Marksistler tarafından dışlanmış ve mücadelelerine kendi başlarına devam etmişlerdir. I. Enternasyonel'de Marx ve Bakunin o kadar sert tartışmışlardır ki, gırtlak gırtlağa geldikleri söylenir.
