Devletin ve hiyerarşinin reddi konusu, 19. yüzyıl Avrupa anarşistlerini önceleyen uzun bir tarihe sahiptir. Bazı yazarlar anarşist temanın Taoist bilgin Lao Tzu'nun çalışmalarında görülebileceğini söylerler. Sinoplu Diyojen, Knikler ve çağdaşları ile Stoacıların kurucusu Zenon'da benzer konulardan bahsetmiştir.

Fakat modern anarşizm, Aydınlanma felsefesinin, seküler düşüncesinden doğdu, özellikle Rousseau’nun özgürlük temelli ahlak düşüncesi bu düşüncenin gelişmesinde etkili oldu.“Anarşist" terimi ilkin olumsuz anlam içerirken, Fransız Devrimi ile birlikte, örneğin Enragés'de görüldüğü gibi, olumlu anlamlar yüklenmeye başladı.

William Godwin birçok yazar tarafından modern anarşist düşünceyi geliştiren ilk düşünür olarak değerlendirilir. Peter Kropotkin'e göre Godwin; "eserinde, geliştirdiği düşüncelere isim vermemesine rağmen anarşizmin politik ve ekonomik kavramlarını formüle eden ilk düşünürdür." Felsefi anarşist Godwin, devrimci eyleme karşıdır, ve fazla güçlü olmayan bir devleti geçici ve gerekli bir “şer” olarak görür. Devlet, bilginin toplumda yayılması ile birlikte zamanla güçten düşecek ve gereksizleşecektir. Godwin aşırı bireyciliğini, çalışma hayatında tüm kooperatiflerin kaldırılması düşüncesiyle dile getirmiştir. Ayrıca ona göre yeteneklerde dahil olmak üzere insanlar arasındaki herhangi bir temelde ayrım kabul edilemez.

Godwin’le birlikte dile getirilmeye başlanan anarşist düşünce ilk kez Pierre-Joseph Proudhon tarafından isimlendirilmiştir. Kendini “anarşist” sıfatı ile tanımlayan ilk kişi olan Proudhon bu yüzden modern anarşist teorinin kurucusu kabul edilir. Proudhon kendiliğinden gelişen bir toplumsal düzen önermiştir. Bu düşünceye göre, örgütlenme, merkezi otoriteden bağımsız ortaya çıkar; bu “pozitif anarşidir”. Bu tür bir sistemde toplumsal düzen, herkesin “sadece ve sadece ne istiyorsa" onu gerçekleştirdiği ve ticari etkinliğin tek başına toplumsal düzeni ürettiği yerde yükselebilir. Proudhon'a göre, "bilimde ve yasada gelişmeler aracılığı ile oluşmuş toplumsal ve bireysel bilincin varolduğu bir yasa veya hükümet şekli, toplumsal düzeni sürdürmek ve özgürlükleri güvenceye almak için yeterlidir. Böylece baskı araçları, polis, bürokrasi, vergi vb. enstrümanlar en aza indirilmektedir. Bu sayede özellikle, monarşiler ve aşırı merkeziyetçilik ortadan kalkar ve federal kurumlar ile komün’e dayalı bir yaşam biçimi bunun yerini alır .