tek başına bağımsız karar alma yetisine kavuşmuş herhangi bir sistem, biyolojik türlerin tamamı için tehdit haline gelebilir.
gelir mi, gelmez mi ayrı konu? Hali hazırda Gelemeyeceğine dair mantıklı en ufak argüman kırıntısı kalmadı.
Herhangi bir yazılımın kontrol dışına çıkması yahut kontrolü kendinden bağımsız yeni yazılımlar geliştirmesi vahim senaryoları olası kılmaya yetiyor.
En basitinden alpha-zero denilen yapay zekaya satranç kurallarının öğretildikten sonra eski oyunları incelemesi için 4 saat süre verildi. Geri döndüğünde piyasadaki en güçlü satranç robotu olan stockfishle bir seri oyun oynadı ve rakibini perişan etti. Çoğu insan-büyükusta hamlelerinin amacını bile 10-12 hamle sonra anlayabiliyor. Bu sadece işlemci büyüklüğüyle ilgili bir şey değil. Artık yazılımlar sezgisel kararlarda dahi insanlardan çok çok daha üstün durumdalar.
Kendi aralarında iletişim kurabilecekleri yeni diller geliştirmeyi başaran yazılımlar oldu.
Ki bu söylediklerim birkaç yıl önceye dair basit örnekler. Şu anda durum nedir bilen yok. Ancak durumun chatgpt’nin makine öğrenmesine dair kabiliyetlerinden çok daha farklı düzeylerde olabileceğini tahmin etmek zor değil.
