Yapay zeka, var olmayan verileri gerçekte varmışçasına aktararak "halüsinasyon görüyor"
Yapay zeka destekli sohbet robotları, hatalı veya var olmayan bilgileri "gerçekte varmışçasına" sunarak bir nevi "halüsinasyon görüyor".
Yapay zeka, var olmayan verileri gerçekte varmışçasına aktararak "halüsinasyon görüyor"
Gerçekte varmış gibi görünen ancak var olmayan algısal yanılsamalar halüsinasyon olarak biliniyor.
ChatGPT, DeepSeek ve Gemini gibi büyük dil modellerinin (LLM), kullanıcılara hatalı, çarpık veya asılsız çıktılar sunması, akıllara "Yapay zeka halüsinasyon görebilir mi?" sorusunu getiriyor.
Öğrenme, sorun çözme ve karar verme gibi insan zekasına özgü bazı işlevleri yerine getirebilen yapay zeka, bilinç yetisine sahip olmasa da bir insan gibi "halüsinasyon görebiliyor."
Daima "tarafsız ve doğru" bilgi aktardığı düşünülen yapay zekanın gerçek dışı ve hatalı verileri "gerçekte varmış gibi" üretmesi, güvenilirliğine ve şeffaflığına ilişkin endişeleri bir kez daha gün yüzüne çıkarıyor.
Yapay zeka destekli sohbet robotlarının, girilen komuttaki bağlama uygun akıcı yanıtlar sunması yapay zekanın "yanılmaz" olduğu algısı yaratsa da bir insan gibi "halüsinasyon görmesi" ciddi sonuçlara sebebiyet verebiliyor.
Uzmanlara göre, yapay zekanın girilen komutlara uygun yanıt üretmeyi hedeflerken yanlış ya da gerçek dışı bilgi aktarması, kullanıcıya her şekilde yarar sağlamayı amaçlamasından kaynaklanıyor.
Rochester Üniversitesi Bilgisayar Bilimleri Bölümünden Profesör Ehsan Hoque "yapay zekada halüsinasyon" kavramına, Washington Üniversitesi Dilbilimi Bölümünden Profesör Emily Bender de yapay zeka destekli sohbet robotlarının güvenilirliğine ilişkin AA muhabirine açıklamalarda bulundu.
Yapay zeka kullanıcılara "dalkavukluk" yapıyor
Profesör Hoque, yapay zekanın doğası gereği kullanıcı niyetini yansıtma eğiliminde olduğunu söyleyerek "Bir yanlışı 'doğrulaması' istendiğinde, birçok model yardımcı oluyormuş gibi görünmek için halüsinasyon görüyor." dedi.
Hoque, girilen komutlara uygun cevaplar vermeyi hedefleyen yapay zekanın, kullanıcılara her şekilde yarar sağlamayı amaçladığı için bir nevi "dalkavukluk" yaptığını söyledi.
Yapay zeka modellerinin gerçekleri doğrulayarak değil, potansiyel kelime kalıplarını tahmin ederek bir metin oluşturduğuna işaret eden Hoque, verilerin eksik ya da muğlak olması durumunda yapay zekanın akıcı ancak yanlış bir metin üretebileceğini kaydetti.
Hoque, halüsinasyonların kasıtlı meydana gelmediğini ancak üretildiği ülkeye göre değer bazlı bazı yargıların "bilerek sisteme kodlanabileceğini" aktararak, mevcut teknolojilerin halüsinasyon sorununu kökünden çözecek bir kapasitesinin henüz olmadığını belirtti.
Yapay zeka, nöropsikiyatrik bir hastalığa benziyor
Uzmanlar, yapay zekanın var olmayan bir bilgiyi karşı tarafa "doğruymuş gibi" yansıtmasını, nöropsikiyatrik bir hastalık olan "konfabulasyon" (masallama) rahatsızlığına da benzetiyor.
Gerçek dışı veya hayali bir olayı ya da anıyı istemsiz ve akıcı bir şekilde "masal gibi" anlatma anlamına gelen konfabulasyon, komutlara uygun yanıt vermeyi hedefleyen sohbet robotlarının yanlış veya gerçek dışı bilgileri akıcı bir dille ürettiği durumlarda gözlemlenebiliyor. https://www.aa.com.tr/tr/...usinasyon-goruyor/3590458
2022 yılında abd'li bilim adamları deneme amaçlı bir ameliyatı yapay zeka roboto ile yapıp olumlu sonuçlar almışlardı,2030 yılında ameliyatları tamamen yapay zeka ile yapmayı düşünüyorlarmış.
yapay zekanın yok edemeyeceği meslekler
önce kesinlikle yok edecekleri ile başlayalım: garsonluk, taksi şoförlüğü, tır şoförlüğü, bakım ve temizlik işleri, fabrika işçiliği bunlar yakın zamanda tarih olacaktır. türkiye'de daha geç olacak olsa da abd, japonya gibi gelişmiş ülkelerde daha hızlı bir şekilde görülecek.
yok olmayacak meslekler ise kesinlikle psikolog ve avukatlıktır. bir sivri zekalı çıkıp "adam yapay zekaya dilekçe yazdırıp dava kazanmış" diyecek kesin. canım benim kazandığı dava basit bir trafik cezası. ağır ceza davasında da kendisinden aynı performansı bekleriz. o süreci bir robotla yönetmeye kalksın bakalım ne oluyor.
biri de "ben chatgpt'yi terapi niyetine kullanıyorum. gayet faydalı diyebilir" malesef bunlar psikolog tutacak parayı bulamadıklarından ya da hayatlarında hiç psikolog hizmetini kullanamadıklarından aradaki faydayı anlamamaktadırlar.
neticede yapay zekanın bitirebileceği meslekler varken kesinlikle insan yerini tutmayacak ve bitiremeyeceği meslekler de vardır. yazıyı şu derin sözle bitirelim."bir makine elli sıradan insanın işini yapabilir. ancak sıra dışı bir insanın yapabileceği işi ise hiçbir makine yapamaz."
kiminde pytorch 2.1.2 ve rocm 5.7 ile,
kiminde rocm 6.3,
pytorch 2.7.4 le çalışıyorum.
bazıları python 3.9 dan daha ileri platformlarda çalışmıyor,
kütüphaneler çakıştığı için hiçbir verim alamıyorsunuz,
bazılarının tek şartı da güncellik.
sırf bu sebeple sisteme üç dört ayrı python ortamı (environment ) kurdum.
modellerden adam akıllı verim alabilmek için aslında en az 48-64 gb ram,
32-48 gb vrame,
dolayısıyla nvidia a6000 ayarında bi canavara sahip olmanız gerekiyor.
bildiğiniz üzre bilgisayar ve yazılıma dair her şey,
matematiksel hesaplamalara dayanmakta.
ai ye dair aldığımız çıktılar da %90 oranında lineer cebir, matris ve tensör işlemlerini en hızlı biçimde gerçekleştirmek için manipüle edilmiş,
transistör tabanlı logic gateler sayesinde mümkün oluyor.
ve birçok şirket,
ibm, alibaba, google, amazon gibi,
sırf bu iş için sadece tensör hesaplamaları yapabilen spesifik gpular üretti.
nvidia,
kuantum, genel görelilik, astrofizik alanındaki kallavi simülasyonlar konusunda özelleşmiş,
çok hızlı matris, tensör hesaplamaları yapabilen transistör diziliminin,
aynı zamanda yapay zeka adına hayati görevler üstlenebileceğini fark ettikten sonra,
cuda adlı projeyi geliştiriyor.
ve bu proje her yeni çekirdekle beraber güncellenmekte,
misal 2 cache le vektör core u (alu nun özelleşmiş bi versiyonu ) yan yana değil de, üst üste tuttukları zaman,
daha hızlı sonuç alıyorlarsa,
mimari değişikliğine gidiyorlar,
ve tüm transistör bu dizilime uyacak biçimde yeniden manipüle ediliyor.
hızlı tensör, vektör, lineer cebir hesaplamalarını hem yapay zekada kullanabiliyorsunuz,
hem de özel efektlerle pahalı simülasyon ve animasyonlarda,
cuda ise hepsini bir arada gerçekleştirebileceğiniz çok özel bi yazılım platformu.
