Yapay zeka, var olmayan verileri gerçekte varmışçasına aktararak "halüsinasyon görüyor"
Yapay zeka destekli sohbet robotları, hatalı veya var olmayan bilgileri "gerçekte varmışçasına" sunarak bir nevi "halüsinasyon görüyor".
Yapay zeka, var olmayan verileri gerçekte varmışçasına aktararak "halüsinasyon görüyor"
Gerçekte varmış gibi görünen ancak var olmayan algısal yanılsamalar halüsinasyon olarak biliniyor.
ChatGPT, DeepSeek ve Gemini gibi büyük dil modellerinin (LLM), kullanıcılara hatalı, çarpık veya asılsız çıktılar sunması, akıllara "Yapay zeka halüsinasyon görebilir mi?" sorusunu getiriyor.
Öğrenme, sorun çözme ve karar verme gibi insan zekasına özgü bazı işlevleri yerine getirebilen yapay zeka, bilinç yetisine sahip olmasa da bir insan gibi "halüsinasyon görebiliyor."
Daima "tarafsız ve doğru" bilgi aktardığı düşünülen yapay zekanın gerçek dışı ve hatalı verileri "gerçekte varmış gibi" üretmesi, güvenilirliğine ve şeffaflığına ilişkin endişeleri bir kez daha gün yüzüne çıkarıyor.
Yapay zeka destekli sohbet robotlarının, girilen komuttaki bağlama uygun akıcı yanıtlar sunması yapay zekanın "yanılmaz" olduğu algısı yaratsa da bir insan gibi "halüsinasyon görmesi" ciddi sonuçlara sebebiyet verebiliyor.
Uzmanlara göre, yapay zekanın girilen komutlara uygun yanıt üretmeyi hedeflerken yanlış ya da gerçek dışı bilgi aktarması, kullanıcıya her şekilde yarar sağlamayı amaçlamasından kaynaklanıyor.
Rochester Üniversitesi Bilgisayar Bilimleri Bölümünden Profesör Ehsan Hoque "yapay zekada halüsinasyon" kavramına, Washington Üniversitesi Dilbilimi Bölümünden Profesör Emily Bender de yapay zeka destekli sohbet robotlarının güvenilirliğine ilişkin AA muhabirine açıklamalarda bulundu.
Yapay zeka kullanıcılara "dalkavukluk" yapıyor
Profesör Hoque, yapay zekanın doğası gereği kullanıcı niyetini yansıtma eğiliminde olduğunu söyleyerek "Bir yanlışı 'doğrulaması' istendiğinde, birçok model yardımcı oluyormuş gibi görünmek için halüsinasyon görüyor." dedi.
Hoque, girilen komutlara uygun cevaplar vermeyi hedefleyen yapay zekanın, kullanıcılara her şekilde yarar sağlamayı amaçladığı için bir nevi "dalkavukluk" yaptığını söyledi.
Yapay zeka modellerinin gerçekleri doğrulayarak değil, potansiyel kelime kalıplarını tahmin ederek bir metin oluşturduğuna işaret eden Hoque, verilerin eksik ya da muğlak olması durumunda yapay zekanın akıcı ancak yanlış bir metin üretebileceğini kaydetti.
Hoque, halüsinasyonların kasıtlı meydana gelmediğini ancak üretildiği ülkeye göre değer bazlı bazı yargıların "bilerek sisteme kodlanabileceğini" aktararak, mevcut teknolojilerin halüsinasyon sorununu kökünden çözecek bir kapasitesinin henüz olmadığını belirtti.
Yapay zeka, nöropsikiyatrik bir hastalığa benziyor
Uzmanlar, yapay zekanın var olmayan bir bilgiyi karşı tarafa "doğruymuş gibi" yansıtmasını, nöropsikiyatrik bir hastalık olan "konfabulasyon" (masallama) rahatsızlığına da benzetiyor.
Gerçek dışı veya hayali bir olayı ya da anıyı istemsiz ve akıcı bir şekilde "masal gibi" anlatma anlamına gelen konfabulasyon, komutlara uygun yanıt vermeyi hedefleyen sohbet robotlarının yanlış veya gerçek dışı bilgileri akıcı bir dille ürettiği durumlarda gözlemlenebiliyor. https://www.aa.com.tr/tr/...usinasyon-goruyor/3590458
Bana da sıradan geldi ne tesadüf. Karne gününe gitmem ve tren bileti almam güzel oldu. 79y'ye de bindim. Sıradan bir gün olsa da kötü değildi. 9 puan veriyorum. Denize giremedim ayak topuğum kesik diye ama zaten hava çok güzel değildi bugün. Karne günü olması açısından hiç stabil gelmedi bana. Etrafta bir sürü karneli çocuklar, gençler vardı.
Aynı süre içinde Kocaeli’de COViD-19 nedeniyle hayatını kaybedenlerin sayısı 2021 yılında 2 bin 317, 2022 yılında 719, 2023 yılında 79, geçen 2024 yılında da 8 olarak kayıtlara geçti.
Olabilir. Bu durum sadece onları ilgilendirir bence. Sen de öğretmen olsaydın derler adama. Herkesin maddi durumu kendisini ilgilendirir. Onlar da kolay atanmıyorlar. Kbss'ye giriyorlar falan zor iş. Dersi iyi bilmeleri lazım.
Ortaokuldaki ingilizce öğretmenimi görmüş olmam beni çok mutlu etti. Ayrıca bir ödevimi de tamamladık. Sadece 1 ödevim kaldı ve onu da ablamlar halledecekmiş.
insanların duygularını elbette umursamalıyız ama bazen hiç beklemediğimiz bir tepkiyle de karşılaşabiliyoruz en ufacık bir şeyden ya da karşımızdaki kişi çok anlayışlı olabiliyor. Sözün kısası empatinin de fazlası zarar bence. Bazen insan birine bir şey sormaya korkuyor kızacak diye ama sorunca karşısındaki kızmayabiliyor ve boşuna korkmuş oluyor.
--spoiler--
bu söz kuranda geçtiğine göre islam yanlış bir din diyebiliyor muyuz aykolik hocam?
--spoiler--
istersek diyebiliriz. islam evrensel diyorlar ama gavur memleket de diyorlar. Gavur memleket dememek lazım islam evrenselse bence. O ayet o zamanki müşrikler içinmiş yani öyle diyorlar.
"Bazen insan bir şeyi sırf yapmak için yapabiliyor."
"Hayatta her şey olabilir."
"Yaşadığımız müddetçe güzel yaşamalıyız, hayatın kıymetini bilmeliyiz."
