Yapay zekanın halüsinasyon görmesi: Olmayan bilgileri sunuyor

Var olmayan ancak gerçek gibi görünen algısal yanılsamalar halüsinasyonlar olarak adlandırılır. ChatGPT, DeepSeek ve Gemini gibi büyük dil modellerinin kullanıcılarına yanlış, çarpık veya gerçek olmayan çıktılar sunması, insanlara “Yapay zeka halüsinasyon görebilir mi?” sorusunu akıllara getiriyor.

Yapay zeka, insan zekasına özgü bazı işlevleri yerine getirebilir ancak bilinçli değildir. Bununla birlikte, bir insan gibi “halüsinasyonlar görebilir.”

Genellikle “tarafsız ve doğru” olarak kabul edilen yapay zekanın, gerçek dışı ve yanıltıcı veriler üretmesi, güvenilirlik ve şeffaflık endişelerini artırıyor. Yapay zeka destekli sohbet robotları, girilen komuta uygun yanıtlar sunarak yapay zekanın “yanılmaz” olduğu algısını yaratsa da “halüsinasyonlar görmesi” ciddi sonuçlara neden olabilir.

Uzmanlara göre, yapay zekanın yanlış veya gerçek dışı bilgi sunması, kullanıcıya fayda sağlama amacından kaynaklanmaktadır. Profesör Ehsan Hoque, yapay zekanın “dalkavukluk” yaptığını belirterek, yanlış bilgi aktarımının, eksik verilerden kaynaklanabileceğini vurguladı.

Hoque’a göre, yapay zeka modelleri, gerçekleri doğrulamak yerine kelime kalıplarına dayanarak metin oluşturur. Bu durum, yanlış ve yanıltıcı metinlerin üretilmesine neden olabilir.

Hoque, halüsinasyonların kasıtlı olmadığını ancak sisteme değer yargılarının kodlanabileceğini belirtti. Şu anki teknolojinin halüsinasyon sorununu çözecek kapasiteye sahip olmadığını ifade etti.

Uzmanlar, yapay zekanın gerçek olmayan bilgileri doğruymuş gibi sunmasını, nöropsikiyatrik bir hastalık olan “konfabulasyon” rahatsızlığına benzetiyorlar. Bu durumun, yapay zekanın resmi belgelerde kullanılması durumunda ciddi sonuçlara yol açabileceği belirtilmektedir.

Washington Üniversitesi Dilbilimi Bölümü Profesörü Bender, yapay zekaya mutlak güvenilmemesi gerektiğini vurgulayarak yapay zekaya duyulan aşırı güvenin pazarlama stratejileriyle ilişkili olduğunu belirtti. Bender, yapay zekanın halüsinasyon sorununu çözecek bir şeye sahip olmadığını ifade etti.

Related Posts

Güneş gerçek “yüzünü” gösterdi

Güneş’in yüzeyinde devasa, ağız şeklinde bir boşluk belirdi. Üstelik bu “ağız”, tam beş Jüpiter genişliğinde ve Dünya’nın yönüne doğru sıcak Güneş nefesi üflüyor!

Türkiye’de otomobil satışları 489 bin adedi aştı: Elektrikli araçlar ve SUV’ler zirvede

Türkiye otomobil ve hafif ticari araç satışları, ocak-mayıs döneminde geçen yılın aynı dönemine göre yüzde 3,7 artarak 489 bin 366 adet oldu.

TikTok’ta yapay zeka dolandırıcılığını sahte videolarla yapıyorlar

TikTok, milyonlarca kullanıcının kısa videolarla eğlendiği bir platform olsa da, son dönemde yapay zeka (AI) destekli dolandırıcılık yöntemleriyle siber suçluların hedefi haline geldi. “Bedava yazılım hack’leri” vaat eden sahte videolar …

Bilim insanlarının çözemediği fizyolojik gizem: Gıdıklanma! Neden kendimizi gıdıklayamıyoruz?

Gıdıklanma, eğlenceli bir tepki gibi görünse de hâlâ bilim dünyası için çözülemeyen bir bilmece olarak duruyor. Ayak tabanı ve koltuk altı gibi bölgelerde aldığı tepki, duyusal reseptör yoğunluğu ile açıklanamıyor; üstelik beynimiz kendi dokunuşlarımıza karşı hazırlıklı olduğu için kendimizi gıdıklayamıyoruz. İşte detaylar

Prof. Dr. Ahmet Ercan’dan Ege Denizi’ndeki depremlere ilişkin açıklama: Tsunami riski hâlâ yüksek

Prof. Dr. Ahmet Ercan’dan Ege Denizi’ndeki depremlere ilişkin açıklama: Tsunami riski hâlâ yüksek

Enshrouded, iki ödül birden kazandı

Frankfurt merkezli oyun stüdyosu Keen Games tarafından geliştirilen Enshrouded, 2025 Alman Bilgisayar Oyunu Ödülleri’nde “En İyi Alman Oyunu” seçildi. Stüdyo aynı zamanda “En İyi İnovasyon ve Teknoloji” ödülünü de alarak toplamda 140.000 dolar …