Yapay zeka halüsinasyonu nedir?

Dil modelleri doğruyu "bilmez"; eğitildikleri metinlere göre en olası cevabı üretir. Bir konu hakkında yeterli bilgi yoksa ya da soru yanlış yönlendiriciyse, model boşluğu makul görünen ama yanlış bilgiyle doldurabilir. Buna halüsinasyon denir.

Sık görülen örnekler:

• Var olmayan kitap, makale ya da kanun maddesi göstermek
• Yanlış tarih, istatistik ya da fiyat vermek
• Gerçek bir kişiye söylemediği bir sözü atfetmek

Halüsinasyonu azaltmak için:

1. Modelden kaynak göstermesini iste ve kaynakları kendin kontrol et.
2. "Emin değilsen bilmiyorum de" gibi bir talimat ekle.
3. Sağlık, hukuk ve para gibi önemli konularda yapay zekayı ilk adım olarak kullan, son kararı uzmana ya da güvenilir kaynağa bırak.

Görsel modellerde de benzer bir durum vardır: altı parmaklı eller ya da anlamsız yazılar da bir tür "halüsinasyondur".