Yapay zeka modellerinin tamamı “halüsinasyon” olarak ifade edilen bir olguyu yansıtma eğiliminde. Yani bu araçlar, boşlukları doldurmak için zaman zaman gerçekleri uydurabiliyor. Bu uydurma gerçekler o kadar zarifçe yapılıyor ki dikkatsiz bir zihin çok rahat bir şekilde kandırılabilir.
Listenin en altında ise Google’a ait iki büyük dil modeli yer alıyor ve açıkça kötü performans sergiliyorlar. Google Palm Chat, kendisine verilen materyal üzerinde yüzde 27’nin üzerinde halüsinasyon oranı yakalayarak en güvenilmez model oldu. Vectara’nın ölçümlerine göre Palm-Chat’in yanıtları tamamen halüsinasyon kalıntılarıyla dolu.