Gallyutsinatsiya
Hallucination
AI ishonch bilan aytgan, lekin aslida toʻqib chiqarilgan yoki notoʻgʻri maʼlumot.
Til modeli keyingi soʻzni taxmin qiladi, taxmin esa bilim emas. Oʻqigan matnlarida aniq javob boʻlmasa ham, u toʻxtamaydi va eng ishonarli koʻrinadigan davomni yozadi. Chiroyli, silliq, ishonchli, lekin toʻqima. Buni gallyutsinatsiya deyishadi.
Oʻxshatish: imtihondagi talaba javobni bilmaydi, lekin varaqni boʻsh qoldirmaydi. Boʻsh varaq nol ball, taxmin esa balki ball olib kelar. OpenAI tadqiqotchilarining fikricha, AIʼlar ham taxmin qilish foydali boʻladigan tarzda oʻqitilgan va baholangan.
Misol: AIʼdan mavjud boʻlmagan oʻzbek kitobi haqida soʻrasangiz, u kitobning muallifini ham, mazmunini ham aytib berishi mumkin.
Koʻproq qayerda xato qiladi:
- aniq raqamlar va sanalarda;
- iqtiboslarda;
- manba va havolalarda;
- kam yozilgan mavzularda, masalan, Oʻzbekistonga oid mahalliy maʼlumotlarda.
Nima qilish kerak? Muhim narsani, ayniqsa sogʻliq, pul va huquq masalalarida, doim tekshiring. Manba soʻrang va uni oʻzingiz ochib koʻring. Soʻrovingizga "bilmasang, bilmayman de" deb qoʻshing.
Xato tushuncha: "AI bilmasa, bilmayman deydi". Har doim emas: xato javob ham toʻgʻri javobdek ishonchli ohangda yoziladi. Yangi modellar kamroq xato qiladi, lekin xato nolga tushmagan.