Галлюцинация
Hallucination
AI ишонч билан айтган, лекин аслида тўқиб чиқарилган ёки нотўғри маълумот.
Тил модели кейинги сўзни тахмин қилади, тахмин эса билим эмас. Ўқиган матнларида аниқ жавоб бўлмаса ҳам, у тўхтамайди ва энг ишонарли кўринадиган давомни ёзади. Чиройли, силлиқ, ишончли, лекин тўқима. Буни галлюцинация дейишади.
Ўхшатиш: имтиҳондаги талаба жавобни билмайди, лекин варақни бўш қолдирмайди. Бўш варақ нол балл, тахмин эса балки балл олиб келар. OpenAI тадқиқотчиларининг фикрича, AIʼлар ҳам тахмин қилиш фойдали бўладиган тарзда ўқитилган ва баҳоланган.
Мисол: AIʼдан мавжуд бўлмаган ўзбек китоби ҳақида сўрасангиз, у китобнинг муаллифини ҳам, мазмунини ҳам айтиб бериши мумкин.
Кўпроқ қаерда хато қилади:
- аниқ рақамлар ва саналарда;
- иқтибосларда;
- манба ва ҳаволаларда;
- кам ёзилган мавзуларда, масалан, Ўзбекистонга оид маҳаллий маълумотларда.
Нима қилиш керак? Муҳим нарсани, айниқса соғлиқ, пул ва ҳуқуқ масалаларида, доим текширинг. Манба сўранг ва уни ўзингиз очиб кўринг. Сўровингизга "билмасанг, билмайман де" деб қўшинг.
Хато тушунча: "AI билмаса, билмайман дейди". Ҳар доим эмас: хато жавоб ҳам тўғри жавобдек ишончли оҳангда ёзилади. Янги моделлар камроқ хато қилади, лекин хато нолга тушмаган.