Gallyutsinatsiya: model nega yolg'on gapiradi
AI'ning eng xavfli xatosi — bilmasligini tan olmasligi. U bo'sh joyni ishonchli ko'rinadigan matn bilan to'ldiradi. Bu hodisa gallyutsinatsiya deb ataladi.
Nega bunday bo'ladi
Model keyingi so'zni taxmin qilishga o'rgatilgan. "Bilmayman" degan javob ham mumkin bo'lgan davomlardan biri, lekin o'quv matnlarida savollarga odatda javob beriladi — shuning uchun model javob berishga moyil.
U haqiqatni tekshirmaydi, chunki tekshiradigan mexanizmi yo'q. U faqat "shunga o'xshash matn qanday davom etardi?" degan savolga javob beradi.
Qayerda ko'p uchraydi
- Havolalar va manbalar. Model mavjud bo'lmagan URL yoki kitob nomini o'ylab topadi — ular rost ko'rinadi, chunki tuzilishi to'g'ri.
- Aniq raqamlar. Statistika, sana, foiz — bular eng ko'p buziladigan joy.
- Mahalliy ma'lumot. O'zbekiston haqidagi tafsilotlar — qonun moddalari, tashkilot nomlari, mahalliy narxlar — modelda kam uchragan, shuning uchun to'qib chiqarish ehtimoli yuqori.
- Kam ma'lum odamlar. Mashhur bo'lmagan shaxs haqida so'rasangiz, model tarjimai holni o'ylab topishi mumkin.
Qoida: javob qanchalik aniq va o'ziga ishonchli bo'lsa, tekshirish shunchalik zarur. Gallyutsinatsiya hech qachon "menimcha" deb boshlanmaydi.
Qanday kamaytirish mumkin
Materialni o'zingiz bering. "Bu hujjat asosida javob ber" degan so'rov "bilganingni ayt" degandan ancha ishonchli. Model o'ylab topish o'rniga berilgan matndan oladi.
Ruxsat bering. So'rovga "bilmasang, bilmayman deb yoz" deb qo'shing. Bu oddiy jumla xatolar sonini sezilarli kamaytiradi.
Manba so'rang. "Har bir da'vo uchun manba ko'rsat" deng — keyin o'sha manbalarni ochib tekshiring. Ochilmasa, da'vo ham shubhali.
Ikki marta so'rang. Bir xil savolni yangi suhbatda qayta bering. Javoblar bir-biridan keskin farq qilsa, model taxmin qilayotgan bo'ladi.
Qachon umuman ishonmaslik kerak
Tibbiyot, huquq, moliya va xavfsizlik masalalarida modelning javobini yakuniy deb qabul qilmang. U yerda xato narxi juda qimmat. Model bu sohalarda savol tuzishga, atamalarni tushunishga yordam beradi — qaror qabul qilishga emas.