So‘nggi bir yilda sun’iy intellekt tomonidan berilgan noto‘g‘ri ma’lumotlar ulushi 18 foizdan 35 foizgacha oshgan.
Yetakchi chat-botlar tomonidan noto‘g‘ri ma’lumot berilishi ikki baravar ko‘paygan. Mutaxassislarning ta’kidlashicha, texnologik taraqqiyot va onlayn qidiruv tizimlarining integratsiyasiga qaramay, yolg‘on javoblar ulushi 18 foizdan 35 foizgacha oshgan. Nima uchun sun’iy intellekt ko‘proq xato qila boshladi, bu qanday xavf tug‘diradi va muammoni qanday hal qilish mumkin, deb yozmoqda “Известий” nashri.
Sun’iy intellektlardan tarqalayotgan yolg‘on ma’lumotlar haqida nimalar ma’lum?
AQShdagi NewsGuard kompaniyasi tadqiqotchilari ChatGPT va Perplexity kabi yetakchi chat-botlar orasida yolg‘on ma’lumotlar soni oshgani haqida ogohlantirgan. Mutaxassislar aniqlashicha, texnologik taraqqiyot va qidiruv tizimlarining ulanishiga qaramay, yolg‘on bayonotlar ulushi 18 foizdan 35 foizgacha ko‘tarilgan.
Tadqiqotlarga ko‘ra, 10 ta mashhur sun’iy intellekt modeli sinovdan o‘tkazilgan. Har bir modelga biznes, brendlar va siyosiy voqealarga oid 10 tadan avvaldan yolg‘on deb belgilangan bayonot berilgan. Savollar uch toifaga bo‘lingan: haqiqatga o‘xshagan, neytral, va provosatsion (bahsli). Mutaxassislar sun’iy intellektlarning faktlarni tekshirish qobiliyati va dezinformatsiyaga qarshi turish darajasini aniqlashni maqsad qilgan.
Yolg‘on ma’lumotlar o‘sishi quyidagicha bo‘ldi:
— Pi (Inflection) — 57% gacha
— Perplexity AI — 0% dan 47% gacha
— ChatGPT (OpenAI) — 33% dan 40% gacha
— Grok (xAI) — 13% dan 33% gacha
— Gemini (Google) — 17%
— Claude (Anthropic) — 10%
Nega chat-botlar ko‘proq noto‘g‘ri javob bera boshladi?
NewsGuard tahlilchilarining fikricha, bunga sabab — neyrosetlar barcha savollarga hatto ma’lumot yetarli bo‘lmagan holatlarda ham javob berishga urinishi hisoblanadi. 2024-yilda sun’iy intellektlar bunday holatlarda 31% hollarda javob berishdan bosh tortgan bo‘lsa, hozir esa deyarli har doim javob beradi.
Bu fikrga “Raqamli iqtisodiyot ligasi”dagi Data Fusion yo‘nalishi rahbari Aleksandr Kobozyev ham qo‘shiladi:
— Veb-qidiruv tizimining ulanishi, lekin manbalar sifatini tekshirish bo‘lmagan holatlar muammoni kuchaytirgan. Havolalar mavjudligi hali haqiqatni anglatmaydi: neyrosetlar ko‘pincha soxta saytlar yoki psevdomedia (soxta media) materiallarini nufuzli deb qabul qiladi.
Bundan tashqari, ko‘p tilli rejimlarda ham zaifliklar mavjud. NewsGuard auditi shuni ko‘rsatdiki, rus va xitoy tillarida eng ko‘p xatoliklar va noto‘g‘ri javoblar (50% dan ortiq) qayd etilgan.
Yana bir muhim jihat — zamonaviy kontentning o‘zi ham tobora ko‘proq AI tomonidan yaratilmoqda: deepfake (sun’iy yaratilgan, lekin haqiqiydek ko‘rinadigan soxta videolar yoki audio yozuvlar), maqolalar, ijtimoiy tarmoq postlari va hokazo. ‘‘Код Безопасности’’ kompaniyasining tarmoq tahdidlari bo‘yicha yetakchi mutaxassisi Konstantin Gorbunov buni quyidagicha tushuntirgan:
— Neyrosetlar istalgan mavzuda matn yaratishga qodir. Ammo veb-qidiruvni integratsiyalash va javoblardan voz kechishni kamaytirish — sun’iy intellektni o‘zining avvalgi javoblari asosida do‘stlashishga olib kelmoqda. Bu esa “buzuq telefon” o‘yiniga o‘xshaydi.
Texnik jihatdan bu muammo katta til modellari arxitekturasida: ular so‘zlarning kelish ehtimolligiga asoslanib keyingi so‘zni “bashorat qiladi”, lekin mazmunini tushunmaydi, deydi “Astra Group” kompaniyasining sun’iy intellekt bo‘yicha direktori Stanislav Yejov.
Sun’iy intellektning yolg‘on javoblar berish tendensiyasi qanday rivojlanadi?
Bu muammo uzoq muddatli bo‘lishi mumkin, chunki u kompleks xarakterga ega, deydi “Gazinformservice” kompaniyasining Kiberxavfsizlik tahliliy markazi mutaxassisi Tatyana Butorina:
— Ko‘pgina ishlab chiquvchilar shoshqaloqlik bilan sun’iy intellektlarni yaratyapti. Uni o‘qitishda esa haqiqat va yolg‘on ma’lumotlar bo‘lgan kichik hajmdagi ma’lumotlar bazasidan foydalanishmoqda.
Yana bir sabab: mavzu tor va yangi bo‘lsa, sun’iy intellektda yetarli ma’lumot bo‘lmaydi, bu esa u tomonidan “uydirma” javoblar berilishiga olib keladi. Bundan tashqari, noto‘g‘ri tuzilgan, noaniq savollar ham AI tomonidan xato tushunilishi mumkin.
Shunga qaramay, “Angara Security” kompaniyasi kiberxavfsizlik eksperti Nikita Novikovning fikricha, bozordagi raqobat kompaniyalarni sifatsiz sun’iy intellektlar ishlab chiqishdan to‘xtatadi. Yaqin kelajakda:
— qat’iy filtrlar,
— fakt-chek modullari,
— ishonchli manbalar tizimi joriy qilinadi.
Aleksandr Kobozyev ham bu fikrni qo‘llab-quvvatlab shunday deydi:
— Yolg‘on javoblar foizini kamaytirish uchun avvalgidek qat’iy javobdan bosh tortish tizimlarini qaytarish va manbalarni chuqur tekshirish zarur. Shuningdek, yolg‘on narrativlar bazasi bilan solishtirish mexanizmlari kerak.
Stanislav Yejov esa foydalanuvchilar har qanday savolga javob olishni kutadi, bu esa ishlab chiquvchilarning sun’iy intellektlarni ehtiyotkorlikdan voz kechishga undaydi. Ammo muammoni hal qilish bo‘yicha allaqachon ishlar boshlandi — Rossiyada AI «gallutsinatsiyalarini» aniqlashning yangi usullari ishlab chiqilgan, ular mavjud yechimlardan 30% samaraliroq deb hosblaydi.
Sun’iy intellektlarning yolg‘on javoblaridan qanday himoyalanish mumkin?
Ko‘pchilik foydalanuvchilar sun’iy intellektdan faqat o‘zlari javobni bilmaganda foydalanadi, deydi “Со-общение” agentligining boshqaruvchi hamkori Nikita Stepnov. Bu esa noto‘g‘ri javoblar turli xavflarga olib kelishi mumkin:
— noto‘g‘ri kodni ishga tushirish,
— sog‘liqqa xavf tug‘diruvchi dorilarni qabul qilish va boshqalar.
Mutaxassislar AI javoblariga har doim tanqidiy yondashish, ularni qaysi sohalarda sun’iy intellektdan foydalanish mumkin, qaysilarida esa mumkin emas tekshirish kerak deb ogohlantiradi.
