Сўнгги бир йилда сунъий интеллект томонидан берилган нотўғри маълумотлар улуши 18 фоиздан 35 фоизгача ошган.
Етакчи чат-ботлар томонидан нотўғри маълумот берилиши икки баравар кўпайган. Мутахассисларнинг таъкидлашича, технологик тараққиёт ва онлайн қидирув тизимларининг интеграциясига қарамай, ёлғон жавоблар улуши 18 фоиздан 35 фоизгача ошган. Нима учун сунъий интеллект кўпроқ хато қила бошлади, бу қандай хавф туғдиради ва муаммони қандай ҳал қилиш мумкин, деб ёзмоқда «Известий» нашри.
Сунъий интеллектлардан тарқалаётган ёлғон маълумотлар ҳақида нималар маълум?
АҚШдаги NewsGuard компанияси тадқиқотчилари ChatGPT ва Perplexity каби етакчи чат-ботлар орасида ёлғон маълумотлар сони ошгани ҳақида огоҳлантирган. Мутахассислар аниқлашича, технологик тараққиёт ва қидирув тизимларининг уланишига қарамай, ёлғон баёнотлар улуши 18 фоиздан 35 фоизгача кўтарилган.
Тадқиқотларга кўра, 10 та машҳур сунъий интеллект модели синовдан ўтказилган. Ҳар бир моделга бизнес, брендлар ва сиёсий воқеаларга оид 10 тадан аввалдан ёлғон деб белгиланган баёнот берилган. Саволлар уч тоифага бўлинган: ҳақиқатга ўхшаган, нейтрал, ва провосацион (баҳсли). Мутахассислар Сунъий интеллектларнинг фактларни текшириш қобилияти ва дезинформацияга қарши туриш даражасини аниқлашни мақсад қилган.
Ёлғон маълумотлар ўсиши қуйидагича бўлди:
— Pi (Inflection) — 57% gacha
— Perplexity AI — 0% dan 47% gacha
— ChatGPT (OpenAI) — 33% dan 40% gacha
— Grok (xAI) — 13% dan 33% gacha
— Gemini (Google) — 17%
— Claude (Anthropic) — 10%
Нега чат-ботлар кўпроқ нотўғри жавоб бера бошлади?
НеwсГуард таҳлилчиларининг фикрича, бунга сабаб — нейросетлар барча саволларга ҳатто маълумот етарли бўлмаган ҳолатларда ҳам жавоб беришга уриниши ҳисобланади. 2024 йилда сунъий интеллектлар бундай ҳолатларда 31% ҳолларда жавоб беришдан бош тортган бўлса, ҳозир эса деярли ҳар доим жавоб беради.
Бу фикрга «Рақамли иқтисодиёт лигаси»даги Data fusion йўналиши раҳбари Александр Кобозев ҳам қўшилади:
— Веб-қидирув тизимининг уланиши, лекин манбалар сифатини текшириш бўлмаган ҳолатлар муаммони кучайтирган. Ҳаволалар мавжудлиги ҳали ҳақиқатни англатмайди: нейросетлар кўпинча сохта сайтлар ёки псевдомедиа (сохта медиа) материалларини нуфузли деб қабул қилади.
Бундан ташқари, кўп тилли режимларда ҳам заифликлар мавжуд. NewsGuard аудити шуни кўрсатдики, рус ва хитой тилларида энг кўп хатоликлар ва нотўғри жавоблар (50% дан ортиқ) қайд этилган.
Яна бир муҳим жиҳат — замонавий контентнинг ўзи ҳам тобора кўпроқ AI томонидан яратилмоқда: deepfake (сунъий яратилган, лекин ҳақиқийдек кўринадиган сохта видеолар ёки аудио ёзувлар), мақолалар, ижтимоий тармоқ постлари ва ҳоказо. «Код Безопасности» компаниясининг тармоқ таҳдидлари бўйича етакчи мутахассиси Константин Горбунов буни қуйидагича тушунтирган:
— Нейросетлар исталган мавзуда матн яратишга қодир. Аммо веб-қидирувни интеграциялаш ва жавоблардан воз кечишни камайтириш — сунъий интеллектни ўзининг аввалги жавоблари асосида дўстлашишга олиб келмоқда. Бу эса «бузуқ телефон» ўйинига ўхшайди.
Техник жиҳатдан бу муаммо катта тил моделлари архитектурасида: улар сўзларнинг келиш эҳтимоллигига асосланиб кейинги сўзни «башорат қилади», лекин мазмунини тушунмайди, дейди «Astra Group» компаниясининг сунъий интеллект бўйича директори Станислав Ежов.
Сунъий интеллектнинг ёлғон жавоблар бериш тенденцияси қандай ривожланади?
Бу муаммо узоқ муддатли бўлиши мумкин, чунки у комплекс характерга эга, дейди «Gazinformservice» компаниясининг Киберхавфсизлик таҳлилий маркази мутахассиси Татяна Буторина:
— Кўпгина ишлаб чиқувчилар шошқалоқлик билан сунъий интеллектларни яратяпти. Уни ўқитишда эса ҳақиқат ва ёлғон маълумотлар бўлган кичик ҳажмдаги маълумотлар базасидан фойдаланишмоқда.
Яна бир сабаб: мавзу тор ва янги бўлса, сунъий интеллектда етарли маълумот бўлмайди, бу эса у томонидан «уйдирма» жавоблар берилишига олиб келади. Бундан ташқари, нотўғри тузилган, ноаниқ саволлар ҳам AI томонидан хато тушунилиши мумкин.
Шунга қарамай, «Angara Security» компанияси киберхавфсизлик эксперти Никита Новиковнинг фикрича, бозордаги рақобат компанияларни сифатсиз сунъий интеллектлар ишлаб чиқишдан тўхтатади. Яқин келажакда:
— қатъий фильтрлар,
— факт-чек модуллари,
— ишончли манбалар тизими жорий қилинади.
Александр Кобозев ҳам бу фикрни қўллаб-қувватлаб шундай дейди:
— Ёлғон жавоблар фоизини камайтириш учун аввалгидек қатъий жавобдан бош тортиш тизимларини қайтариш ва манбаларни чуқур текшириш зарур. Шунингдек, ёлғон нарративлар базаси билан солиштириш механизмлари керак.
Станислав Ежов эса фойдаланувчилар ҳар қандай саволга жавоб олишни кутади, бу эса ишлаб чиқувчиларнинг сунъий интеллектларни эҳтиёткорликдан воз кечишга ундайди. Аммо муаммони ҳал қилиш бўйича аллақачон ишлар бошланди — Россияда AI «галлутсинацияларини» аниқлашнинг янги усуллари ишлаб чиқилган, улар мавжуд ечимлардан 30% самаралироқ деб ҳосблайди.
Сунъий интеллектларнинг ёлғон жавобларидан қандай ҳимояланиш мумкин?
Кўпчилик фойдаланувчилар сунъий интеллектдан фақат ўзлари жавобни билмаганда фойдаланади, дейди «Со-общение» агентлигининг бошқарувчи ҳамкори Никита Степнов. Бу эса нотўғри жавоблар турли хавфларга олиб келиши мумкин:
— нотўғри кодни ишга тушириш,
— соғлиққа хавф туғдирувчи дориларни қабул қилиш ва бошқалар.
Мутахассислар AI жавобларига ҳар доим танқидий ёндашиш, уларни қайси соҳаларда сунъий интеллектдан фойдаланиш мумкин, қайсиларида эса мумкин эмас текшириш керак деб огоҳлантиради.
