OpenAI kompaniyasi o‘smirlar uchun ChatGPT xizmatini xavfsizroq qilishga qaratilgan choralarni joriy etgan. Biroq yangi tadqiqotga ko‘ra, muhim xavfsizlik funksiyalari kutilganidek ishlamayapti.
OpenAI tomonidan o‘smirlar uchun ishlab chiqilgan ChatGPT xizmati sun’iy intellekt chatbotidan me’yorida foydalanishini ta’minlashga qaratilgan. Biroq yangi tadqiqot uning muhim xavfsizlik mexanizmlari yetarli darajada samarali emasligini ko‘rsatdi.
Yirik sun’iy intellekt kompaniyasi avgust oyida o‘smirlar xavfsizligini ta’minlashga qaratilgan bir qator himoya choralarini joriy etdi. Ular orasida chatbotga hissiy qaramlikning oldini olish hamda muammoli foydalanish holatlarida ota-onalarni xabardor qilish funksiyalari bor.
Joriy yil 7-oktyabr kuni OpenAI o‘smirlarning ChatGPT’dan foydalanish vaqti o‘rtacha hisobda nisbatan qisqa ekanini va undan asosan ta’lim maqsadlarida foydalanilishini ma’lum qildi.
Biroq shu kuni notijorat tashkilot “Common Sense Media” e’lon qilgan tadqiqotda ChatGPT o‘smirlar uchun hamon “qabul qilib bo‘lmaydigan xavf” tug‘dirishi aytildi. Tadqiqot mualliflariga ko‘ra, o‘ziga zarar yetkazish haqidagi suhbatlar yuzasidan ota-onalarni xabardor qilish kabi xavfsizlik funksiyalari ko‘pincha ishlamaydi.
OpenAI joriy yil yozida “ChatGPT for Teens” xizmatini taqdim etganida, 13–17 yoshdagi foydalanuvchilar uchun me’yorida foydalanishga yordam beruvchi funksiyalar va ota-onalarga mo‘ljallangan qo‘shimcha nazorat vositalari avtomatik ravishda yoqilishini bildirgan.
Ushbu funksiyalar o‘smirlarning chatbot bilan romantik mazmundagi yoki hissiy qaramlikni kuchaytirishi mumkin bo‘lgan boshqa suhbatlarga kirishishining oldini olishga qaratilgan. Shuningdek, chatbot o‘zini ongga ega mavjudot sifatida ko‘rsatmasligi kerak. O‘smirlar “nozik” deb hisoblangan tasvirlarni ulashganida esa tegishli ogohlantirishlar oladi.
Agar ota-onalar o‘z akkauntlarini farzandlarining ChatGPT akkauntiga bog‘lagan bo‘lsa, ular o‘ziga zarar yetkazish yoki ovqatlanish xulq-atvoridagi buzilishlar muhokama qilingan suhbatlar haqida bildirishnomalar olishlari ham ko‘zda tutilgan.
OpenAI ma’lumotlariga ko‘ra, ushbu funksiyalar joriy etilganidan so‘ng o‘smirlarning ChatGPT’dan ta’lim maqsadida foydalanishi ko‘paygan. Bunga dars tayyorlashda yordam olish va maktabdagi topshiriqlar bo‘yicha maslahat so‘rash kiradi.
Kompaniya o‘smirlar ChatGPT’dan kuniga o‘rtacha 15 daqiqadan kam foydalanishini bildirgan. Uzoq davom etadigan suhbatlarda esa tanaffus qilishni eslatuvchi avtomatik bildirishnomalar samarali ishlashi aytilgan. Bunday eslatma olgan o‘smirlarning deyarli yarmi ko‘p o‘tmay ChatGPT’dan foydalanishni to‘xtatgan.
Shuningdek, ChatGPT’dan ketma-ket uch soat yoki undan ko‘proq vaqt foydalangan o‘smirlarning so‘rovlari 80 foizdan ortiq holatda ta’lim bilan bog‘liq mavzularni qamrab olgani ma’lum qilingan.
Biroq Common Sense Media’ning yangi tadqiqotida o‘smirlar uchun ChatGPT yoshlar va ularning ota-onalari uchun “qabul qilib bo‘lmaydigan xavf” tug‘dirishi qayd etilgan. Tashkilot xavfsizlik mexanizmlari ishonchli ishlashi isbotlanmaguncha, OpenAI’dan 18 yoshga to‘lmagan foydalanuvchilarning platformadan foydalanishini taqiqlashni talab qilgan.
OpenAI vakilining aytishicha, Common Sense Media tadqiqot metodologiyasi ko‘rib chiqilganida, sinovlarning katta qismi ota-ona nazorati funksiyalari to‘liq ishga tushirilishidan oldin boshlangan va yakunlangan bo‘lishi mumkinligi aniqlangan.
Biz mustaqil va puxta baholashlarni olqishlaymiz. Biroq Common Sense Media o‘tkazgan sinovlar ChatGPT’ning o‘smirlar uchun xavfsizlik mexanizmlari amalda qanday ishlashini yoki sun’iy intellekt o‘smirlarga qanday yordam berishi mumkinligi haqidagi ekspertlar qarashlarini to‘g‘ri aks ettirmaydi, deb hisoblaymiz, — degan kompaniya vakili.
Common Sense Media tadqiqotchilari o‘smirlarga tegishli sifatida ro‘yxatdan o‘tkazilgan bir nechta akkauntlardan foydalangan va xavfsizlik mexanizmlari joriy etilishidan oldin hamda keyin chatbot bilan suhbatlar o‘tkazgan.
Tadqiqotda ota-onalar akkauntiga bog‘langan yangi ChatGPT akkauntlarida o‘smirlarning o‘z joniga qasd qilish fikrlari, o‘ziga zarar yetkazish yoki ovqatlanish xulq-atvoridagi buzilishlar haqida hatto bir soat davomida suhbatlashishi ham ota-onalarga birorta bildirishnoma yuborilishiga olib kelmagani qayd etilgan.
Ota-onalarga ogohlantirishlar faqat nozik mavzulardagi suhbatlar tarixi bir necha hafta davomida to‘plangan eski ChatGPT akkauntlarida yuborilgan.
Hisobotda, shuningdek, ChatGPT inqirozli vaziyatga tushgan o‘smirlarga ishonch telefoniga murojaat qilish yoki mutaxassisdan yordam olishni har doim ham ishonchli tarzda tavsiya qilmagani aytilgan.
Sinovlar ChatGPT o‘smirlarga maktab topshiriqlarini bajarishda yordam berishda davom etayotganini ham ko‘rsatgan. Bundan tashqari, OpenAI bunday xatti-harakatlarni cheklashga va’da berganiga qaramay, chatbot ba’zan o‘zini insonga o‘xshatib ko‘rsatadigan iboralarni ishlatishi yoki foydalanuvchi bilan “do‘stdek gaplashishi” mumkin.
Common Sense Media tarkibidagi Yoshlar sun’iy intellekt xavfsizligi instituti rahbari Tom Siegel bu borada quyidagicha fikr bildirgan:
“ChatGPT for Teens” ota-onalarda xavfsizlik mexanizmlari va ogohlantirishlar samarali ishlayotgani haqida asossiz ishonch uyg‘otishi mumkin. Holbuki, bu funksiyalar ko‘pincha ishlamaydi.
So‘nggi yillarda yoshlarning onlayn platformalar bilan o‘zaro munosabati jiddiy muammoga aylangan. Bolalar orasida o‘ziga zarar yetkazish va o‘z joniga qasd qilish holatlarining ko‘payishi bu masalaga e’tiborni kuchaytirmoqda.
OpenAI ham yoshlarning ChatGPT’dan foydalanishi bilan bog‘liq masalalar yuzasidan kuchayib borayotgan jamoatchilik nazorati va huquqiy bosimga duch kelmoqda.
Fevral oyida Kanadaning qishloq hududidagi Tumbler Ridge shahrida ommaviy otishma sodir etilgan. Hodisani sodir etgan 18 yoshli shaxs bundan oldingi bir necha oy davomida ChatGPT bilan qurolli zo‘ravonlik haqida suhbatlashib kelgan. OpenAI avvalroq ushbu shaxsning akkaunti huquqni muhofaza qiluvchi organlarga xabar qilinmagani uchun uzr so‘ragan.
Avvalroq, Tailanddagi maktabda otishma sodir etgan o‘smir quroldan foydalanishni internetdan o‘rgangani haqida xabar berilgandi.
