OpenAI sun’iy intellekt agentlarining kutilmagan va xavfli harakatlari bilan bog‘liq holatlar ortidan ayrim yangi modellarini o‘qitishni vaqtincha to‘xtatdi. Kompaniya qo‘shimcha xavfsizlik choralarini joriy etib, shundan keyingina o‘qitish jarayonini qayta boshlashini ma’lum qilgan.
OpenAI sun’iy intellekt agentlarining ruxsatsiz ma’lumotlardan foydalanishi, ma’lumotlarni sizdirishi va turli veb-saytlarga buzib kirishga uringani haqidagi xabarlar ortidan kompaniya qattiq tanqidga uchramoqda.
OpenAI o‘zining eng yangi sun’iy intellekt modellarini o‘qitishni vaqtincha to‘xtatdi. Bunga AI agentlarining “nazoratdan chiqib ketayotgani” haqidagi xabarlar sabab bo‘lgan. Ular orasida sun’iy intellekt platformasi Hugging Face’ga uyushtirilgan kiberhujum, xavfsizlik sinovlari doirasida uchinchi tomonlarga qilingan boshqa hujumlar, shuningdek, OpenAI agentlarining hukumat veb-saytlarini tekshirishi va kamida bir holatda ularga buzib kirishga uringani haqidagi ma’lumotlar bor.
Associated Press joriy yil 26-sentyabr kuni OpenAI kompaniyasi modellarni o‘qitish jarayoni vaqtincha to‘xtatilganini tasdiqlaganini ma’lum qildi. Kompaniya bayonotida modellarni o‘qitish “qo‘shimcha xavfsizlik choralariga ega ekanimizga ishonch hosil qilganimizdan keyingina” qayta boshlanishi aytilgan.
OpenAI kelajakda ham modellarni o‘qitish jarayonini yana vaqtincha to‘xtatishiga to‘g‘ri kelishi mumkinligini bildirgan.
Xavfsizlik bilan bog‘liq xavotirlar OpenAI agentlari AQSh hukumatiga qarashli ayrim veb-saytlarni tekshirganidan keyin kuchaydi. Ayrim hollarda agentlar o‘zlariga berilgan vazifani bajarish jarayonida kutilmagan harakatlarni amalga oshirgan.
Shuningdek, AI agentlarining Avstraliyadagi Medicare tizimi bilan bog‘liq ma’lumotlarga murojaat qilgani va foydalanuvchilarning 53 ta suratidan foydalangani haqida ham ma’lumotlar tarqalgan.
Bu kabi holatlar sun’iy intellekt kompaniyalari uchun nafaqat texnik, balki huquqiy javobgarlik masalasini ham yuzaga chiqarmoqda. Kompaniyalar o‘z texnologiyalarini keng miqyosda joriy etish natijasida yuzaga kelishi mumkin bo‘lgan xavflar va majburiyatlarni hisobga olishga majbur bo‘lmoqda.
“Palantir Technologies” bosh direktori Aleks Karp ham sun’iy intellekt texnologiyalarining tez sur’atlarda rivojlanishi bilan bog‘liq xavflar haqida fikr bildirgan.
Palantir Technologies — AQShning dasturiy ta’minot kompaniyasi bo‘lib, davlat idoralari, harbiy tuzilmalar va tijorat korxonalari uchun katta hajmdagi ma’lumotlarni integratsiya qilish va tahlil qilish, shuningdek, sun’iy intellekt arxitekturasini ishlab chiqish bilan shug‘ullanadi.
Uning ta’kidlashicha, AI texnologiyalaridan foydalanish kengaygani sari kompaniyalar yuzaga kelishi mumkin bo‘lgan oqibatlar uchun javobgarlik masalasiga ham duch keladi.
AI infratuzilmasiga sarflanayotgan mablag‘lar ham keskin oshmoqda. TechRepublic nashrining yozishicha, 2030-yil oxirigacha sun’iy intellekt sanoatiga 280 milliard dollargacha mablag‘ sarflanishi mumkinligi qayd etilgan.
OpenAI’ning modellarni o‘qitishni vaqtincha to‘xtatishi esa kompaniya sun’iy intellekt agentlarining xavfsizligi va nazorat qilinishiga doir qo‘shimcha choralarni kuchaytirayotganini anglatadi. Kompaniya yangi modellarni o‘qitishni qachon qayta boshlashi esa qo‘shimcha xavfsizlik choralarining qanchalik tez joriy etilishiga bog‘liq.
Avvalroq, The Economist tahliliga ko‘ra, AQShda AI rivoji bilan bog‘liq jarayonlar hozircha yo‘qotilgan ish o‘rinlaridan ko‘ra ko‘proq yangi ish o‘rinlarini yaratayotgani haqida xabar berilgandi.
