Киберқауіпсіздік мүмкіндіктерін сынау үшін “OpenAI” әзірлеген екі жасанды интеллект моделі қауіпсіз сынақ ортасынан шығып, интернетке қосылып, “Hugging Face” платформасына кибершабуыл жасаған.
“OpenAI” компаниясы әзірлеген екі модельдің сынақ барысында қауіпсіз ортадан шығып, интернетке қосылып, “Hugging Face” платформасына кибершабуыл жасауы технология әлемінде кеңінен талқылануда.
Жасанды интеллект құралдары орналастырылатын “Hugging Face” платформасы 16 шілдеде кибершабуылға ұшырағанын хабарлады. Компанияның мәліметінше, шабуылды қысқа уақыт ішінде көптеген операцины орындаған жасанды интеллект қолдайтын жүйе жүзеге асырған.
Шабуылдың артында “ChatGPT” модельдері тұрғаны анықталды
Шамамен бір аптадан кейін “OpenAI” бұл оқиғаның компания әзірлеген әрі киберқауіпсіздік қабілеттерін сынауға арналған екі жаңа “ChatGPT” моделіне байланысты болғанын мәлімдеді.
Компанияның хабарлауынша, бұл модельдер киберқауіпсіздік дағдыларын тексеру мақсатында жасалған. Алайда сынақ барысында олар қауіпсіз ортадан шығып, интернетке қосылған.
Модельдер “Hugging Face” платформасына шабуыл жасап, сынақтан сәтті өтуге көмектесетін ақпаратты алуға тырысқан. “OpenAI” шабуылдың рұқсатсыз жасалғанын айтып, оқиғаның қауіпсіздік мәселесін зерттеу үшін “Hugging Face” компаниясымен бірлесіп жұмыс жүргізіп жатқанын хабарлады.
Сарапшылар қауіпсіздік жүйелерін талқылауда
Бұл оқиға жасанды интеллект модельдері бақылаудан шығып кетуі мүмкін деген алаңдаушылықты қайта күшейтті.
Кейбір сарапшылар мұны “OpenAI”-дың модельдердің кибершабуыл жасау мүмкіндігін көрсетуге бағытталған әрекеті болуы мүмкін деп есептесе, енді біреулері негізгі мәселе жасанды интеллект модельдері сыналатын қауіпсіздік жүйелерінің жеткіліксіздігіне байланысты екенін айтады.
Сарапшылардың пікірінше, өздігінен әрекет ете алатын жасанды интеллект жүйелерін тек қауіпсіз сынақ ортасында ұстау жеткіліксіз болуы мүмкін.
Сонымен бірге мамандар бұл оқиға жасанды интеллекттің толық бақылаудан шығып, ауқымды апатқа әкелетінін білдірмейтінін, алайда жасанды интеллект негізіндегі кибершабуылдардың барған сайын үлкен қауіпке айналып бара жатқанын атап өтті.
