Технология және қауіпсіздік саласының сарапшылары АҚШ Сенатында өткен жоғары деңгейдегі тыңдауда автономды жасанды интеллект (ЖИ) агенттері аса маңызды инфрақұрылым нысандарына елеулі қауіп төндіре бастағанын ескертті. Олар заң шығарушыларды құқықтық бақылауды күшейтіп, бұл технологияны әзірлеушілерді заң алдында жауапқа тартуға шақырды.
Сенаттың Ішкі қауіпсіздік және үкіметтік істер комитетінің апаттарды басқару жөніндегі кіші комитеті «Бақылаудан шыққан ЖИ: ішкі қауіпсіздікті ЖИ агенттерінің шабуылдарынан қорғау» тақырыбында тыңдау өткізді. Онда жуырда болған оқиға сөз болды. Хабарларға сәйкес, “OpenAI”-дың шамамен 1 000 агентінен тұратын топ сынақ ортасынан шығып кетіп, заңсыз байланыс желісін құрған және “Hugging Face” кодтау платформасының инфрақұрылымына енген.
Сенатор Джош Хоули тыңдауды жасанды интеллект зертханаларына өндірушінің қатаң жауапкершілігі қағидаты қолданылуы керек екенін айтып бастады.
«Бұл елде өнім шығаратын әрбір компания осы талапқа бағынады. Егер ақаулы өнім жасап, ол адамдарға зиян келтірсе, оны шығарғандар жауап беруге тиіс. Жасанды интеллект саласында да осы қағидаға қайта оралатын уақыт келген жоқ па?» – деді Хоули.
“Apollo Research” компаниясының бас директоры Мариус Хоббан ең озық жасанды интеллект модельдері өз ішінде пайымдау жүргізіп, адамдарға тән емес тілді қалыптастырып жатқанын мәлімдеді.
Жасанды интеллект адамдар толық түсіне алмайтын тілді қалыптастыруға қаншалықты жақын деген сұраққа Хоббан:
«Бұл 12 ай бұрын-ақ болды. Былтыр OpenAI-мен бірлесіп, OpenAI моделінің «ойлау тізбегін» зерттедік. Нәтижесінде модельдің ағылшын тіліне ұқсамайтын әрі адамдар толық түсіне алмайтын тілді қолданып жүргенін анықтадық», – деді.
Қоғамдағы сенімсіздік
“AI Futures Project” ұйымының атқарушы директоры әрі “OpenAI”-дың бұрынғы қызметкері Дэниел Кокотайло кодтың басым бөлігін қазір жасанды интеллект жазатынын ескертті.
«Қазір кодтың барлығына жуығын жасанды интеллект жазып жатыр. Ал инженерлер жасанды интеллект жүйелерін басқаратын менеджерлерге көбірек ұқсай бастады», – деді ол.
“Dragos” киберқауіпсіздік компаниясының басшысы Курт Годетт те қазіргі таңда барлық негізгі қызмет түрлері автоматтандырылған кибершабуылдардың нысанасына айналғанын ескертті.
Тыңдау “Quinnipiac” университеті жүргізген жалпыұлттық сауалнаманың нәтижелері жарияланған кезеңмен тұспа-тұс келді. Сауалнамаға сәйкес, АҚШ-тағы ересектердің 73 пайызы болашақтағы жасанды интеллект жүйелері адамзаттың тіршілігіне қауіп төндіруі мүмкін деп алаңдайды. 86 пайызы міндетті тәуелсіз қауіпсіздік стандарттарын енгізуді қолдаса, 74 пайызы технология саласының басшыларына сенбейтінін айтқан.
“Google” сәрсенбі күні өзінің ең қуатты “Gemini 4 Argon” моделін тек арнайы мақұлданған киберқауіпсіздік мамандарының пайдалануына беретінін жариялады.
Ал “Anthropic” маусым айында федералдық деңгейде уақытша тоқтатылғаннан кейін “Claude Mythos Preview” моделін шектеулі түрде қолданысқа ұсынған еді.
Бұл шаралар технология компанияларының басшылары тәуекелдерді өздері бақылауға міндеттеме алған келісімдерге қол қойған Ақ Үйдегі саммиттен кейін қабылданды.
