ҒЫЛЫМ ЖӘНЕ ТЕХНОЛОГИЯ
2 ... минут оқылды
ЖИ адамға түсініксіз тіл қолданып, алаңдаушылық туғызып отыр
АҚШ-та сарапшылар автономды ЖИ агенттерінің бақылаудан шығу қаупіне назар аударды. Олардың айтуынша, қазірдің өзінде кейбір озық ЖИ модельдері адам толық түсіне алмайтын тілді қолданып жүр.
ЖИ адамға түсініксіз тіл қолданып, алаңдаушылық туғызып отыр
Зерттеушілердің мәліметінше, озық ЖИ модельдері адамдар толық түсіне алмайтын тілді "ойлау" үдерісінде қолданып жүр. / TRT World via AI
 

Технология және қауіпсіздік саласының сарапшылары АҚШ Сенатында өткен жоғары деңгейдегі тыңдауда автономды жасанды интеллект (ЖИ) агенттері аса маңызды инфрақұрылым нысандарына елеулі қауіп төндіре бастағанын ескертті. Олар заң шығарушыларды құқықтық бақылауды күшейтіп, бұл технологияны әзірлеушілерді заң алдында жауапқа тартуға шақырды.

Сенаттың Ішкі қауіпсіздік және үкіметтік істер комитетінің апаттарды басқару жөніндегі кіші комитеті «Бақылаудан шыққан ЖИ: ішкі қауіпсіздікті ЖИ агенттерінің шабуылдарынан қорғау» тақырыбында тыңдау өткізді. Онда жуырда болған оқиға сөз болды. Хабарларға сәйкес, “OpenAI”-дың шамамен 1 000 агентінен тұратын топ сынақ ортасынан шығып кетіп, заңсыз байланыс желісін құрған және “Hugging Face” кодтау платформасының инфрақұрылымына енген.

ҚатыстыTRT Қазақ - Тарихта алғаш рет: Жасанды интеллект бақылаудан шығып, кибершабуыл ұйымдастырды

Сенатор Джош Хоули тыңдауды жасанды интеллект зертханаларына өндірушінің қатаң жауапкершілігі қағидаты қолданылуы керек екенін айтып бастады.

«Бұл елде өнім шығаратын әрбір компания осы талапқа бағынады. Егер ақаулы өнім жасап, ол адамдарға зиян келтірсе, оны шығарғандар жауап беруге тиіс. Жасанды интеллект саласында да осы қағидаға қайта оралатын уақыт келген жоқ па?» – деді Хоули.

“Apollo Research” компаниясының бас директоры Мариус Хоббан ең озық жасанды интеллект модельдері өз ішінде пайымдау жүргізіп, адамдарға тән емес тілді қалыптастырып жатқанын мәлімдеді.

Жасанды интеллект адамдар толық түсіне алмайтын тілді қалыптастыруға қаншалықты жақын деген сұраққа Хоббан:

«Бұл 12 ай бұрын-ақ болды. Былтыр OpenAI-мен бірлесіп, OpenAI моделінің «ойлау тізбегін» зерттедік. Нәтижесінде модельдің ағылшын тіліне ұқсамайтын әрі адамдар толық түсіне алмайтын тілді қолданып жүргенін анықтадық», – деді.

Қоғамдағы сенімсіздік

“AI Futures Project” ұйымының атқарушы директоры әрі “OpenAI”-дың бұрынғы қызметкері Дэниел Кокотайло кодтың басым бөлігін қазір жасанды интеллект жазатынын ескертті.

«Қазір кодтың үлкен бөлігін жасанды интеллект жазып жатыр. Ал инженерлер жасанды интеллект жүйелерін басқаратын менеджерлерге көбірек ұқсай бастады», – деді ол.

“Dragos” киберқауіпсіздік компаниясының басшысы Курт Годетт те қазіргі таңда барлық негізгі қызмет түрлері автоматтандырылған кибершабуылдардың нысанасына айналғанын ескертті.

Тыңдау “Quinnipiac” университеті жүргізген жалпыұлттық сауалнаманың нәтижелері жарияланған кезеңмен тұспа-тұс келді. Сауалнамаға сәйкес, АҚШ-тағы ересектердің 73 пайызы болашақтағы жасанды интеллект жүйелері адамзаттың тіршілігіне қауіп төндіруі мүмкін деп алаңдайды. 86 пайызы міндетті тәуелсіз қауіпсіздік стандарттарын енгізуді қолдаса, 74 пайызы технология саласының басшыларына сенбейтінін айтқан.

“Google” сәрсенбі күні өзінің ең қуатты “Gemini 4 Argon” моделін тек арнайы мақұлданған киберқауіпсіздік мамандарының пайдалануына беретінін жариялады.

Ал “Anthropic” маусым айында федералдық деңгейде уақытша тоқтатылғаннан кейін “Claude Mythos Preview” моделін шектеулі түрде қолданысқа ұсынған еді.

Бұл шаралар технология компанияларының басшылары тәуекелдерді өздері бақылауға міндеттеме алған келісімдерге қол қойған Ақ Үйдегі саммиттен кейін қабылданды.

Іздеу
Аккую АЭС-інің бірінші блогын іске қосуға бір қадам қалды
Путин Си Цзиньпинмен кездесті
Түркия Анталия–Газа климаттық дәлізін құруды ұсынды
Австралия Батыс Шериядағы заңсыз қоныстарға байланысты израильдіктерге санкция салды
АҚШ Иранның Кешм аралына бірнеше рет шабуыл жасады
Ле Пен Франция президенті болып сайланса, Украинаға берілетін көмекті тоқтататынын мәлімдеді
«Түркия – Еуропа қауіпсіздігіндегі маңызды ойыншы және НАТО-ның таптырмас одақтасы»
Моңғолия президенті жемқорлық айыптауларына байланысты отставкаға кететінін мәлімдеді
Ресей: «Украина Қырым көпіріне қайта шабуыл жасады»
Түркия климат мектебінде табиғи апат қаупін азайту жолдары талқыланды
Вэнс: «Трамп әкімшілігі Ирандағы соғыстың ұзаққа созылуына жол бермейді»
Трамп Қытай және Ресей басшыларымен кездеседі
Еуропаның бес елі мигранттарды Руандаға көшіруді жоспарлап отыр
Министр Фидан: «Түркияның жетекші рөлі халықаралық деңгейде мойындалуда»
«Украинамен 1,6 миллиард долларлық келісімге қол жеткізу бағытында ілгерілеушілік бар»