“Anthropic”  бейсенбі күні жасаған мәлімдемесінде жасанды интеллект модельдерінің мүмкіндіктері артқан сайын күрделі кибершабуылдар жасау үшін енді жоғары деңгейдегі біліктілік қажет емес екенін және бір адамның өзі бір жыл бұрын мүмкін болмаған ауқымдағы қауіп төндіре алатынын айтты.

Компания өзінің ең жаңа модельдеріне қару жасау үшін де пайдаланылуы мүмкін биологиялық зерттеулерді шектеуге бағытталған күшейтілген қауіпсіздік шараларын енгізгенін хабарлады.

«Біз мұнда бөлісіп отырған жағдайлар теріс пайдаланудың әдеттегі мысалдары емес. Керісінше, бұлар — осы уақытқа дейін анықтаған ең назар аударарлық әрі жаңа қауіп-қатер әрекеттерінің мысалдары», -  деп жазды “Anthropic”  2025 жылғы наурыздан бері жариялаған жасанды интеллектіні теріс пайдалану туралы үшінші есебінде.

Есепте “Anthropic”  анықтағанын мәлімдеген зиянды кодтар мен жасанды интеллектіге берілген нұсқаулардың үзінділері келтірілген. Компания үкіметтер мен жасанды интеллект саласындағы бәсекелестерін осындай теріс пайдалану әрекеттерін анықтап, олардың алдын алуға шақырды.

«Біз қызметтеріміздің зиянды мақсатта пайдаланылуы туралы ашық айтуға міндеттіміз деп санаймыз. Модельдердің мүмкіндіктері артқан сайын жасанды интеллект әзірлеушілері мен қоғамның қауіпсіздігін қорғаушылар оларды қауіпсіз ету үшін әрекет етпесе, тәуекелдер де арта түседі», - деді компания.

ЖИ-ді шетелде теріс пайдалану

Осы күзде акцияларын биржаға шығаруды жоспарлап отырған жасанды интеллект стартапының көлемді есебі компания зерттеушілерінің бірі “Anthropic”  пен оның бәсекелестері жасанды интеллектіні дамытуда жеткілікті деңгейде жауапкершілік танытпай отыр деген алаңдаушылықпен қызметінен кеткенін жариялағаннан кейін бір күн өткен соң жарық көрді.

Ол технологияның адам бақылауынан шығып кету ықтималдығына қатысты сала ішінде де, одан тыс жерлерде де айтылып жүрген алаңдаушылықтарды қайталады.

“Claude”-тан вирустың қауіптілігін арттыруға көмек сұралды

2025 жылғы желтоқсан мен 2026 жылғы тамыз аралығында “Anthropic”  зерттеушілері шпиондық бағдарламаларды сатушылар, «саяси мәселелерге бағытталған тұлғалар» және үгіт-насихат тарататын мемлекет қолдауындағы топтар секілді тараптардың жүйені теріс пайдалану әрекеттерін анықтады.

Компания есебіндегі деректердің арасында өз модельдерін биологиялық қару жасауға әкелуі мүмкін зерттеулер үшін пайдалануға тырысқан аты-жөні аталмаған тараптар да бар.

“Anthropic” “Claude”-тан ғылыми грантқа өтінім жазуға көмек сұралған бір жағдайды анықтап, сұрауды бұғаттағанын мәлімдеді.

«Өтінімде талқыланған жұмыс чикунгунья вирусына қатысты gain-of-function зерттеуін қамтыды. Яғни бұл — ағзаға жаңа немесе күшейтілген биологиялық қасиет беру мақсатында оны генетикалық тұрғыдан өзгертуді көздейтін зерттеу. Бұл gain-of-function зерттеуі вирустың жұққыштығын және иммундық жүйеден жалтару қабілетін зерттеуге бағытталған», - делінген есепте.

Чикунгунья — қатты ауырсыну мен дене қызуының көтерілуі сияқты ауыр белгілерді тудыратын, маса арқылы таралатын вирус.

Сұрау вирусты біртіндеп қауіпті ете түсетін мутацияларды көбейтуге бағытталған зерттеу үшін гранттық ұсыныс дайындауды қамтыған.

“Anthropic”  мұндай зерттеулердің жақсырақ вакциналар мен емдеу әдістерін әзірлеуге «сөзсіз» пайдаланылуы мүмкін екенін, бірақ «патогенді одан да қауіпті ету үшін де қолданылуы ықтимал» екенін айтты.

“Anthropic”  модельдерінің зиян келтірмейтініне кепілдік бере алмайтынын мәлімдеді

“Anthropic”  есебіне енгізілген жағдайлардың ешқайсысында, рұқсатсыз дистилляция жағдайын қоспағанда, жаңа әрі қуатты “Claude Fable” немесе “Mythos” санатындағы модельдердің пайдаланылғаны көрсетілмеген. “Anthropic”  бұл жалғыз жағдайды «бір модельдің мүмкіндіктерін рұқсатсыз алып, оларды басқа модельде қайталауға бағытталған өнеркәсіптік ауқымдағы жасырын науқан» деп сипаттады.

“Anthropic”  “Claude Opus 4” және “Claude Sonnet 4.5” сияқты 2025 жылғы бұрынғы жүйелер тәжірибелі пайдаланушыға қауіпті биологиялық зерттеу жүргізуге елеулі көмек көрсете алатын деңгейден әлдеқайда төмен болғанын айтты.

«Сондықтан бұл модельдердегі қауіпсіздік шаралары қатаңдығы жағынан төмен болды және негізінен тәжірибесі аз адамдардың бұрыннан белгілі биологиялық қаруларды қайта жасауды үйренуіне мүмкіндік беретін ақпаратқа қол жеткізуін шектеуге бағытталды», - делінген есепте.

«Алайда бүгінгі модельдерге (күрделі ғылыми зерттеу міндеттерінің кең ауқымын орындауға көмектесе алатын жүйелерге) қатысты дәлелдер енді біржақты емес және бұрынғыдай кепілдік беру мүмкін емес».

Осыған байланысты “Anthropic”  “Claude Fable 5” сияқты жаңа модельдерінде «қосарлы мақсатта қолданылуы мүмкін биологиялық зерттеулерге қатысты сұраулардың кең ауқымына қол жеткізуді шектейтін күшейтілген қауіпсіздік шараларын» енгізгенін мәлімдеді.

Адамзаттың жойылу қаупі туралы ескерту

Есеп “Anthropic”  зерттеушілерінің бірінің алаңдатарлық ескертуінен кейін жарияланды. Компания сондай-ақ жүздеген әлеуметтік желі аккаунтын ашып, оларды қарапайым адамдарға тиесілі етіп көрсеткен және бір апта бойы белгілі бір саяси көзқарасты күшейтуге бағытталған жазбалар таратқан топтарды анықтады.

Компания Парсы шығанағы, Оңтүстік Азия, Африка және Еуропамен байланысты осындай тоғыз жағдайды анықтағанын хабарлады.

Әлеуметтік желі компаниялары мұндай әрекеттерді жазбалар жарияланғаннан кейін анықтай алса, “Anthropic”  өкілдерінің айтуынша, «біз операция әлі құрылып жатқан кезде-ақ оны “Claude”-та көре аламыз».

“Anthropic”  бұл есепті зерттеушісі Джейкоб Коксон қызметінен кетіп, компания мен оның басты бәсекелесі “OpenAI” “өзін-өзі жетілдіре алатын аса қуатты жасанды интеллектіге жету жолында тікелей жарысқа түсіп, біздің өмірімізді қатерге тігіп отыр” деп мәлімдегеннен кейін жариялады.

Коксон өз жазбасында кейбір әріптестерінің осы онжылдықтың соңына қарай жасанды интеллект адам өміріне қауіп төндіруі мүмкін деп қауіптене бастағанын білдірді.

Алайда “Anthropic”  өзі анықтаған барлық зиянды әрекетті бұғаттағанын, жинақталған тәжірибені қауіпсіздік шараларын күшейту үшін пайдаланғанын және үкімет өкілдері мен саладағы серіктестерімен ақпарат алмасқанын мәлімдеді

«Осы есептегі тұжырымдар басқа әзірлеушілерге өз платформаларында осындай әрекет үлгілерін анықтауға, үкіметтер мен азаматтық қоғамға пайда болып жатқан қауіптердің қалай қалыптасып жатқанын нақтырақ түсінуге және ортақ қорғаныс шараларын күшейтуге көмектеседі деп үміттенеміз», - деді “Anthropic”.