Компания за изкуствен интелект разкри нови случаи на използване на нейни модели за кибератаки, пропаганда и опасни биологични изследвания, дни след като един от нейните изследователи подаде оставка поради опасения за безопасността.
Anthropic обяви в четвъртък, че е блокирала опитите на нападателите да използват нейните модели с изкуствен интелект за кибератаки, наблюдение и биологични изследвания, които биха могли да допринесат за разработването на оръжия.
Компанията отбеляза, че с нарастването на мощността на моделите с изкуствен интелект, сложните кибератаки изискват все по-малко технически познания, което означава, че дори отделни хора вече могат да създават заплахи, които биха били невъзможни само преди година.
Anthropic добави, че е засилила мерките за сигурност в най-новите си модели, за да ограничи биологичните изследвания с потенциални приложения за оръжия.
„Случаите, докладвани тук, не са просто злоупотреба. Те представляват най-значимата и нововъзникваща злонамерена дейност, която сме открили до момента“, заяви Anthropic в третия си доклад за злоупотреба с изкуствен интелект, изготвен от март 2025 г. насам.
Докладът включва фрагменти от злонамерен код и заявки с изкуствен интелект, които компанията твърди, че е идентифицирала. Anthropic призовава правителствата и конкурентните компании за изкуствен интелект да следят отблизо подобни злоупотреби.
„Публикуваме този документ, защото вярваме, че е наш дълг да разкриваме случаи на злонамерено използване на нашите услуги“, заяви компанията. „С нарастването на възможностите на моделите, ще се увеличават и рисковете, освен ако разработчиците на изкуствен интелект и обществените защитници не предприемат стъпки, за да направят технологията по-безопасна.“
Anthropic, която се готви за първично публично предлагане тази есен, публикува доклада два дни след като един от нейните изследователи обяви оставката си, изразявайки загриженост, че компанията и нейните конкуренти разработват изкуствен интелект без дължимата отговорност.
Той повтори предупрежденията на индустрията, че технологията може да излезе от човешки контрол.
Claude помолиха да помогнат вирусът да стане по-опасен
От декември 2025 г. до август 2026 г. изследователите на Anthropic документираха случаи на злоупотреба от широк кръг участници, от доставчици на шпионски софтуер и политически мотивирани активисти до подкрепяни от държавата групи, разпространяващи пропаганда.
Сред инцидентите, описани в доклада, са опити на неизвестни страни да използват модели на Anthropic за изследвания, които биха могли да доведат до създаването на биологични оръжия. В един случай компанията твърди, че нейните системи са блокирали заявка към чатбота на Claude за помощ при подготовката на заявление за изследователска безвъзмездна помощ.
„Заявката описва изследване за усилване на функцията, т.е. генетично модифициране на организъм, за да се придадат нови или подобрени биологични свойства, както е приложено към вируса чикунгуня“, се казва в доклада.
Изследването е имало за цел да увеличи инфекциозността на вируса и способността му да избягва имунната система.
Чикунгуня е вирус, пренасян от комари, който причинява силна болка и треска. Заявлението за безвъзмездна помощ предлага усилващи мутации, които биха направили вируса все по-опасен.
Anthropic отбелязва, че подобно изследване „със сигурност“ би могло да помогне за разработването на ваксини и лечения, но добавя, че „би могло да се използва и за да се направи патогенът по-опасен“.
„Не можем да гарантираме липсата на вреда“
Нито един от инцидентите, описани в доклада, не е свързан с по-новите, по-мощни модели на Anthropic – класът Claude Fable или Mythos – с едно изключение: „мащабна тайна кампания за извличане на възможностите на модела и репликирането им в друг модел без разрешение“.
Според Anthropic, по-ранните модели, включително Claude Opus 4 и Claude Sonnet 4.5 2025, „са били значително под прага, при който биха могли значително да помогнат на опитен потребител при провеждането на опасни биологични изследвания“.
„В резултат на това мерките за сигурност в тези модели бяха по-малко строги и насочени предимно към предотвратяване на достъпа до материали, които биха могли да помогнат на начинаещите да пресъздадат известни биологични оръжия“, се казва в доклада. „Въпреки това, за съвременните модели, които вече са способни да помагат в широк спектър от сложни научноизследователски задачи, доказателствата вече не са толкова ясни и ние не можем да повторим същата гаранция.“
Ето защо, според доклада, Anthropic е затегнала сигурността в по-нови модели като Claude Fable 5, ограничавайки достъпа до широк спектър от заявки, свързани с биологични изследвания с двойна употреба.
Тъй като компаниите за изкуствен интелект пускат на пазара все по-мощни модели, експертите призовават правителствата да регулират тази технология, вместо да разчитат на самоконтрол от страна на индустрията.
Според Джон Тейкстън, доцент по компютърни науки в университета Корнел, това поставя компании като Anthropic и OpenAI в неудобно положение, тъй като те са ефективно принудени да правят „ценностни преценки в мащаба на обществото без никакъв демократичен или процедурен надзор“.
Докладът дойде след предупреждение от изследовател
Anthropic също така идентифицира групи, които са създали стотици фалшиви акаунти в социалните медии, представящи се за обикновени потребители. В течение на една седмица те публикуваха съобщения, подкрепящи същата политическа позиция.
Компанията описа девет подобни операции, които свързва с Русия, Иран, Турция, Персийския залив, Южна Азия, Африка и Европа.
Според Anthropic, докато платформите за социални медии могат само да откриват кампании за влияние, след като публикациите вече са започнали да се разпространяват, компанията „може да ги забележи в Claude още на етапа на подготовка на операцията“.
Публикуването на доклада беше предшествано от оставката на изследователя на Anthropic Джейкъб Коксън, който обясни решението си, като посочи опасения, че компанията и основният ѝ конкурент, OpenAI, „се втурват към самоусъвършенстващ се суперинтелект, рискувайки живота ни“.
Коксън предупреди, че някои от бившите му колеги смятат, че изкуственият интелект може да застраши човешкия живот преди края на десетилетието.
Anthropic заяви, че е блокирала цялата злонамерена дейност, идентифицирана в доклада, използвала е данните за засилване на мерките за сигурност и е споделила информацията с правителствени агенции и индустриални партньори.
„Надяваме се, че констатациите от този доклад ще бъдат ефективни. Констатациите на доклада ще помогнат на други разработчици да разпознаят подобни модели на собствените си платформи, ще дадат на правителствата и гражданското общество по-ясна представа за това как се оформят новите заплахи и ще укрепят колективната защита“, заяви компанията.
Източник: Euronews
