Компанията за изкуствен интелект Anthropic съобщи, че не е водила разговори с министерството на отбраната на САЩ относно използването на AI системата ѝ Claude за конкретни операции. Паралелно с това американските военни разглеждат възможност да преразгледат отношенията си с фирмата заради ограниченията, които тя налага върху приложението на моделите си.
Случаят подчертава нарастващото напрежение между изискванията на отбранителните структури и правилата за безопасност, които част от AI разработчиците се опитват да наложат върху употребата на системите си.
Позицията на Anthropic и условията на Пентагона
Anthropic посочи, че не е обсъждала използването на Claude за конкретни операции с американското министерство на отбраната. Според информация от администрацията Пентагонът е поискал от четири водещи AI лаборатории да разрешат използването на инструментите им за „всички законни цели“. В този обхват попадат чувствителни направления като разработване на оръжия, разузнаване и операции на бойното поле.
Anthropic не е приела тези условия. Компанията поддържа позицията, че две области трябва да останат извън допустимите сценарии: масово наблюдение на американци и напълно автономни оръжия.
Спорните „сиви зони“ и рискът от блокиране на приложения
Според високопоставен представител на администрацията съществува съществена неяснота какво точно попада в категориите „масово наблюдение“ и „напълно автономни оръжия“. Това, по думите му, прави трудно Пентагонът да договаря отделни случаи на употреба или да разчита, че Claude няма неочаквано да блокира дадено приложение в критичен момент.
Политиките за употреба на големите езикови модели все по-често се сблъскват с реални оперативни сценарии, където границата между „анализ“ и „подпомагане на действие“ може да бъде неясна.Ескалация след твърдения за участие на Claude в операция във Венецуела
Напрежението между Пентагона и Anthropic се засили след публикация, според която американските военни са използвали модела Claude по време на операция за залавяне на бившия президент на Венецуела Nicolás Maduro. По тези данни Claude е бил използван в рамките на сътрудничество на Anthropic с компанията за анализ на данни Palantir Technologies, чиито платформи се използват широко от министерството на отбраната на САЩ и федерални правоохранителни агенции.
Според описанието на операцията американски сили са заловили Nicolás Maduro и съпругата му при удари по множество обекти в Каракас, след което Maduro е бил транспортиран до Ню Йорк, за да се изправи пред федерални обвинения за трафик на наркотици.
Политиките на Anthropic за употреба изрично забраняват Claude да се използва за улесняване на насилие, разработване на оръжия или за провеждане на наблюдение. Публикацията твърди, че моделът е бил свързан с акция, включваща бомбардировъчни действия, което поставя въпроси доколко действащите защитни механизми са ефективни, когато AI инструменти се внедряват в военен контекст.
Договор за до 200 млн. долара и бъдещето на партньорството
Според информацията разногласията около желаните от Пентагона сценарии за Claude са допринесли за нарастващо напрежение между компанията и представители на отбраната, като част от администрацията обмисля прекратяване на договор на стойност до 200 млн. долара. Посочва се още, че Anthropic е била първият AI разработчик, чийто модел е използван в класифицирани операции на министерството на отбраната, но остава неясно дали други AI системи са били използвани в мисията във Венецуела за некласифицирани задачи.
Какво е Claude и къде се позиционира на пазара
Claude е усъвършенстван чатбот и голям езиков модел, разработен от базираната в САЩ компания Anthropic. Системата е предназначена за генериране на текст, разсъждение, програмиране и анализ на данни. Claude се конкурира с други големи езикови модели, включително OpenAI’s ChatGPT и Google’s Gemini, и може да обобщава документи, да отговаря на сложни запитвания, да създава отчети, да подпомага програмиране и да анализира големи обеми текст.
Какво означава това
- По-строги правила срещу по-широки нужди: Пентагонът търси максимално широки права за употреба, докато Anthropic подчертава ограничения за наблюдение и автономни оръжия.
- Риск за големи договори: Различията в политиките и дефинициите могат да доведат до прекратяване на договор до 200 млн. долара.
- Неясни граници на отговорността: Случаят показва колко трудно е да се определи кога даден модел „само анализира“ и кога реално подпомага действие в чувствителни операции.
- Прецедент за индустрията: Ако се стигне до разрив, това може да повлияе на начина, по който държавни структури договарят достъп до модели като Claude, ChatGPT и Gemini.
