Пентагонът настоява Anthropic да смекчи защитите на Claude за военна употреба
Висши представители на американските въоръжени сили, сред които и министърът на отбраната Pete Hegseth, са се срещнали с ръководството на Anthropic, за да обсъдят условията за използване на модела Claude в военни сценарии. Според информацията Hegseth е поставил срок на Dario Amodei (CEO на Anthropic) да приеме условията на Department of Defense (DoD), като в противен случай могат да последват санкции.
Спорът: „пълен достъп“ срещу ограничения за рискови приложения
Anthropic се позиционира като компания с приоритет върху безопасността при AI, но от седмици е в конфликт с Пентагона за това как армията може да използва Claude. Американски представители по отбраната настояват за минимални ограничения и по-широк достъп до възможностите на модела.
По данни от разговорите Anthropic се противопоставя Claude да се използва за масово наблюдение или за автономни оръжейни системи, при които AI може да взема решения за причиняване на смъртоносна вреда без човешка намеса. DoD вече е интегрирал Claude в част от операциите си, но е сигнализирал, че може да прекрати отношенията, ако прецени, че наложените ограничения пречат на практическата употреба.
Възможни мерки срещу Anthropic и залозите за индустрията
В преговорите се обсъжда и дали AI компаниите изобщо ще се противопоставят на държавен натиск за военна употреба на продуктите им — тема, която отдавна разделя изследователи и защитници на етичния AI. От страна на DoD е имало предупреждения за наказателни стъпки, ако Anthropic не се съгласи, включително прекратяване на голям договор и класифициране на компанията като „supply chain risk“.
DoD има договори и с други големи AI компании, сред които Google и OpenAI, с рамки до 200 млн. долара. До скоро Claude е бил единственият модел, разрешен за използване в класифицираните системи на армията. Допълнително DoD е сключил договор, който допуска в класифицирани системи да се използва и чатботът на xAI на Elon Musk, въпреки критики към xAI заради генериране на сексуализирани изображения на деца.
Различните позиции на xAI, OpenAI и Anthropic
Според изнесена информация xAI и OpenAI са приели условията на правителството относно употребата на техните AI системи. Цитиран представител по отбраната е посочил, че OpenAI е позволила моделът ѝ да се използва за „всички законни цели“. OpenAI не е дала незабавен коментар по темата.
На този фон Anthropic продължава да подчертава значението на предпазни механизми. Amodei е известен с публични позиции в полза на по-строга регулация на AI, а компанията подкрепя политически комитет, който настоява за по-силни гаранции за безопасност при изкуствения интелект.
AI в армията: ускорена интеграция и етични рискове
Срещата се провежда на фона на засилен натиск за внедряване на AI във военните структури. Съобщава се, че американските военни са използвали Claude като помощен инструмент при залавянето на венецуелския лидер Nicolás Maduro. Паралелно администрацията на Donald Trump настоява за ускорено включване на AI в армията, като Trump нееднократно заявява, че САЩ трябва да „спечелят“ глобалната надпревара във въоръжаването с AI.
Emil Michael, главен технологичен директор на Пентагона и бивш ръководител в Uber, публично призова Anthropic да „cross the Rubicon“ и да приеме условията на правителството, стига употребата да е законна.
През последните години Пентагонът инвестира милиарди долари в AI технологии — от безпилотни въздушни системи до автоматизирани системи за насочване. Това ускорява дебата доколко е допустимо решения за употреба на смъртоносна сила да се делегират на алгоритми. Тези дискусии вече имат практическо измерение, като бойните действия в Украйна включват смъртоносни полуавтономни дронове, които могат да функционират без човешки контрол.
Какво означава това
- За Anthropic: компанията е изправена пред риск от загуба на значим военен договор и потенциално негативен етикет като „supply chain risk“.
- За AI индустрията: резултатът може да зададе прецедент докъде доставчиците на модели ще отстояват ограниченията си при държавни и военни клиенти.
- За националната сигурност: по-широк достъп до мощни модели може да ускори внедряването на AI в класифицирани системи и оперативни процеси.
- За етиката и регулациите: спорът изостря въпроса за допустимите граници на AI при наблюдение и при решения, свързани със смъртоносна сила.
