Anthropic и Пентагонът в спор за „any lawful use“ и границите на военната употреба на AI
Напрежението между Anthropic и Министерството на отбраната на САЩ се изостря заради искане за промяна в условията за използване на AI услуги, сведено до формулировката „any lawful use“. Според информация от преговорите това би дало възможност на армията да прилага системите и за масово наблюдение, и за автономни летални операции.
Паралелно с това се обсъжда и потенциално определяне на Anthropic като „supply chain risk“ – ход, който може да засегне не само директния договор на компанията с Пентагона, но и работата ѝ с ключови партньори от отбранителната и технологичната индустрия.
Спорът за „any lawful use“ и политиките за приемлива употреба
Според хора, запознати с вътрешните дискусии, конфликтът не е свързан с конкретни обвинения за уязвимости или шпионаж, а с това как Anthropic прилага своята „acceptable use policy“. Източник, поискал анонимност заради чувствителността на преговорите, твърди, че компанията е поставила две „червени линии“: автономни кинетични операции и масово вътрешно наблюдение.
По отношение на масовото наблюдение аргументът е, че правната рамка не е настигнала възможностите на AI и че подобни практики биха могли да засегнат гражданските свободи в САЩ. За автономните летални оръжия позицията е, че технологията не е достатъчно зряла за напълно автономни системи без „човек в цикъла“.
Заплахата за статус „supply chain risk“ и ефектът върху екосистемата
Преговорите са станали по-конфронтационни, като според два източника натискът за евентуално обозначаване на Anthropic като „supply chain risk“ се движи от Emil Michael – Undersecretary of Defense for research and engineering, често описван като главен технологичен директор на Пентагона. Подобна класификация обикновено е запазена за рискове за националната сигурност, включително злонамерено чуждо влияние или кибервойна.
Geoffrey Gertz, старши сътрудник в Center for a New American Security (CNAS), посочва, че по действащи федерални правила Пентагонът би могъл да направи подобна класификация без публичност и без да обяснява причините. Според него необичайното в случая е именно публичното използване на този инструмент като сигнал и потенциално възпиране на други компании да работят с Anthropic.
Официализиране на класификацията би прекратило и договора за 200 млн. долара между Anthropic и Министерството на отбраната. По-големият риск обаче е вторичният ефект: големи изпълнители и технологични фирми като AWS, Palantir и Anduril използват Claude в проекти за Пентагона, включително поради факта, че това е първият AI модел, получил разрешение да работи с класифицирана информация.
Gertz допуска, че тълкуването може да бъде „тясно“ (ограничение за конкретен обхват на работа) или „широко“ (фактическо изключване на Anthropic от целия отбранителен пазар). Публичният тон на натиска обаче подсказва, че трябва да се разглеждат и двата сценария.
Директиви на DoD и спорът дали компанията може да бъде принудена да отстъпи
Hamza Chaudhry, отговорник за AI и национална сигурност във Future of Life Institute, отбелязва, че заявените ограничения на Anthropic съответстват на вече съществуващи рамки на правителството, които не са отменени.
Той цитира DoD Directive 3000.09, според която автономните оръжейни системи трябва да са проектирани така, че командирите и операторите да могат да упражняват „подходящи нива на човешка преценка при употребата на сила“. Като допълнение Chaudhry посочва Political Declaration on Military Use of AI, инициирана от правителството на САЩ и подкрепена от 50 държави, която също закрепва принципа за човешки контрол.
По темата за събирането на данни Chaudhry се позовава на DoD Directive 5240.01, както и на разпоредби във FY2017 NDAA и Responsible AI Implementation Pathway от периода на администрацията на Тръмп, според които разузнавателните компоненти не могат да събират информация за лица в САЩ, освен при конкретни правни основания като FISA или Title 50.
Ключовият въпрос, според него, е дали Anthropic може да бъде принудена да се откаже от политика, която по принцип е в синхрон с позиции, към които самото правителство вече се е ангажирало.
„AI-first“ линия, договори за 200 млн. долара и проблемът с класифицираните мрежи
Ситуацията се усложнява от меморандум на Secretary Pete Hegseth, в който Министерството на отбраната заявява намерение да се превърне в „AI-first“ военна сила и изисква формулировката „any lawful use“ да бъде включена във всички договори за доставки на AI услуги в срок от 180 дни, включително чрез актуализиране на съществуващи насоки.
В документа се подчертава приоритет на скоростта и премахване на „блокери“ за споделяне на данни, както и интегриране на AI агенти „от планиране на кампании до изпълнение на kill chain“. Hegseth заявява още, че рисковете от забавяне са по-големи от рисковете от „несъвършено“ съгласуване и че „responsible AI“ ще претърпи значителни промени, включително използване на модели „без ограничения от политики за употреба“, които биха ограничили „законни военни приложения“.
Според наличната информация OpenAI, xAI и Google са предоговорили собствените си договори за 200 млн. долара, за да отразят тези изисквания. В същото време Chaudhry обръща внимание на технологичен и процедурен фактор: ChatGPT, Grok и Gemini нямат Impact Level 6 класификация, което означава, че не могат веднага да заменят Claude в напълно класифицирани среди.
Той подчертава, че Claude е единственият „frontier“ AI модел, работещ на напълно класифицирани мрежи на Пентагона, внедрен чрез AI Platform на Palantir и Top Secret Cloud на Amazon. Ако Anthropic бъде обявена за риск, по думите му, всеки отбранителен изпълнител, който търси правителствена работа, може да трябва да удостовери, че е премахнал всички технологии на Anthropic от системите си.
Този контекст дава на Anthropic известна преговорна тежест. Напрежението според информации се е увеличило и след като компанията е разбрала, че нейни модели са били използвани при залавянето на венецуелския президент Nicolás Maduro – действие, което би нарушило действащото споразумение.
Отделно, поради федералните правила за обществени поръчки, Anthropic не може да координира обща позиция с други AI лаборатории по новите условия. Въпреки това, тъй като спорът протича публично, се чуват критики от технологични работници и служители в AI сектора, че други компании не настояват за подобни ограничения. William Fitzgerald, бивш служител на Google и ръководител на The Worker Agency, коментира, че това е момент останалите лаборатории да зададат въпроса как точно се използва технологията им и дали бизнес моделът трябва да разчита на военни приложения.
Какво означава това
- Промяна в договорните стандарти: „any lawful use“ може да разшири допустимите сценарии за военна употреба на AI и да влезе в конфликт с ограниченията на доставчиците.
- Риск за партньорската мрежа: статус „supply chain risk“ би засегнал не само Anthropic, но и компании като AWS, Palantir и Anduril, които използват Claude в проекти за Пентагона.
- Проблем с незаменимостта: липсата на Impact Level 6 при ChatGPT, Grok и Gemini създава зависимост от Claude в класифицирани среди.
- Правен и политически сблъсък: позициите на Anthropic се припокриват с DoD Directive 3000.09 и DoD Directive 5240.01, което поставя въпроса дали правителството ще преформулира собствените си принципи.
- По-широк ефект върху AI индустрията: спорът може да се превърне в тест за това докъде компаниите могат да налагат политики за употреба при държавни клиенти.
