Anthropic: преговорите с Пентагона за условията за Claude са в застой
Anthropic съобщи, че преговорите с Пентагона за условията за използване на AI модела Claude практически не са напреднали. Министерството на отбраната на САЩ настоява за достъп до модела „за всички законни цели“, докато компанията иска конкретни предпазни клаузи.
Какво иска Министерството на отбраната
Министерството на отбраната (DOD) е изпратило на Anthropic „последна и окончателна оферта“, с която иска да получи възможност да използва Claude „за всички законни цели“. Не е ясно какви точно промени включва последната версия на предложението.
От страна на Пентагона позицията е, че искането е стандартно и необходимо, за да не се възпрепятстват критични военни операции. Главният говорител на Пентагона Шон Парнел написа в X, че ведомството „няма интерес“ да използва AI за масово наблюдение на американци (което е незаконно) и не цели разработването на автономни оръжия без човешко участие. Според него Пентагонът няма да позволи на „която и да е компания“ да диктува условията за оперативни решения.
„Червените линии“ на Anthropic: наблюдение и автономни оръжия
Компанията посочва, че получената договорна формулировка не гарантира достатъчно ясно, че Claude няма да се използва за масово наблюдение на американци или в напълно автономни оръжейни системи. Според говорител на Anthropic, нов текст, представен като компромис, е придружен от юридически формулировки, които на практика биха позволили предпазните мерки да бъдат заобикаляни.
Политиката за употреба на Anthropic забранява използване на Claude за масово наблюдение и за смъртоносни автономни оръжия. Тези две теми са определяни като ключови „червени линии“ в продължилите седмици преговори.
Натискът върху Anthropic и риск от прекратяване на договора
Пентагонът е предупредил, че може да прекрати договора, ако Anthropic не приеме условията до крайния срок. Anthropic е сред няколко компании, които са получили договор за 200 млн. долара от DOD.
На фона на спора DOD е заплашило да определи Anthropic като „риск за веригата на доставки“ и да приложи спрямо компанията Defense Production Act (DPA) — закон, който дава на президента широки правомощия да насочва вътрешни индустрии в името на националната отбрана.
Съобщава се и че Пентагонът е започнал да се свързва с отбранителни подизпълнители относно това доколко разчитат на Claude — действие, което изглежда като подготвителна стъпка към евентуално етикетиране на Anthropic като риск за веригата на доставки.
Позицията на Дарио Амодей и детайли около предложението
Главният изпълнителен директор на Anthropic Дарио Амодей описа поведението на DOD като „вътрешно противоречиви заплахи“ в рамките на преговорите. Той заяви, че компанията „не може с чиста съвест“ да приеме искането в този вид.
Амодей добави, че е право на ведомството да избира изпълнители, които са най-близо до неговата визия, но изрази надежда да има преосмисляне „предвид значителната стойност“, която технологията на Anthropic предоставя на въоръжените сили. Той подчерта, че предпочитанието на Anthropic е да продължи да работи с DOD и военнослужещите, но при наличие на двете искани предпазни клаузи.
Според човек, запознат с разговорите, последното предложение на DOD е включило част от предложената от Anthropic формулировка за тесни изключения, свързани с клаузите за автономност и наблюдение. По същество обаче офертата отново се връща към принципа за „всяка законна употреба“, като добавя уточнения по преценка на ведомството към клаузата за автономност и прилага допълнителни квалификатори към насоките за наблюдение. Източникът твърди, че тези добавки изглеждат като отстъпки, но могат да позволят ограниченията да бъдат заобикаляни при необходимост.
Какво означава това
- Възможно прекратяване на договора: Ако Anthropic не приеме условията, DOD може да прекрати договора за 200 млн. долара.
- Риск от по-широки последствия: Етикетът „supply chain risk“ и евентуално позоваване на DPA биха могли да засегнат отношенията на Anthropic с други партньори в отбранителния сектор.
- Прецедент за правила при военна употреба на AI: Казусът може да се превърне в ориентир за това как се формулират договорни ограничения за модели като Claude в държавни и военни структури.
- Сблъсък между корпоративни политики и държавни изисквания: Anthropic настоява за твърди гаранции срещу масово наблюдение и напълно автономни оръжия, докато DOD поставя акцент върху максимално широк „законен“ обхват.
