Американските военни са използвали AI модела Claude на Anthropic по време на операция, свързана със залавянето на венецуелския лидер Николас Мадуро, твърдят двама източници, запознати със ситуацията. Последвалата реакция може да се отрази на бизнеса на Anthropic с Пентагона, след като в администрацията е повдигнат въпрос за условията и ограниченията при използването на модела.
Реакция от Пентагона и позицията на Anthropic
След появата на информацията високопоставен представител на администрацията е заявил, че Пентагонът ще преоцени партньорството си с Anthropic. По думите му в Министерството на отбраната са възникнали притеснения около това дали компанията е поставила под съмнение употребата на софтуера в самата операция.
Същият представител е посочил, че партньорства с фирми, които биха могли да застрашат оперативния успех на военнослужещите на терен, подлежат на преоценка занапред.
Говорител на Anthropic отрече компанията да е отправяла подобно запитване към Министерството на отбраната. От Anthropic добавят, че не могат да коментират дали Claude или друг модел е използван в конкретна операция, класифицирана или не.
Каква може да е била ролята на Claude
Не е потвърдено как точно Claude е бил използван в операцията, но е известно, че военните са работили с модела и в други случаи — например за анализ на сателитни изображения или разузнавателна информация. Източниците твърдят, че в този случай Claude е бил използван по време на активното провеждане на операцията, а не само на етап подготовка.
Според наличната информация при операцията не са загинали американски граждани. Куба и Венецуела са заявили, че са загинали десетки техни военнослужещи и служители по сигурността.
Случаят изважда на преден план сблъсъка между нуждите на армията от максимална оперативна свобода и опитите на AI компаниите да налагат ограничения за чувствителни употреби, като масово наблюдение или автономни оръжия.Напрежение около правилата за употреба и „guardrails“
Пентагонът има интерес големите AI доставчици да позволяват използване на моделите им в широк спектър от сценарии, стига да е в рамките на закона. Anthropic, която се позиционира като компания с приоритет върху безопасността, води преговори с Пентагона относно условията за употреба на Claude.
Компанията настоява технологията ѝ да не се използва за масово наблюдение на американци или за управление на напълно автономни оръжия. Според източник, запознат с разговорите, Anthropic е уверена, че военните досега са спазвали действащите правила за употреба, които включват допълнителни ограничения.
Междувременно министърът на отбраната Пийт Хегсет е заявявал, че иска по-бърза интеграция на AI във всички аспекти на военната работа, включително с мотива да се поддържа преднина спрямо Китай. По информация на източник, запознат с дискусиите, високопоставени представители в Пентагона са изразявали раздразнение от подхода на Anthropic относно предпазните мерки.
По-широкият контекст: AI модели и класифицирани системи
Anthropic е сред няколко големи разработчици на модели, които работят с Пентагона в различни формати. OpenAI, Google и xAI също имат сделки, които позволяват на военни потребители да получат достъп до техни модели при по-малко ограничения в сравнение с тези за обикновените потребители. Не е ясно дали други модели са били използвани в рамките на операцията във Венецуела.
Най-чувствителните дейности на военните — от тестове на оръжия до комуникации по време на активни операции — се извършват върху класифицирани системи. Към момента само системата на Anthropic е налична на такива класифицирани платформи.
Anthropic има и партньорство с Palantir, компания за AI софтуер с обширни договори с Пентагона, което позволява Claude да бъде използван в продукти за сигурност. Не е ясно дали употребата на Claude в операцията е била свързана с партньорството Anthropic–Palantir.
Паралелно с това продължават разговори между Пентагона и OpenAI, Google и xAI за допускане на техни инструменти до класифицирани системи. В същото време Anthropic и Пентагонът обсъждат и възможност за разхлабване на ограниченията за Claude.
Какво означава това
- По-строг контрол върху партньорствата: Пентагонът може да постави по-твърди изисквания към доставчиците за оперативна непрекъсваемост и ясни правила за комуникация.
- Натиск за по-малко ограничения: Военните ще продължат да настояват за по-широка употреба на модели в реални операции, включително в динамични бойни условия.
- Риск за „safety-first“ позиционирането: AI компании като Anthropic трябва да балансират между търговски договори и собствените си политики за безопасност.
- Класифицираните системи стават ключов пазар: Достъпът до classified платформи е стратегическо предимство и може да пренареди конкуренцията между доставчиците.
