OpenAI съобщи, че е постигнала споразумение с Пентагона за внедряване на напреднали AI системи в класифицирани среди. Според компанията рамката включва повече предпазни механизми от предишни договорености за подобни внедрявания и е предложена като модел, който да може да се прилага и към други AI лаборатории.
Подходът комбинира техническа архитектура за внедряване, договорни клаузи и участие на одобрен (cleared) персонал на OpenAI, с цел да се намали рискът от неприемливи употреби.
Трите „червени линии“ на OpenAI
OpenAI посочва три основни ограничения, които определят работата ѝ с Department of War (DoW) и които, по думите ѝ, се споделят и от други водещи AI лаборатории:
- да не се използва технология на OpenAI за масово вътрешно (в страната) наблюдение на населението;
- да не се използва технология на OpenAI за насочване на автономни оръжейни системи;
- да не се използва технология на OpenAI за автоматизирани решения с висок залог (например системи тип „социален кредит“).
Компанията твърди, че при някои други доставчици фокусът се е изместил към по-общи политики за употреба вместо към по-твърди технически „предпазители“, докато нейният модел цели по-лесна проверимост и по-ясно прилагане на ограниченията.
Как е организирано внедряването: само облак и собствен „safety stack“
Ключов елемент в рамката е архитектурата на внедряване. OpenAI посочва, че предоставянето е „cloud-only“ и включва слой за безопасност (safety stack), който компанията управлява. Това означава, че не се предоставят модели „без ограничения“ и не се внедряват модели на крайни устройства (edge), където би могло да има по-голям риск от употреба в контексти като автономни летални системи.
По описанието на компанията тази архитектура позволява OpenAI самостоятелно да проверява дали „червените линии“ не се нарушават, включително чрез работа и обновяване на класификатори.
Според OpenAI комбинацията от облачно внедряване, собствен слой за безопасност и участие на одобрен персонал цели да направи ограниченията практически изпълними, а не само формално описани в политики.Договорните клаузи и правната рамка, на която се стъпва
OpenAI цитира договорен текст, според който DoW може да използва AI системата за всички законни цели, съобразени с приложимото право, оперативните изисквания и утвърдените протоколи за безопасност и надзор. В същото време са посочени ограничения за ситуации, в които закон, регулация или политика на Department изисква човешки контрол: системата няма да се използва за самостоятелно насочване на автономни оръжия или за други високорискови решения, които изискват одобрение от човешки вземащ решение.
Компанията посочва и препратка към DoD Directive 3000.09 (dtd 25 January 2023), според която употребата на AI в автономни и полуавтономни системи трябва да преминава през строг процес на верификация, валидиране и тестване в реалистични среди преди внедряване.
За разузнавателни дейности OpenAI посочва, че обработката на лична информация следва да е в съответствие с Fourth Amendment, National Security Act of 1947 и Foreign Intelligence and Surveillance Act of 1978, Executive Order 12333 и приложими директиви на DoD, които изискват ясно определена цел за външно разузнаване. В договора е посочено, че системата няма да се използва за неограничено наблюдение на личната информация на лица в САЩ, както и че няма да се използва за вътрешни правоохранителни дейности, освен ако това не е разрешено от Posse Comitatus Act и други приложими закони.
Допълнително, OpenAI твърди, че договорът препраща към действащите към момента стандарти за надзор и ограничения, като целта е употребата да остане в рамките на настоящите изисквания, дори ако законите или политиките се променят в бъдеще.
Роля на експертите: „cleared“ инженери и изследователи по безопасност
OpenAI заявява, че ще включи одобрени (cleared) инженери, които да работят на място (forward-deployed) в подкрепа на правителството, както и одобрени изследователи по безопасност и alignment, които да участват в процеса. Компанията представя това като допълнителен слой контрол и гаранции при реална употреба.
В позицията си OpenAI посочва още, че е настояла подобни условия да бъдат предложени и на други AI лаборатории. Компанията заявява, че не подкрепя Anthropic да бъде определяна като „supply chain risk“ и изразява надежда повече организации да обмислят сходна рамка за работа.
Какво означава това
- Пентагонът получава достъп до напреднали модели на OpenAI за класифицирани сценарии, но при архитектура „само в облака“ и с активен слой за безопасност.
- Ограниченията са формулирани като комбинация от технически мерки, договорни клаузи и участие на одобрен персонал, а не само като „политики за употреба“.
- Договорът включва конкретни препратки към DoD Directive 3000.09, Fourth Amendment, National Security Act of 1947, FISA (1978), Executive Order 12333 и Posse Comitatus Act, които задават рамка за допустима употреба.
- OpenAI твърди, че моделът не допуска използване за масово вътрешно наблюдение, за автономни оръжия без човешки контрол и за автоматизирани решения с висок залог.
- Компанията заявява намерение сходни условия да са достъпни и за други AI лаборатории, като опит за по-широк стандарт при национална сигурност.
