OpenAI предупреждава, че бъдещите модели представляват по-висок риск от подпомагане на създаването на биологично оръжие
OpenAI издаде предупреждение, че предстоящите й усъвършенствани модели на изкуствен интелект могат значително да увеличат риска от създаване на биологични оръжия, особено когато се използват от лица с минимален научен опит. Компанията признава, че макар тези модели да имат потенциала да направят революционни научни и медицински открития, те също така носят риск да бъдат използвани неправомерно за вредни цели.
Рискът от неправилна употреба
Очаква се моделите от следващо поколение на OpenAI да достигнат най-високото ниво на риск съгласно рамката за готовност на компанията, която оценява и намалява рисковете, свързани с все по-мощните модели на ИИ. Ръководителят на отдела за системи за безопасност Йоханес Хайдеке заяви, че компанията очаква някои наследници на техния модел за разсъждение o3 да попаднат в тази високорискова класификация. Това означава, че без подходящи смекчаващи мерки тези модели потенциално биха могли да дадат възможност на начинаещи участници да създават биологични или химически заплахи.
Съмнения относно „начинаещите активисти“
Хайдеке подчерта, че OpenAI е по-загрижена за потенциала за „издигане на новаците“, при който лица с ограничени научни познания биха могли да използват моделите на ИИ, за да възпроизведат известни биологични заплахи. Това е сериозна загриженост, тъй като същите възможности, които биха могли да отключат животоспасяващи медицински пробиви, могат да бъдат използвани и от лоши актьори за опасни цели. Компанията не се притеснява от създаването на напълно нови видове биологични оръжия, а по-скоро от потенциала за възпроизвеждане на съществуващи заплахи.
Усъвършенствано тестване на безопасността
За да намали тези рискове, OpenAI засилва тестовете си за безопасност и прилага нови предпазни мерки. Компанията работи с експерти по биосигурност, академични изследователи, специалисти от червени екипи, които тестват уязвимостите на ИИ, и правителствени структури като Центъра за стандарти и иновации в областта на ИИ на САЩ и Института за сигурност на ИИ на Обединеното кралство. Тези усилия включват обучение на моделите да не реагират на вредни подкани, използване на системи за откриване и блокиране, за да се маркират подозрителни дейности, свързани с биотехнологиите, и прилагане на политики за използване чрез системи за ИИ и човешки рецензенти.
Предпазни мерки срещу разработването на биологично оръжие
OpenAI прилага различни механизми за контрол на сигурността, за да предотврати подпомагането на своите модели при създаването на биологични оръжия. Тези мерки включват контрол на достъпа и укрепване на инфраструктурата, за да се гарантира, че само упълномощен персонал може да има достъп до моделите и да ги използва. Освен това компанията разработва системи за временно прекратяване на акаунти, които нарушават правилата, и за включване на правоприлагащите органи, когато е необходимо. С предприемането на тези проактивни мерки OpenAI цели да сведе до минимум риска от злоупотреба с нейните модели за вредни цели.
Бъдещи последици
Нарастващите възможности на моделите на ИИ да помагат при биологични или химически заплахи подчертават необходимостта от надеждни мерки за безопасност. С напредването на технологиите на ИИ е изключително важно както за компанията, така и за обществото да бъдат подготвени за бъдещето, в което любителите могат по-лесно да преминат от обикновени гаражни оръжия към сложни агенти. Като признава и се справя с тези рискове, OpenAI работи, за да гарантира, че нейните усъвършенствани модели на ИИ се използват отговорно и за по-голямо добро.
