OpenAI, иноваторът, който стои зад ChatGPT и други известни инструменти за изкуствен интелект, обяви в сряда, че обмисля методи за „отговорно“ създаване на генерирано от изкуствен интелект порнографско и друго открито съдържание. Това решение, споменато в подробен документ, насочен към получаване на обратна връзка относно регулациите на продукта, предизвика загриженост поради неотдавнашните случаи, в които усъвършенстван ИИ беше използван за създаване на дълбоко фалшива порнография и синтетични голи тела.
Понастоящем OpenAI по принцип забранява сексуално открито или внушаващо съдържание. Компанията обаче преразглежда тази строга забрана. Според документа OpenAI проучва възможността за улесняване на създаването на NSFW (не е безопасно за работа) съдържание, включително ругатни, екстремни сцени и еротика, в контекст, подходящ за възрастни.
В интервю за NPR Джоан Джанг, ръководител на модела на OpenAI, която е допринесла за документа, изрази намерението на компанията да започне диалог за това дали еротичните текстове и голите изображения трябва да бъдат всеобщо забранени в нейните продукти с изкуствен интелект. „Ние се стремим да гарантираме, че хората имат максимален контрол, стига това да не е свързано с нарушаване на закона или правата. Разрешаването на Deepfake, обаче абсолютно не е на „дневен ред“, уточни Джанг. Тя допълни, че това не означава незабавна промяна към създаване на AI порнография, но отваря възможността за такова съдържание при определени дефиниции и условия.
Разговорът около промяната на политиката на OpenAI за NSFW се случва в критичен момент, белязан от възхода на приложенията „nudify“ и все по-широкото използване на ИИ за създаване на сексуални изображения без съгласие, особено сред тийнейджърите. Това доведе до нови форми на сексуален тормоз и експлоатация в училищата, както съобщава The New York Times.
През тази година широко се разпространиха и генерирани от изкуствен интелект фалшиви голи снимки на Тейлър Суифт, което накара Microsoft да въведе допълнителни предпазни мерки за своите генератори на изображения с изкуствен интелект. Документът на OpenAI противопоставя настоящите му възможности, като например да отговаря на въпроси за сексуалното здраве, на ограниченията му, като например отказа да генерира явни истории при поискване.
Въпреки тези предпазни мерки Джанг предположи, че чатботът в крайна сметка може да получи разрешение да отговаря на такива заявки, ако се счита за форма на творческо изразяване, която не нарушава законите и не предизвиква злоупотреби.
Експерти като Тифани Ли, професор по право, предупреждават, че облекчаването на политиката за NSFW може да породи значителни рискове, като подчертават необходимостта от изключителна предпазливост, ако се изследва това за образователни или художествени цели. Рене ДиРеста от Станфордската интернет обсерватория подчерта значението на законните, безопасно управлявани пътища пред по-слабо регулираните източници. Въпреки това Ли предупреди, че дори еротичният текст може да доведе до злоупотреба, като например при романтичните измами.
Макар че OpenAI е отворена за евентуално разрешаване на „безобидни случаи“, които понастоящем нарушават нейната политика за NSFW, Джанг потвърди, че създаването на сексуални изображения и видеоклипове без съгласието на потребителите, или дълбоко фалшива порнография, ще остане забранено.
