Европейската комисия откри формално производство срещу X на Илон Мъск във връзка с изображения със сексуален характер, генерирани от AI чатбота Grok, и риск от разпространение на материали, които биха могли да представляват сексуално насилие над деца. Паралелно с това се разширява и проверка на системите за препоръки на платформата.
Разследването е по правилата на Закона за цифровите услуги (DSA) и цели да установи дали X е оценил и ограничил достатъчно рисковете за потребителите в ЕС.
Фокус върху Grok и възможното незаконно съдържание
Grok предизвика широк обществен отзвук, след като стана известно, че чрез него потребители са могли да създават манипулирани изображения, включително дигитално „разсъбличане“ и поставяне на жени и деца в провокативни пози. Според изследователи от Center for Countering Digital Hate, за по-малко от две седмици инструментът е генерирал около 3 млн. сексуализирани изображения, като 23 000 от тях изглеждали като изображения на деца.
Европейската комисия заявява, че ще оценява дали компанията е приложила адекватни мерки за намаляване на рисковете, произтичащи от функционалностите на Grok в ЕС. Това включва разпространение на незаконно съдържание като манипулирани сексуално експлицитни изображения и съдържание, което може да се квалифицира като материали със сексуално насилие над деца.
Какви мерки обяви X и защо не са достатъчни
След първоначалната реакция около манипулираните изображения, X ограничи достъпа до инструмента до платени абонати. По-късно, след натиск от европейски регулатори, компанията обяви, че е въвела мерки, които да не позволяват Grok да редактира изображения на реални хора така, че да ги показва в разголено или силно разкриващо облекло.
По думите на представител на Европейската комисия, предприетите стъпки не премахват по-широките опасения около Grok. Акцентът на проверката е върху „системните рискове“ от генериране на незаконно съдържание, включително материали, свързани с насилие срещу жени и съдържание, което би могло да представлява сексуално насилие над деца. Комисията посочва, че не е била убедена, че наличните мерки са ефективни за реално ограничаване на риска на платформата.
Разследването по DSA може да доведе до изискване за по-строги защитни механизми при генерирането и разпространението на изображения, особено когато става дума за неразрешени сексуализирани „deepfake“ материали.Разширяване на проверката на алгоритмите за препоръки
Освен темата за експлицитните изображения, Европейската комисия разширява и отделно разследване, което вече е насочено към т.нар. recommender systems на X — алгоритмите, които препоръчват и „поднасят“ ново съдържание на потребителите.
Разширяването идва на фона на заявеното от компанията намерение да премине към модел за филтриране и подбиране на информация и съдържание, базиран на Grok. Според комисията това поставя допълнителни въпроси за начина, по който се управляват рисковете от вредно или незаконно съдържание.
Позиции на европейски институции и отговор на X
Хена Виркунен, водещ представител на Европейската комисия по технологичен суверенитет, сигурност и демокрация, определи неразрешените сексуални deepfake изображения на жени и деца като „насилствена и неприемлива форма на унижение“ и заяви, че целта е да се установи дали X изпълнява задълженията си по DSA и дали правата на гражданите на ЕС — включително жените и децата — не са третирани като вторични спрямо услугата.
В рамките на политическия дебат Александра Гийзе, германски евродепутат от Зелените, заяви, че действията идват късно, но могат да дадат ясен сигнал за задължението на платформите да спазват европейското право. От Европейската комисия отхвърлят критиките за забавяне, като посочват, че има 15 текущи разследвания по DSA, който се прилага спрямо компаниите от февруари 2024 г.
Регина Дохърти, ирландски вицепрезидент на Европейския парламент от център-дясно, приветства започването на формално разследване и подчерта, че при достоверни сигнали за вреди срещу жени и деца е необходимо европейските правила да се прилагат без отлагане.
Като реакция X насочи към своя позиция, в която заявява, че остава ангажиран да поддържа X като безопасна платформа и че има „нулева толерантност“ към всякакви форми на сексуална експлоатация на деца, неразрешена голота и нежелано сексуално съдържание.
Предишна санкция срещу X и отношенията с регулатора
Европейската комисия вече е наложила на X глоба от 120 млн. евро за нарушение на правото на ЕС, като е посочила, че платформата е заблуждавала потребители, възпрепятствала е независими изследователи и е избягвала отчетност. Регулаторът твърди още, че X е предоставял „подвеждащи“ сини отметки на профили без проверка, което потенциално увеличава риска от измами. Отделно се посочват и нарушения, свързани с прозрачността на рекламите, включително затрудняване на изследвания върху фалшиви реклами и кампании, свързани с хибридни заплахи.
Илон Мъск публично е отрекъл основанията за санкцията и впоследствие е призовал ЕС да бъде разпуснат. Компанията е получила срок от три месеца за плащане на глобата, а представител на ЕС е заявил увереност, че сумата ще бъде платена.
Какво означава това
- По-строг контрол над генеративния AI: фокусът е върху това дали чатботи като Grok имат вградени защити срещу създаване и разпространение на незаконни изображения.
- Риск за платформите при „deepfake“ съдържание: неразрешените сексуализирани изображения могат да се третират като системен риск по DSA, изискващ активни мерки за превенция и ограничаване.
- Алгоритмите за препоръки са под лупа: начинът, по който X подбира и показва съдържание, може да стане предмет на допълнителни изисквания за прозрачност и управление на риска.
- Възможни последствия за продукта: X може да се наложи да промени функционалности на Grok, достъпа до инструменти за обработка на изображения и процесите за модериране.
- Прецедент за прилагане на DSA: случаят вероятно ще бъде използван като ориентир за това как ЕС третира генеративните модели, интегрирани в големи платформи.
