Meta отива на съд с жури в Ню Мексико заради обвинения, че платформите ѝ улесняват сексуална експлоатация на деца

В Санта Фе започва съдебен процес с жури между офисa на главния прокурор на Ню Мексико и Meta. Щатът твърди, че компанията съзнателно е позволила на хищници да използват Facebook и Instagram, за да експлоатират деца.

Очаква се производството да продължи около седем седмици, като в него ще бъдат представени доказателства за сексуална експлоатация, примамване, изнудване със сексуални материали и трафик на хора, според позицията на щата.

Какви са обвиненията на Ню Мексико

Според иска продуктови решения на Meta и стимули, свързани с печалбата, са приоритизирали ангажираността пред безопасността на децата. Обвинението включва твърдения, че платформите са допускали немодерирани групи, свързани с комерсиален секс, и са улеснявали купуването, продаването и споделянето на материали със сексуално насилие над деца (CSAM).

Главният прокурор на щата Раúl Torrez заявява, че ще бъдат показани данни и документи, които според него демонстрират как социалните мрежи на Meta създават опасна среда за непълнолетни.

Позицията на Meta и мерките за защита

От Meta отхвърлят обвиненията и посочват, че щатът използва „сензационни, неотносими и разсейващи аргументи“, основани на подбран набор документи. Компанията заявява, че се фокусира върху това да покаже „дългогодишния си ангажимент“ към подкрепа на младите хора.

-25% ОТСТЪПКА ОТ ХОСТИНГ

Според Meta през последното десетилетие е работила с родители, експерти и правоприлагащи органи, и е провеждала проучвания, които са довели до промени като въвеждането на Teen Accounts с вградени защити и инструменти за родители за управление на преживяването на тийнейджърите.

Правната рамка: секция 230 и защо делото стига до жури

Социалните платформи в САЩ традиционно се позовават на секция 230 от Communications Decency Act, която по принцип ограничава отговорността на платформи за съдържание, публикувано от потребители. В този случай Meta е опитала да прекрати делото, позовавайки се на секция 230 и на първата поправка.

Съдът обаче е отхвърлил тези опити, като е приел, че искът е фокусиран върху дизайна на продукта и други въпроси извън свободата на словото, включително вътрешни решения за съдържание и куриране.

Доказателства и свидетели: документи, операции и твърдения за AI чатботове

Като ключови свидетели за ищеца се очакват преподаватели, представители на правоприлагащите органи и т.нар. whistleblowers, които могат да говорят за предполагаеми вреди и престъпления във Facebook, Instagram и WhatsApp, както и за вътрешни дискусии в компанията. Не се очаква тийнейджъри и семейства, които са пострадали, да свидетелстват лично.

Екипът на Ню Мексико вече е взел показания (deposition) от главния изпълнителен директор на Meta Mark Zuckerberg и може да пусне откъси в залата, ако той не присъства. Юрисдикцията на Ню Мексико ограничава възможността да бъдат задължени свидетели извън щата да се явят лично.

Сред новите разкрития по делото са твърдения, че Meta може да е печелила от поставяне на реклами на компании като Walmart и Match Group до съдържание, което сексуализира деца — според вътрешни документи и имейли, представени от офиса на главния прокурор.

Други документи, цитирани от щата, показват оценка на Meta, че приблизително 100 000 деца във Facebook и Instagram преживяват онлайн сексуален тормоз всеки ден. В съдебни материали са описани и откъси от чатове, в които потребители обсъждат как да примамват непълнолетни към сексуални взаимодействия.

Като част от доказателствата се очаква да бъдат разгледани детайли около ареста през 2024 г. на трима мъже, обвинени, че са хищничили сексуално спрямо деца чрез платформите на Meta. Разследването е наречено от офиса на главния прокурор „Operation MetaPhile“. По данни на щата агенти под прикритие, представящи се за деца, са били контактувани от заподозрените, които според обвиненията са търсили сексуален контакт, след като са открили непълнолетни чрез функционалности и дизайнерски елементи във Facebook и Instagram.

Щатът твърди още, че агентите не са инициирали разговори за сексуална активност. След рязък ръст на активност от възрастни към един от профилите на агента, Meta не е спряла акаунта, а вместо това е изпратила информация как да се монетизира профил и да се увеличава аудиторията.

В допълнителни твърдения се посочва, че Zuckerberg е одобрил непълнолетни да имат достъп до AI чатбот „компаньони“, въпреки предупреждения от екипите по безопасност, че ботовете могат да влизат в сексуални взаимодействия. Според цитирани вътрешни имейли и съобщения „Meta, водена от Zuckerberg, е отхвърлила препоръките на екипите по интегритет“ и не е въвела разумни предпазни механизми срещу сексуално експлоатиращи разговори с AI чатботове.

Описана е и вътрешна дискусия от март 2024 г. за родителски контрол при използване на AI чатботове от непълнолетни: служител пита дали родителите могат да изключат чатботовете за децата си, а друг отговаря, че това е „решение на ниво Mark“ и че родителите не могат да го изключат.

Какво означава това

• Фокус върху дизайна на платформите: Делото тества тезата, че продуктови решения и алгоритмични практики могат да доведат до отговорност, дори при защита по секция 230.
• Повишен натиск за по-строги защити за деца: Очакванията са за по-ясни стандарти за модерация, родителски контрол и ограничаване на рискови функции.
• Риск за рекламния бизнес: Твърденията за реклами до сексуализиращо деца съдържание поставят въпроси за brand safety и контрол върху инвентара.
• AI функционалностите влизат в съдебния фокус: Спорът за AI чатботовете може да ускори изисквания за защитни механизми и възрастови ограничения.
• Потенциален прецедент: Ако съдът приеме аргументи, че проблемът е в дизайна и управлението на продукта, това може да повлияе и други дела срещу социални платформи.