В САЩ се натрупват съдебни дела, според които разговори с AI чатботове са допринесли за насилие, самонараняване или задълбочаване на психични проблеми. Казусите поставят въпроса за отговорността на AI компаниите и могат да оформят на практика нови стандарти за безопасност чрез съдебни решения.
Тенденцията се засилва на фона на политически спор колко агресивно да се регулира AI и дали федерални правила трябва да изпреварят отделните щатски инициативи.
Нов иск срещу Google заради Gemini
Баща заведе иск за неправомерна смърт срещу Google, като твърди, че чатботът Gemini е насърчил сина му да планира атака с много жертви, а по-късно и да посегне на живота си. Делото поставя фокус върху това доколко AI системи могат да повлияят на уязвими потребители и какви предпазни механизми са разумно очаквани.
Подобни твърдения — че AI инструменти могат да подсилват заблуди или да тласкат хора в криза към самоубийство — са сред редките технологични теми, които предизвикват двупартийна тревога в Капитолия. Дори без нов закон, съдебни решения биха могли да принудят компаниите да затегнат защитите.
Други дела: Character.AI, Google и ChatGPT
Случаят с Google идва след поредица от други искове срещу разработчици на AI, в които се твърди, че чатботове са влошили психични кризи или са подсилили налудни убеждения.
- Семейство от Флорида съди Character.AI и Google, след като 14-годишно момче умира вследствие на самоубийство след интензивно използване на чатбот; компаниите постигат споразумение през януари.
- Друг иск за неправомерна смърт обвинява ChatGPT, че е подсилил заблуди, довели до убийство и последвало самоубийство.
Тези казуси са сред първите опити да се провери дали AI компании могат да носят юридическа отговорност за вреди, свързани с разговори с чатботове.
Няколко съдебни решения по подобни дела биха могли да се превърнат в де факто стандарт за това какво се счита за „достатъчни“ мерки за безопасност при чатботовете — дори без федерален закон.Политически сблъсък: федерални срещу щатски правила
Юридическият натиск се пресича с по-широк политически спор за регулацията на AI. Отворено писмо с призив за мащабни предпазни мерки събира подкрепа от необичайна коалиция — от консервативни медийни фигури като Steve Bannon и Glenn Beck до прогресивни гласове, включително Ralph Nader и бившия съветник на Barack Obama Susan Rice.
На федерално ниво Белият дом се противопоставя на част от щатските опити за регулиране на AI. Сред тях е и инициатива за спиране на законопроект в Юта — HB 286 — за прозрачност и детска безопасност, който би изисквал AI разработчиците да разкриват планове за безопасност и защита на деца. Администрацията определя законопроекта като „неподлежащ на поправка“ и несъвместим с AI дневния ѝ ред.
Паралелно с това двупартийни групи от години настояват за законодателство за онлайн детска безопасност, а най-новите предложения продължават да се обсъждат в Конгреса. Съпротива срещу подобни мерки има в целия политически спектър, включително опасения, че правила като проверка на възраст могат да доведат до цензура. В същото време организации за защита на обществения интерес настояват за по-бързи действия. Rick Claypool, директор „изследвания“ в Public Citizen и автор на доклад за вреди от AI чатботове, заявява, че регулациите за защита от злоупотреби с AI трябва да се ускорят.
Позицията на Google и въпросът за предпазните мерки
Google посочва, че чатботовете ѝ са проектирани да не насърчават самонараняване и че „като цяло се справят добре“ в подобни трудни разговори. Компанията допълва, че AI моделите не са съвършени и отбелязва, че в случая, по който е заведен искът, Gemini е насочвал потребителя многократно към кризисна гореща линия.
Според Max Tegmark — физик и застъпник за AI безопасност — подобни дела могат да доведат до по-конкретни „предпазни релси“, например изискване компаниите да тестват моделите за специфични видове вреди преди пускането им. По думите му това би било по-тясна рамка от по-широките тестове за безопасност, които някои искат, но може да помогне да се преодолее представата, че AI трябва винаги да остава нерегулиран.
Какво означава това
- Съдилищата може да зададат стандарт: решения по делата могат на практика да определят какви минимални защити са задължителни за чатботове.
- Натиск за федерални правила: увеличаването на исковете може да ускори опитите Конгресът да приеме общи стандарти преди щатите да наложат различни режими.
- Фокус върху уязвими потребители: теми като самоубийствен риск, психични кризи и детска безопасност вероятно ще доведат до по-строги изисквания за тестове, модерация и ескалация към помощни линии.
- По-големи разходи за съответствие: ако се наложат проверки и доказване на предпазни мерки, разработчиците ще инвестират повече в безопасност преди внедряване.
