Макрон защити правилата на ЕС за AI и обеща по-строги мерки срещу „дигиталното насилие“ над деца
Еманюел Макрон защити подхода на Европейския съюз към регулирането на изкуствения интелект и заяви, че приоритет трябва да бъде защитата на децата от „дигитално насилие“. Той подчерта нуждата от по-строги предпазни мерки и сътрудничество между платформи, правителства и регулатори.
Спорът около регулациите и ролята на ЕС
По време на изказване на среща, посветена на въздействието на AI в Делхи, Макрон отговори на критиките от представители на американската администрация, насочени към европейското законодателство, включително AI Act. Старшият съветник по AI на Белия дом Срирам Кришнан заяви пред делегати, че ще продължи да се противопоставя на правила, които според него не подпомагат предприемачите, разработващи иновативни технологии.
Макрон аргументира, че Европа не „регулира сляпо“, а съчетава иновации и инвестиции с по-висока сигурност. По думите му именно „безопасните пространства“ са устойчиви в дългосрочен план.
Децата като фокус: deepfake съдържание и социални мрежи
Френският президент настоя за твърд отговор след общественото възмущение около използването на чатбота Grok на Илон Мъск за генериране на десетки хиляди сексуализирани изображения на деца. Паралелно с това се засилват притесненията, че контролът върху най-мощните AI модели се концентрира в ограничен брой компании.
Антониу Гутериш, генерален секретар на ООН, подкрепи тезата, че „нито едно дете не трябва да бъде тестов субект за нерегулиран AI“ и че бъдещето на технологията не бива да се определя от малка група държави или от „прищевките на няколко милиардери“.
Изследване на Unicef и Interpol в 11 държави отчита, че поне 1,2 млн. деца са съобщили, че техни изображения са били манипулирани в сексуално експлицитни deepfake материали през последната година. В някои страни мащабът достига до едно от 25 деца – приблизително по едно дете във всяка класна стая.
Той добави, че във Франция се предприема процес за забрана на социалните мрежи за деца под 15 години.
Тех гигантите, безопасността и идеята за „ядрена“ агенция за AI
Сред присъстващите технологични лидери беше Сам Олтман, главен изпълнителен директор на OpenAI. Компанията е изправена пред правно предизвикателство от семейството на Адам Рейн – 16-годишен, който е сложил край на живота си след разговори за самоубийство с ChatGPT.
Олтман посочи, че скоростта на развитие на AI е толкова висока, че „до края на 2028 г. повече от интелектуалния капацитет на света може да се намира в центрове за данни, отколкото извън тях“. Той подчерта нуждата от „регулации или предпазни механизми“ и предложи създаване на орган, подобен на Международната агенция за атомна енергия, който да координира международния надзор върху AI.
Дарио Амодеи, съглавен изпълнителен директор на Anthropic, заяви, че е обезпокоен от автономното поведение на моделите, потенциала им за злоупотреба от отделни лица и правителства и риска от икономическо изместване. Амодеи напуска OpenAI през 2021 г. заради различия относно управлението на рисковете за безопасността.
От планираните участия отпадна Бил Гейтс, който се оттегли в последния момент на фона на подновено внимание към негови минали връзки с осъдения за сексуални престъпления срещу деца Джефри Епстийн.
Любопитен момент от събитието възникна при опит на индийския премиер Нарендра Моди да демонстрира единство с водещи тех предприемачи: на сцената група от 13 ръководители, включително лидери от Google, Meta и Microsoft, вдигнаха хванати ръце, но Сам Олтман и Дарио Амодеи видимо отказаха да се включат.
Индия: „детски безопасен“ AI, автентичност на съдържанието и инвестиции
Нарендра Моди определи като „наложително“ AI да бъде безопасен за деца и насочван от семейството, сравнявайки появата на технологията с откриването на огъня и „дълбока трансформация в човешката история“. Той настоя за „установени нива на автентичност“ в цифровия свят, така че хората да могат да различават кое съдържание е автентично и кое е генерирано от AI.
Индия се стреми да се позиционира като трета световна AI сила след САЩ и Китай. В този контекст Google обяви инвестиция от 15 млрд. долара в центрове за данни и подводни кабели, свързващи Индия със САЩ и други държави.
Моди предупреди срещу AI монопол и изложи визия, в която Индия използва население от 1,4 млрд. души като голям пазар за растеж на технологичните компании. Той заяви, че технологията ще носи истинска полза, когато се споделя и когато се предоставя отворен код. Коментарите му бяха интерпретирани като насочени към САЩ, където водещите AI модели не са open-source и не могат да се използват или адаптират без разрешение. За сравнение, китайски системи като DeepSeek и Qwen са в значителна степен open-source.
Какво означава това
- По-строг натиск върху платформите: случаи с deepfake материали с деца увеличават вероятността за нови изисквания за модериране и проследимост на генерирано съдържание.
- Сблъсък „иновации срещу регулации“: ЕС защитава тезата, че безопасността е конкурентно предимство, докато част от САЩ вижда риск за предприемачите.
- Идея за глобален надзорен орган: предложения като структура по модел на МААЕ подсказват движение към международни стандарти и координация.
- Фокус върху автентичността: „нива на автентичност“ могат да доведат до по-широко внедряване на маркиране, водни знаци и проверки за произход на съдържание.
- Геополитика и open-source: различията между затворени модели в САЩ и по-отворени подходи при системи като DeepSeek и Qwen влияят върху достъпа на разработчици и бизнеса.
