OpenAI представи „план за безопасност“ за тийнейджъри в Индия с фокус върху защитата
OpenAI, компанията зад ChatGPT, представи рамка за подобряване на защитите за тийнейджъри в Индия в момент, когато AI индустрията е под натиск да осигурява по-безопасни разговорни преживявания за деца. В документа OpenAI заявява, че за по-младите потребители приоритетът е „безопасност“ пред „поверителност“.
Мерките са разработени на база разговори с политици, регулатори, преподаватели, експерти по детска безопасност, както и специалисти по психично здраве и дигитално благополучие.
Какво включва рамката за тийнейджъри
Според OpenAI новите защити са допълнение към функции, които вече са налични за всички потребители. Сред тях са:
- напомняния в приложението при дълги сесии, насърчаващи почивки;
- защитни механизми, които насочват към реални ресурси, ако системите засекат изразено суицидно намерение;
- процедури за ескалиране на рискове от физическа вреда спрямо други хора към човешки проверяващи, които могат да предприемат действия;
- механизми за предотвратяване на генериране на материали за сексуално насилие над деца (SAM) и материали за сексуална експлоатация на деца (CSEM).
Компанията посочва, че непрекъснато подобрява методите си за откриване на CSAM/CSEM и докладва потвърдени случаи на съответните органи.
„Възрастово-осъзнато“ поведение на AI вместо еднакви отговори за всички
В основата на рамката стои идеята за „age-aware AI behaviour“ – поведение на AI, съобразено с възрастта. OpenAI аргументира, че отговорите на ChatGPT не трябва да са „универсални“ и че системата следва да разпознава етапа на развитие на потребителя.
Компанията препоръчва AI платформите да идентифицират тийнейджъри чрез инструменти за оценка на възрастта, които са „ориентирани към риска“ и „защитават поверителността“. Целта е да се прави разграничение между тийнейджъри и възрастни, като се ограничи събирането на чувствителни лични данни, но все пак да се отличават ефективно потребители под 18 години (U18). Където е възможно, методите може да разчитат и на операционни системи или магазини за приложения, за да се определи възрастта на потребителя.
Особеност на индийския пазар: споделени устройства
OpenAI отчита специфично предизвикателство за Индия – широко разпространеното използване на споделени устройства. Данни от RATI Foundation и Ideal Internet Report 2024-25 показват, че приблизително 62% от индийските тийнейджъри достъпват интернет през споделени семейни устройства. Това усложнява прилагането на персонализирани настройки и контрол, когато един и същи телефон или таблет се използва от няколко души.
По-силни родителски контроли
Рамката въвежда разширени Parental Controls, с които родителите могат:
- да свързват акаунти (parent-teen linking);
- да задават „blackout hours“ – периоди, в които използването на AI е ограничено;
- да изключват дистанционно историята на чатовете и функциите за „memory“.
Какво означава това
- Възможно е ChatGPT да започне да прилага по-строги и по-„възрастово-адаптивни“ политики за потребители под 18 години (U18) в Индия.
- Фокусът върху „безопасност над поверителност“ подсказва потенциално по-активни механизми за оценка на възраст и управление на рискови ситуации.
- Родителите и училищата могат да получат по-практични инструменти за контрол на употребата, включително ограничения по часове и управление на история/памет.
- Споделените устройства остават ключово предизвикателство и вероятно ще влияят върху начина, по който се внедряват контролите и проверките на възрастта.
