ChatGPT започва да внедрява прогнозиране на възрастта при потребителските планове, за да установява дали даден акаунт вероятно принадлежи на човек под 18 години. Така системата може да приложи подходящи защитни мерки и настройки за тийнейджъри, като се опира на описаните принципи за безопасност за непълнолетни.
Новият подход надгражда вече съществуващи защити: потребители, които заявят при регистрация, че са под 18 години, автоматично получават допълнителни ограничения с цел по-ниско излагане на чувствително или потенциално вредно съдържание.
Как работи прогнозиране на възрастта
ChatGPT използва модел за прогнозиране на възрастта, който оценява вероятността даден профил да е на потребител под 18 години. Моделът анализира комбинация от поведенчески и акаунт-сигнали, включително от колко време съществува профилът, типичните часове на активност, моделите на използване във времето и заявената от потребителя възраст.
Внедряването има и практическа цел: да помогне да се откроят кои сигнали повишават точността, така че моделът да се усъвършенства постепенно на база натрупани наблюдения.
Какво се случва при грешна преценка
Ако потребител бъде погрешно поставен в изживяването за под 18 години, ще има бърз начин да потвърди възрастта си и да възстанови пълния достъп. Това става чрез селфи през Persona – услуга за сигурна проверка на самоличност.
Проверка дали към акаунта са добавени допълнителни защити и стартиране на процеса по потвърждение са достъпни от Settings > Account.
Когато няма достатъчно увереност за възрастта на потребителя или информацията е непълна, системата избира по-безопасно изживяване по подразбиране.Какви допълнителни защити се прилагат за профили под 18 години
Когато моделът прецени, че даден акаунт вероятно е на потребител под 18 години, ChatGPT автоматично активира допълнителни мерки за ограничаване на чувствително съдържание. Те са насочени към намаляване на достъпа до теми като:
- графично насилие или съдържание с кръв и жестокост;
- вирусни предизвикателства, които могат да подтикват към рисковано или вредно поведение при непълнолетни;
- сексуални, романтични или насилствени ролеви игри;
- изобразяване на самонараняване;
- съдържание, което насърчава крайни стандарти за красота, нездравословни диети или body shaming.
Подходът се базира на експертни консултации и академична литература за детското развитие, като отчита известни различия при тийнейджърите по отношение на възприемането на риска, импулсния контрол, влиянието на връстниците и емоционалната регулация. Компанията посочва, че продължава да подобрява защитите, включително срещу опити за заобикалянето им.
Родителски контроли и следващи стъпки
Освен автоматичните ограничения, родителите могат да персонализират допълнително изживяването чрез родителски контроли. Сред възможностите са задаване на „тихи часове“, в които ChatGPT не може да се използва, управление на функции като memory или обучение на моделите, както и получаване на известия при засичане на признаци на остър дистрес.
В следващите етапи се предвижда моделът за прогнозиране на възрастта да стане по-точен на база сигналите от първоначалното внедряване. В ЕС функцията ще се въвежда поетапно, като се отчита необходимостта от регионални изисквания. Работата по темата ще продължи в диалог с организации и експерти, включително American Psychological Association, ConnectSafely и Global Physicians Network.
Какво означава това
- По-автоматизирана защита за непълнолетни: системата може да добавя ограничения дори когато възрастта не е декларирана коректно.
- Възможност за бързо възстановяване на достъп: пълнолетни, маркирани погрешно, могат да потвърдят възрастта си чрез Persona.
- По-строги ограничения за чувствително съдържание: фокус върху самонараняване, графично насилие, рискови предизвикателства и други потенциално вредни теми.
- Повече инструменти за родители: контрол върху време на ползване, някои функции и известия при сигнали за тежък дистрес.
