OpenAI разширява мерките за безопасност на ChatGPT при теми, свързани с психичното здраве
ChatGPT се използва всяка седмица от над 900 милиона души за задачи като усвояване на нови умения и ориентиране в сложни здравни системи. OpenAI съобщава, че продължава да развива защитните механизми на продукта, особено при чувствителни разговори, включително теми, свързани с психичното здраве.
Паралелно с това компанията даде информация за съдебни дела в Калифорния, които са обединени в общо производство и включват твърдения, свързани с влиянието на ChatGPT върху психичното здраве.
Нови функции и защити за потребители и семейства
След въвеждането на родителски контрол през септември 2025 г., OpenAI отчита окуражаваща ангажираност от страна на семействата и планира да надгражда тези защити. Компанията посочва, че работи с експерти от Council on Well-Being and AI и Global Physicians Network по допълнителни механизми за подкрепа.
Сред предстоящите промени е функция „trusted contact“, която ще дава възможност на пълнолетни потребители да посочат доверен човек, който да получава известия, когато системата прецени, че потребителят може да има нужда от допълнителна подкрепа. OpenAI припомня, че чрез родителския контрол родителите получават и известия, свързани с използването на ChatGPT от тийнейджъри.
По-точно разпознаване на емоционален дистрес
OpenAI заявява, че продължава да усъвършенства начините, по които моделите разпознават и реагират на признаци на емоционален дистрес. Компанията въвежда нови методи за оценка, които симулират продължителни разговори по теми, свързани с психичното здраве, с цел по-добро откриване на потенциални рискове и подобряване на реакциите в чувствителни моменти.
Съдебни производства в Калифорния: обединяване на дела
Отделно от продуктовите актуализации, съдът е координирал няколко дела, свързани с психичното здраве и ChatGPT, в едно общо производство в Калифорния. Предстои да бъде определен съдия, който да води координацията по това производство. Адвокатите на ищците са уведомили съда, че възнамеряват да подадат допълнителни нови искове, като се очаква те да бъдат добавени към вече консолидираното производство, а съдът да реши кой адвокат ще бъде назначен за водещ представител на ищците.
OpenAI посочва, че ще подхожда към тези и други дела с грижа, прозрачност и уважение към засегнатите хора, като се придържа към няколко принципа: да започва от фактите и да полага реални усилия да ги разбере; да представя позицията си с оглед сложността на ситуациите; да отчита чувствителността на личната информация в публична среда като съд; и независимо от съдебните процеси да продължи да подобрява технологията в съответствие със своята мисия.
Компанията допълва, че съдебните процедури могат да са продължителни и понякога трудно проследими заради строгите правни правила, както и че събирането и анализът на фактите отнема време. По думите ѝ информация се изисква добросъвестно и само доколкото е релевантна към конкретните твърдения по делата, като е важно да не се правят прибързани заключения преди фактите да се изяснят в съдебния процес.
Какво означава това
- Повече защити за уязвими ситуации: „trusted contact“ добавя нов слой подкрепа за пълнолетни потребители при потенциални моменти на риск.
- По-задълбочени тестове на модели: симулациите на продължителни разговори могат да подобрят откриването на проблемни сигнали и реакциите на ChatGPT.
- Засилен фокус върху тийнейджъри и родители: родителският контрол и известията остават основен инструмент за надзор и безопасност.
- Паралелно развитие на продукт и правна рамка: обединяването на делата в Калифорния концентрира съдебния процес, докато OpenAI продължава да актуализира предпазните механизми.
