Заподозряната за масовата стрелба в Тъмблър Ридж, Британска Колумбия — Jesse Van Rootselaar — е привлякла внимание в OpenAI месеци преди нападението, след като е водила разговори с ChatGPT, включващи описания на огнестрелно насилие. Тези чатове са активирали автоматизираната система за преглед на съдържание.
Част от служителите са изразили опасения, че подобни публикации могат да са предвестник на реално насилие, и са предложили компанията да се свърже с властите, но в крайна сметка това не е било направено тогава.
Какво е установила вътрешната проверка в OpenAI
Говорителят на OpenAI Kayla Wood заявява, че компанията е обсъждала възможността да насочи акаунта към правоохранителните органи, но е стигнала до извод, че случаят не отговаря на критерия за „непосредствен и достоверен риск“ за вреда към други хора. Според Wood прегледът на логовете не е показал активна или непосредствена подготовка за насилие.
OpenAI е забранила акаунта на Rootselaar, но не става ясно да са били предприети допълнителни предпазни действия в този момент.
Контакт с полицията след трагедията
По думите на Wood компанията е изразила съпричастност към засегнатите и е посочила, че проактивно е предоставила информация на Royal Canadian Mounted Police относно лицето и начина, по който е използвало ChatGPT, като е заявила готовност да съдейства на разследването.
Случаят отново поставя въпроса докъде трябва да стига реакцията на доставчиците на AI услуги при тревожни разговори — между защита на личните данни и предотвратяване на потенциални вреди.Какво се е случило в Tumbler Ridge Secondary School
При нападението са загинали девет души и са ранени 27, включително Rootselaar. Това е най-смъртоносната масова стрелба в Канада от 2020 г. насам. Rootselaar е открита мъртва на място в Tumbler Ridge Secondary School, където са станали повечето убийства, като причината изглежда е самопричинена огнестрелна рана.
Дилемата: сигурност срещу поверителност
Решението да не се уведоми полицията може да изглежда погрешно със задна дата, но Wood подчертава, че целта на OpenAI е да намери баланс между безопасността и поверителността, както и да избегне непреднамерени вреди, които биха могли да възникнат при прекалено широко или прибързано насочване на случаи към правоохранителните органи.
Какво означава това
- По-ясни критерии за ескалация: случаи с тревожни описания може да изискват по-детайлни правила кога да се уведомяват органите.
- Ограничения на автоматичните проверки: дори при задействан сигнал, оценката дали има реално планиране остава сложна и често зависи от контекст.
- Риск от свръхреакция: прекомерни сигнали към полицията могат да доведат до нежелани последици за потребители без реални намерения за насилие.
- Натиск към AI компаниите: подобни инциденти засилват очакванията технологичните платформи да действат превантивно при потенциални заплахи.
