Канада привика екипа по безопасност на OpenAI след стрелба в училище
OpenAI е привикана на среща в Отава, след като стана ясно, че компанията е разглеждала вариант да информира канадските власти за подозрителна активност на потребител, но в крайна сметка не е подала сигнал. Месеци по-късно същият човек извършва едно от най-тежките училищни нападения в историята на Канада.
Министърът на изкуствения интелект на Канада Еван Соломон заяви, че очаква водещите представители на OpenAI по теми за безопасността да представят протоколите си и критериите, по които решават кога да уведомяват органите на реда.
Защо OpenAI е извикана в Отава
Еван Соломон съобщи, че е потърсил OpenAI веднага след като е научил, че компанията не е контактувала своевременно с правоохранителните органи. По думите му канадците очакват организациите, чиито технологии се използват масово, да действат отговорно, особено когато става дума за сигурността на деца.
Соломон уточни, че част от негови представители вече са имали разговори с представители на OpenAI. Той не потвърди дали Канада ще пристъпи към регулация на AI чатботи като ChatGPT, но посочи, че „всички възможности са на масата“.
Какво твърди OpenAI за случая
OpenAI посочва, че през юни е идентифицирала акаунта на Jesse Van Rootselaar чрез механизми за засичане на злоупотреби, свързани с „подпомагане на насилствени дейности“. Компанията е обмисляла дали да препрати информация към Royal Canadian Mounted Police (RCMP), но е преценила, че наблюдаваната активност не достига прага за сигнализиране до правоохранителните органи.
Според OpenAI критерият за уведомяване на полицията е наличие на непосредствен и достоверен риск от сериозна физическа вреда за други хора. Компанията заявява, че тогава не е открила доказателства за надеждно или непосредствено планиране, и е блокирала акаунта за нарушение на правилата за ползване.
Реакциите в Британска Колумбия
Премиерът на Британска Колумбия Дейвид Еби заяви, че отстрани изглежда, че OpenAI е имала възможност да помогне за предотвратяване на трагедията в Tumbler Ridge, при която загинаха осем души. Той допълни, че е разгневен от подобна перспектива.
Какво е известно за нападението в Tumbler Ridge
По данни на полицията Jesse Van Rootselaar първо е убила майка си и доведения си брат в семейния дом, след което е нападнала близкото училище. Съобщава се, че Van Rootselaar е имала предишни контакти с полицията, свързани с психичното ѝ здраве. Мотивът за нападението остава неясен.
Tumbler Ridge се намира в канадските Скалисти планини, на над 1 000 км североизточно от Ванкувър, близо до границата на провинцията с Алберта. Сред жертвите са 39-годишен помощник-учител и петима ученици на възраст 12–13 години.
Нападението е най-смъртоносното в Канада от 2020 г., когато стрелец в Нова Скотия уби 13 души и предизвика пожари, при които загинаха още девет.
Какво означава това
- Случаят вероятно ще засили натиска върху AI компаниите да имат ясни и проверими правила за ескалация към полицията при потенциално насилие.
- Фокусът се измества към това как се определят „достоверен“ и „непосредствен“ риск и дали прагът за сигнализиране е твърде висок.
- Възможно е да се ускори обсъждането на регулации за чатботи, включително изисквания за отчетност и взаимодействие с правоохранителни органи.
- Темата поставя въпроси за баланса между превенция на насилие, защита на личните данни и риска от погрешни сигнали.
