OpenAI използва вътрешна версия на ChatGPT за откриване на служители, които изнасят информация
OpenAI използва специално конфигурирана вътрешна версия на ChatGPT, за да установява откъде може да произхожда изтичане на чувствителна фирмена информация. Подходът се задейства, когато в публичното пространство се появят публикации, съдържащи детайли от вътрешната работа на компанията.
Компанията се ръководи от Сам Алтман, а засега няма потвърждение дали тази практика е довела до установяване на конкретни лица.
Как работи вътрешната проверка с ChatGPT
При поява на материал, който включва непублична информация, екипи по сигурността на OpenAI обработват съдържанието чрез персонализирана версия на ChatGPT. Според данните системата разполага с достъп до вътрешни ресурси на компанията, включително документи, Slack канали и имейл кореспонденция между служители.
Целта е да бъдат открити конкретните документи или съобщения, които съдържат същите детайли като появилите се публично. След това системата може да изведе списък с хора в организацията, които имат достъп до тези източници, като по този начин стеснява кръга на потенциалните лица, от които може да е изтекла информацията.
Има ли резултати и как реагира OpenAI
Няма яснота дали OpenAI действително е идентифицирала „течове“ чрез този метод. Компанията не е предоставила публичен коментар по темата.
Известно е, че OpenAI и преди е прекратявала отношения с изследователи при твърдения за изнасяне на вътрешна информация извън организацията.
Контекст: защо технологичните компании затягат контрола върху информацията
Големи компании като Apple и Tesla традиционно поддържат строги политики срещу изтичане на данни, тъй като се опасяват от загуба на интелектуална собственост и конкурентни предимства. При AI компаниите залогът е още по-висок заради темпа на развитие и стойността на данните, моделите и изследванията.
Паралелно с това AI фирми като OpenAI и Anthropic имат политики за защита на разобличители, което показва, че има разграничение между злонамерено изнасяне на конфиденциални данни и сигнализиране за нередности.
Геополитическият елемент: достъп до чипове и притеснения за конкуренцията
В технологичния сектор се засилват опасенията, че китайски конкуренти могат да получат достъп до чувствителна информация и да напреднат в надпреварата при AI. В този контекст американската администрация на Джо Байдън въведе ограничения върху износа на американски чипове към Китай и Обединените арабски емирства, като за ОАЕ бяха изразени опасения, че може да служат като канал за доставки към Китай.
По-късно администрацията на Доналд Тръмп е позволила на ОАЕ достъп до 500 000 от най-модерните AI чипове, а впоследствие Тръмп обяви, че правителството на САЩ ще позволи на Nvidia да изнася H200 AI чипове за Китай, като се събира такса за всеки чип.
Какво означава това
- Повече вътрешен контрол чрез AI: използването на чатбот с достъп до документи и комуникации може да ускори разследванията при подозрения за течове.
- Повишени изисквания за управление на достъпа: фирмите вероятно ще прецизират кой има достъп до конкретни канали, имейли и файлове.
- Рискове за поверителността вътре в компанията: подобни системи изискват ясни правила за логване, мониторинг и минимизиране на достъпа.
- Сигурността става конкурентен фактор: при AI компаниите защитата на данни, модели и изследвания е пряко свързана с позицията им на пазара.
- Геополитиката влияе на технологиите: ограниченията и разрешенията за износ на чипове показват колко тясно са свързани AI развитието и държавната политика.
