Светът не е готов за следващото огромно развитие в областта на изкуствения интелект
Светът не е готов за AGI
Светът не е подготвен за следващото значимо развитие на изкуствения интелект, според старши изследовател на OpenAI.
От години експертите спекулират с появата на изкуствения общ интелект (ИОИ), при който изкуствените системи ще бъдат толкова добри, колкото и човешките мозъци в широк спектър от задачи. Мнозина предполагат, че появата му може да представлява екзистенциален риск, тъй като може да позволи на компютрите да се държат по непредсказуем начин.
Сега човекът, който отговаря за това разработчикът на ChatGPT OpenAI да е готов за AGI, заяви, че както светът, така и самата компания „не са готови“. Майлс Брундаж, който преди това е бил „старши съветник на OpenAI по въпросите на готовността за AGI“, обяви напускането си тази седмица, тъй като компанията реши да закрие екипа. Липсата на готовност не е противоречиво твърдение сред ръководството на OpenAI и подчертава необходимостта от регулиране и промяна в културния подход към безопасността на ИИ.
През последните месеци OpenAI се сблъска с въпроси относно плановете си за изкуствен интелект и доколко високо цени безопасността.
Въпреки че е създадена като организация с нестопанска цел, насочена към изследване на безопасното развитие на изкуствения интелект, успехът на ChatGPT донесе значителни инвестиции и известен натиск за използване на новата технология за печалба. Брундаж спомена, че е напуснал компанията по различни причини, включително поради факта, че не е имал достатъчно време да работи по някои проекти и до голяма степен е постигнал това, което е възнамерявал. Т
ой също така отбеляза, че ще му бъде по-лесно да работи отвън, без пристрастия и конфликти на интереси.
Подготвеността на OpenAI за AGI
OpenAI е в челните редици на изследванията в областта на ИИ, особено със своя модел ChatGPT. Въпреки това готовността на компанията за AGI продължава да буди загриженост.
Напускането на Майлс Брундаж и закриването на екипа за готовност за AGI показват, че OpenAI все още се бори с предизвикателствата на разработването на безопасен и полезен ИИ. Фокусът на компанията върху безопасността е от решаващо значение, като се имат предвид потенциалните рискове, свързани с AGI. Изявлението на Брундаж подчертава необходимостта от глобален разговор за това как да се управляват тези системи, да се разпределят справедливо ползите от тях и да се осигури равен достъп.
Развитието на AGI, способно да ускори научния прогрес, може да доведе до бързи промени и е от съществено значение да се забави този преход, за да се даде на обществото време да се адаптира.
Проблеми в подготовката за AGI
Подготовката за AGI е сложна задача, която изисква внимателно отчитане на множество фактори. Бързото развитие на технологията на ИИ породи опасения относно потенциалното ѝ въздействие върху обществото.
Ръководството на OpenAI признава, че светът все още не е готов за AGI, като подчертава необходимостта от стабилна регулация и културна промяна към приоритизиране на безопасността на ИИ. Решението на компанията да закрие екипа за готовност за AGI подсказва, че тя все още се ориентира в тези предизвикателства.
Бъдещи насоки за OpenAI
Бъдещите насоки на OpenAI ще се определят от продължаващите усилия за разработване на безопасен и полезен ИИ.
Фокусът на компанията върху готовността на AGI, въпреки че в момента е спрян, вероятно ще бъде възобновен с напредването на технологията. Интегрирането на ChatGPT в различни платформи, включително в изживяванията на Apple, демонстрира ангажимента на OpenAI да направи ИИ достъпен и полезен.
Компанията обаче трябва да разгледа етичните последици от своята технология, за да гарантира, че тя съответства на човешките ценности. Партньорството с Apple и други инициативи имат за цел да използват ИИ за постигане на положителни резултати, но пътят напред ще изисква продължаване на диалога относно управлението, разпространението и достъпа.
Тъй като ИИ продължава да се развива, OpenAI трябва да остане бдителна по отношение на потенциалните му рискове и да работи за създаването на системи, които да са от полза за цялото човечество.
