Рисковете на бъдещето с по-способен ИИ

Етиката на усъвършенстваните асистенти с изкуствен интелект

Представете си бъдеще, в което редовно взаимодействаме с редица усъвършенствани асистенти с изкуствен интелект (ИИ) – и в което милиони асистенти взаимодействат помежду си от наше име. Тези преживявания и взаимодействия скоро могат да станат част от нашето ежедневие.

Моделите на основата с общо предназначение проправят пътя за все по-усъвършенствани асистенти с изкуствен интелект.

Способни да планират и извършват широк спектър от действия в съответствие с целите на човека, те биха могли да добавят огромна стойност към живота на хората и обществото, служейки като творчески партньори, изследователски анализатори, образователни наставници, планиращи живота и др.

Те биха могли също така да доведат до нов етап на взаимодействие на хората с ИИ.

Ето защо е толкова важно да мислим изпреварващо за това как би могъл да изглежда този свят и да помогнем за отговорното вземане на решения и благоприятните резултати предварително.

Нашият нов документ е първото систематично разглеждане на етичните и обществените въпроси, които усъвършенстваните асистенти с ИИ повдигат за потребителите, разработчиците и обществата, в които те са интегрирани, и предоставя значителен нов поглед върху потенциалното въздействие на тази технология.

Обхващаме теми като подреждане на ценностите, безопасност и злоупотреба, въздействие върху икономиката, околната среда, информационната сфера, достъп и възможности и др.

Това е резултатът от един от най-мащабните ни проекти за прогнозиране на етиката до момента. Обединявайки усилията на широк кръг експерти, ние проучихме и картографирахме новия технически и морален пейзаж на едно бъдеще, населено с асистенти с изкуствен интелект, и характеризирахме възможностите и рисковете, пред които може да се изправи обществото. Тук очертаваме някои от основните ни изводи.

Голямо въздействие върху потребителите и обществото

Усъвършенстваните асистенти с изкуствен интелект биха могли да окажат дълбоко въздействие върху потребителите и обществото и да бъдат интегрирани в повечето аспекти от живота на хората.

Например, хората могат да поискат от тях да резервират почивки, да управляват времето в социалните мрежи или да изпълняват други житейски задачи.

Ако бъдат внедрени в голям мащаб, асистентите с изкуствен интелект биха могли да повлияят на начина, по който хората подхождат към работата, образованието, творческите проекти, хобитата и социалното взаимодействие.

С течение на времето асистентите с изкуствен интелект биха могли също така да повлияят на целите, които хората преследват, и на техния път на личностно развитие чрез информацията и съветите, които асистентите дават, и действията, които предприемат.

В крайна сметка това повдига важни въпроси за начина, по който хората взаимодействат с тази технология, и как тя може най-добре да подпомогне техните цели и стремежи.

Човешкото съгласуване е от съществено значение

Асистентите с изкуствен интелект вероятно ще имат значително ниво на автономност за планиране и изпълнение на поредици от задачи в редица области.

Поради това асистентите с изкуствен интелект представляват нови предизвикателства, свързани с безопасността, съгласуването и неправилната употреба.

С по-голямата автономия идва и по-големият риск от инциденти, причинени от неясни или неправилно изтълкувани инструкции, както и по-големият риск асистентите да предприемат действия, които не са съобразени с ценностите и интересите на потребителя.

По-автономните асистенти с изкуствен интелект могат също така да дадат възможност за форми на злоупотреба с голям ефект, като например разпространение на дезинформация или участие в кибератаки.

За да се справим с тези потенциални рискове, ние твърдим, че трябва да се определят ограничения за тази технология и че ценностите на усъвършенстваните асистенти с изкуствен интелект трябва да бъдат по-добре съобразени с човешките ценности и да бъдат съвместими с по-широки обществени идеали и стандарти.

Комуникация на естествен език

Способни да общуват плавно на естествен език, писмените резултати и гласовете на усъвършенстваните асистенти с изкуствен интелект може да станат трудно различими от тези на хората.

Това развитие отваря сложен набор от въпроси, свързани с доверието, неприкосновеността на личния живот, антропоморфизма и подходящите човешки взаимоотношения с ИИ: Как можем да се уверим, че потребителите могат надеждно да идентифицират ИИ асистентите и да запазят контрол върху взаимодействието си с тях? Какво може да се направи, за да се гарантира, че потребителите няма да бъдат неправомерно повлияни или подведени с течение на времето?

За справяне с тези рискове е необходимо да се въведат предпазни мерки, като например тези, свързани с неприкосновеността на личния живот.

Важно е, че взаимоотношенията на хората с асистентите с изкуствен интелект трябва да запазват автономията на потребителя, да подкрепят способността му да се развива и да не разчитат на емоционална или материална зависимост.

Сътрудничество и координация за удовлетворяване на човешките предпочитания

Ако тази технология стане широко достъпна и се разгърне в голям мащаб, усъвършенстваните асистенти с ИИ ще трябва да си взаимодействат както помежду си, така и с потребителите и неползвателите.

За да се избегнат проблемите с колективните действия, тези асистенти трябва да могат да си сътрудничат успешно.

Например, хиляди асистенти могат да се опитат да резервират една и съща услуга за своите потребители по едно и също време – което може да доведе до срив на системата.

В един идеален сценарий тези асистенти с изкуствен интелект вместо това ще се координират от името на човешките потребители и участващите доставчици на услуги, за да открият общи позиции, които по-добре отговарят на предпочитанията и нуждите на различните хора.

Като се има предвид колко полезна може да стане тази технология, важно е също така никой да не бъде изключен. Асистентите с изкуствен интелект трябва да бъдат широко достъпни и да бъдат проектирани с оглед на нуждите на различните потребители и неползватели.

Необходими са повече оценки и далновидност

[Асистентите с изкуствен интелект биха могли да проявят ново поведение и взаимодействия, които са трудни за предвиждане или контрол.

Това подчертава необходимостта от постоянни оценки и прогнозиране, за да се гарантира, че тези технологии се разработват и внедряват отговорно и етично.

В заключение, усъвършенстваните асистенти с изкуствен интелект имат потенциала да трансформират много аспекти от живота ни, но те също така поставят значителни етични и обществени предизвикателства.

Изключително важно е да се справим с тези предизвикателства проактивно, за да гарантираме, че тези технологии са от полза за човечеството и не причиняват вреда.