Јувал Ноа Харари: Вештачката интелигенција го менува светот, но контролата е сè уште во наши раце

Познатиот историчар и автор Јувал Ноа Харари, во обемно интервју за медиумот The Economist, го опишува развојот на вештачката интелигенција (ВИ) како „најголемиот психолошки и социјален експеримент во човечката историја“. Разговарајќи за иднината на технологијата, тоа каде се движи дигиталниот свет и кои ризици нè очекуваат, Харари нуди подлабок увид во механизмите на контрола, доверба и регулација што директно го засегаат глобалното општество.

Дали е неизбежна доминацијата на вештачката интелигенција?

Коментирајќи ги предвидувањата на Илон Маск дека во рок од 10 години вештачката интелигенција ќе ја надмине човечката интелигенција и ќе преземе контрола врз клучните системи, Харари се согласува со можноста за таков сценарио, но строго ја отфрла тезата дека тоа е неизбежно. Според него, наративот за „неизбежност“ често го користат самите технолошки лидери за да се ослободат од одговорноста за последиците од трката со ВИ.

Харари посочува дека човештвото сè уште ја има контролата и дека одлуките донесени денес ќе ја одредат иднината. Тој исто така укажува на противречностите во изјавите на водечките технолошки фигури, кои истовремено предвидуваат дека ВИ ќе ги преземе финансиите и ќе ги истисне парите, а од друга страна носат политички и економски одлуки засновани на традиционални заштеди.

Префрлање на довербата: Од луѓе кон алгоритми

Една од клучните тези на Харари е дека највредниот ресурс во светот е довербата — повредна дури и од нафтата, парите, струјата или чиповите. Целата финансиска историја е изградена врз изуми што овозможуваат создавање доверба меѓу непознати.

Со оглед на тоа што денешните финансиски пазари се премногу сложени за човечкиот мозок, контролата сè повеќе им се препушта на алгоритмите. Доколку овој тренд продолжи, за десет години луѓето повеќе нема целосно да го разбираат финансискиот систем, слично како што домашните животни не ги разбираат акциите или обврзниците што управуваат со нивните животи. При евентуален финансиски колапс, лидерите ќе мора да ги следат упатствата на ВИ без да ја разберат нивната суштина.

Овој премин на довербата веќе се случува:

• Финансии: Довербата се префрла од традиционалните банкари кон криптографските алгоритми и ВИ системи.

• Медиуми: Луѓето кои ја губат довербата во новинарите и уредниците, истовремено и веруваат на алгоритмите што ги управуваат нивните социјални мрежи.

Масовно "производство на интимност и лични односи"

Додека во минатото диктаторите и институциите не можеа да градат личен однос со милиони луѓе одеднаш, вештачката интелигенција за првпат во историјата овозможува „масовно производство на интимност“.

Преку владеењето со јазикот и акумулирањето на огромни количини лични податоци, ВИ моделите стануваат виртуелни пријатели, па дури и партнери на сè поголем број млади луѓе. Оваа способност да формираат силни емоционални врски им дава огромна моќ за манипулација на политичките и комерцијалните интереси.

Интелигенција наспроти свест

Харари прави јасна дефиниција меѓу интелигенцијата (способноста за постигнување цели) и свеста (способноста да се чувствува болка, љубов или страдање):

• Денешната ВИ располага со висока интелигенција и агенција (способност за делување), но нема свест. таа не чувствува ништо кога победува или губи.

• ВИ е извонредна во симулирање на свест. Моделите можат да дадат подобри емоционални одговори од повеќето луѓе за да ја постигнат својата цел (на пример, зависност на корисникот).

Харари предупредува дека доделувањето на правен статус (правно лице) на ВИ системи е исклучително опасно. Доколку се дозволи постоење на автономни компании управувани од ВИ без човечка одговорност, тие би можеле да ги акумулираат најголемите богатства и да влијаат врз законодавството преку донации, додека традиционалните механизми за казна (како затвор) не важат за нив.

„ВИ имигранти“ и централизација на моќта

Според Харари, најголемиот и најопасниот бран на имиграција денес не се луѓето, туку „ВИ имигрантите“ што пристигнуваат со брзина на светлината од САД и Кина директно во нашите компјутери и паметни телефони.

Овие дигитални ентитети:

1. Ги земаат работните места во различни сектори.

2. Ја менуваат културата и јавното дискурси преку преплавување на социјалните мрежи со гнев, омраза и страв.

3. Не се лојални на локалните држави, туку на странски корпорации и влади.

Овој процес води кон незапаметена централизација на моќта, создавајќи нова форма на дигитален империјализам.

Итни чекори за регулација: Што мора да се направи веднаш?

За да се спречи сценариото во кое луѓето целосно ќе ја изгубат контролата во следните 10 години, Харари предложува неколку клучни регулаторни чекори:

• Забрана за правен статус (правен субјектитет) на вештачката интелигенција.

• Забрана за лажно претставување на ВИ како човек или симулирање дека поседува емоции и свест.

• Забавување на темпото на развој, со цел да им се даде време на демократските институции и општеството да се прилагодат.

Харари открива и еден поразителен податок од индустријата: односот на инвестиции во моќта и брзината на ВИ наспроти инвестициите во безбедноста е околу 100 спрема 1. Ова ниту една друга индустрија (како фармацевтската) не би смеела да го направи.

На крајот, Харари истакнува дека вештачката интелигенција функционира како огледало за човештвото. Таа нè принудува да се запрашаме што е тоа што навистина нè прави луѓе — бидејќи одговорот повеќе не е суровата пресметковна интелигенција или играњето шах.

Човештвото мора да вложи во стекнување мудрост, а не само повеќе информации и моќ, за да направи вистински избор пред да биде предоцна.