Atunci când spunem inteligență dincolo de IQ, ne referim la superinteligență, un agent ipotetic ce poate depăși, de departe, abilitățile intelectuale ale oricărei ființe umane. Acest agent, aidoma oamenilor, va poseda abilitatea de a crea un agent mai inteligent decât el însuși, acțiune ce va putea fi repetată la nesfârșit, astfel declanșându-se o explozie a inteligenței. Această explozie poate fi controlată sau necontrolată, fapt posibil determinant pentru supraviețuirea speciei noastre.
În opinia mea, dezvoltarea superinteligenței este inevitabilă, dacă specia umană evită autodistrugerea și riscurile existențiale naturale. Superinteligenţa ne poate duce acolo unde nici nu visăm, prin mijloace la care în acest moment nici nu îndrăznim să ne gândim. Momentan, superinteligența artificială pare mult mai fezabilă decât cea biologică, deoarece manipularea datelor în mediul virtual este mult mai simplă decât manipularea creierului uman. Prin urmare, voi elabora eseul în principal pe baza superinteligentei de tip artificial.
Cu toate că acest tip de superinteligență este realizabilă, inteligența artificială rămâne teren neexplorat pentru noi, nefiind lipsită de riscuri, chiar existențiale. De unde știm că inteligența artificială va fi de partea noastră? Aceasta va avea conștiință? Conștiința într-o superinteligență artificială ar fi benefică pentru noi? Ce motivații va avea aceasta? Sunt multe întrebări de natură etică la care ar fi de recomandat să găsim răspunsuri, asta înainte de dezvoltarea superinteligenței.
Există o fabulă ce ilustrează acest aspect al riscurilor, „Fabula neterminată a vrăbiilor”. În aceasta, un stol de vrăbii decide că ar beneficia de pe urma unei bufnițe care să le ajute. Un membru al stolului, Scronkfinkle, obiectează, spunând: „Cum să facem una ca asta? N-ar trebui, înainte să aducem o astfel de creatură printre noi, să ne gândim la domesticirea și îmblânzirea bufniței?” Celelalte vrăbii, ghidate de Pastus, ignoră avertismentul, pornind de la premisa că vor găsi puiul sau oul de bufniță mai întâi, urmând să ia în calcul controlul bufniței după aceea. Scronkfinkle încearcă să convingă stolul că planul este greșit, efortul sau dovedindu-se în zadar. Fabula se termină astfel: ”Doar două, trei vrăbii rămăseseră pe urmă. Împreună, începuseră să se gândească cum puteau fi bufnițele îmblânzite sau domesticite. Dar și-au dat seama repede că Pastus avusese dreptate: sarcina se dovedea prea dificilă, mai ales că nu aveau o bufniță pe care să exerseze. Cu toate acestea, au continuat să caute o soluție, temându-se să nu se întoarcă stolul, cumva, cu un ou și să le prindă nepregătite.”. Nu știm cum se încheie povestea. Anticipând că vrăbiile găsesc un pui/ou de bufniță, există trei scenarii posibile: Scronkfinkle nu rezolvă problema controlului, dar acestea sunt extraordinar de norocoase, bufnița dovedindu-se binevoitoare; Scronkfinkle rezolvă problema controlului; Scronkfinkle nu rezolvă problema controlului, bufnița nu se dovedește binevoitoare, având intenții maligne. Cel din urmă scenariu atârnă mult mai greu pe balanța probabilităților decât celelalte, deoarece Scronkfinkle nu are mult timp la dispoziție pentru o sarcină atât de complicată. Așadar, putem specula că sfârșitul fabulei nu este prea strălucitor din perspectiva vrăbiilor. Această analogie se potrivește perfect cu situația noastră, ceea ce ar trebui să ne pună pe gânduri în privința ordinii rezolvării problemelor: superinteligența în sine sau problema controlului agentului superinteligent.
Putem ajunge la superinteligență prin mai multe metode. Acest fapt crește probabilitatea creării superinteligenței. Întrebarea este: ar fi înțelept din partea speciei umane să dezvolte superinteligența? Să ne imaginăm că un decident politic oprește finanțarea într-un anumit domeniu de cercetare. Comunitatea științifică s-ar opune, argumentând că oprirea cercetării este inutilă. Cât timp o tehnologie este fezabilă, aceasta va fi dezvoltată, indiferent de îngrijorările unor decidenți politici. Așadar, este o întrecere. Întrebarea nu este dacă ar trebui să ajungem acolo, ci cine va ajunge acolo primul. Dacă, de exemplu, proiectele cu scopul dezvoltării superinteligenței devin ilegale, dezvoltarea acesteia va continua pe cale ilegală, posibil de către organizații cu scopuri egoiste, care nu acordă multă importanță controlului acesteia, sau de către state, în mod individual, fiind dominate de gândul că ceilalți fac același lucru, pe ascuns. Prin urmare, dezvoltarea superinteligenței este alegerea înțeleaptă. Crearea superinteligenței de către o organizație cu intenții binevoitoare, un stat sau o coaliție între mai multe state implică multe probleme de natură politică, care, de dragul gedanken-experimentului nostru, să spunem că au fost rezolvate. Acum, mai rămâne de atins scopul final: crearea cu success a unei superinteligențe artificiale binevoitoare, cu voința de a îndeplini sarcinile date de stăpânii săi, cum ar fi aducerea fericirii în lume sau dezvoltarea călătoriilor interstelare.
Să revenim puțin la fabula pe care am prezentat-o la începutul eseului. Scronkfinkle, împreună cu puținii discipoli ai acestuia, încearcă să găsească o metodă de îmblânzire, o metodă prin care aceștia să controleze bufnița. Însă ei sunt singurii care se îngrijorează în privința controlului, o sarcină mult mai grea decât găsirea bufniței. Majoritatea stolului este ghidată de perspectiva personală, mai exact vor să experimenteze tehnologiile viitorului. Problema controlului necesită timp, posibil mai mult decât viața unei vrăbii. Acest proces de gândire li se aplică și multor oameni.
Un alt subiect care mă fascinează și care cred că ar trebui exploatat este conștiința. O superinteligență artificială poate avea conștiință? Ar trebui să aibă o conștiință? Atunci când aud sau citesc cuvântul „conștiință”, de multe ori oamenii se gândesc la lucruri diferite. Eu mă refer la experiența subiectivă. În momentul de față, nu este cunoscut pentru ce avem nevoie de conștiință. Aceasta pare ceva din altă dimensiune. Cu toate acestea, atunci când îți deteriorezi creierul, totodată îți deteriorezi și conștiința, ceea ce sugerează că aceasta este un fenomen fizic. Să ne gândim la o variantă mai avansată a testului Turing. Aveți în față un om și o inteligență artificială (IA) care arată exact ca un corp uman. Această IA se comportă exact ca un om, are limbajul corporal al unui om, este nediferențiabil de o ființă umană, deci trece testul Turing. Dacă asta înțelegeți prin conștiință, atunci fiecare sistem de IA generală ar putea să simuleze conștiința.
Superinteligența, mai ales cea artificială, este salvarea noastră, o salvare a cărei eșuare se poate dovedi fatală, dacă nu este executată cu precauție. Pentru a îndeplini cu succes această misiune, va trebui să gândim din perspective întregii specii, nu din egoista noastră perspectivă personală. Miza este mare. Aceasta poate fi soluția sau cauza sfârșitului pentru Homo sapiens. Va trebui să pășim cu mare atenție în acel tărâm neexplorat pentru a evita rezultatul cel din urmă.