Singularitate înainte de Apocalipsă?

Singularitatea este considerată în general punctul în care inteligența artificială atinge sau depășește inteligența omului. Bineînțeles, asta nu se poate întâmpla decât după ce IA va dobândi conștiința de sine (sau cel puțin un fel de identitate). Bineînțeles, dacă vorbim de “un fel de” putem include multe, inclusiv o rețea neuronală care învață “să fie conștientă” prin imitație.

Pentru aceasta nu este nevoie de nicio mare invenție în IA sau de un mare pas înainte, ci așa cum recunoașterea imaginilor, a devenit posibila prin simpla creștere a puterii de calcul folosind teorii și algoritmi din anii 70-80 din domeniul rețelelor neuronale, tot așa nu excludem ca o dezvoltare a unei identității artificială poate fi realizată doar prin creșterea capacității de calcul sau măcare a capacițătii de seturi de învățare. Așa cum recunoașterea vocii sau a fețelor și nenumăratele noi aplicații nu sunt decât o un fel de rulare a programelor vechi pe calculatoare de putere mult mai mare care legate în rețea pot face chestii mult mai puternice și pasul către singularitate poate fi unul extrem de rapid și poate să vină peste noapte fără niciun semn.

Deși singularitatea este de departe cel mai hype topic cu privire la IA, să ne detașăm puțin și să încercăm să elaboram puțin spațiul riscurilor deoarece după părerea mea este mult mai probabil ca înainte de un război a la Robocop între oameni și IA vor fi multe alte probleme de rezolvat și este mult mai probabil ca riscurile existențiale să vină cu mult înainte de singularitate, aceasta nefiind altceva decât finalul fatal când toate celelalte hopuri au fost trecute.

Sunt însă câțiva care mai glumesc că singularitatea nu trebuie neapărat să ne fie fatală și că omul ar putea coexista cu alte tipuri de inteligență, că IA ne-ar trata ca pe niște animale de companie interesante de care ar avea grija cu delicatețe etc. Cât de naivi să fie să poate crede într-un astfel de scenariu: singura certitudine pe care o putem avea în cazul singularității este că omul va fi dominat fie de IA fie de un nou supra-om augmentat (să-i zicem așa).

IA a ajuns în prezent la recunoașterea imaginilor / formelor / patternurilor în seturile de date, învățare de procese și chiar învățare de jocuri în care spațiul rezultatelor nu este unul finit ci în cazul omului este folosită intuiția și experiența. Am dat în articolul trecut exemplul unui program de poker care i-a bătut pe jucătorii de nivel internațional la o variantă de poker extrem de puțin … matematică ci mai degrabă bazată pe teoria jocurilor. Poate însă, primul exemplu de IA care nu dă rezultate precise ci se bazează pe multe presupuneri extrase dintr-un set variat și neomogen de informații este motorul de căutare Google. Și toți știm că face o treabă extrem de bună. Google nu caută doar cuvinte cheie ci încearcă la textul introdus de noi să găsească o ontologie (domeniu, tip de căutare), să stabilească un context (locație, sezon, istoric, cookie-uri) și apoi să ghicească cât mai bine ce avem noi în cap când căutăm ceva, comparând cu alte căutari ale altor utilizatori.

Cel mai mare hop al IA actual este paradoxal tocmai modul în care învață omul. Oricât de interesante sunt rețelele neuronale și oricât de mult ar predinde unii cercetători că imită creierul uman, nu este nimic mai departe de adevăr decât a compara creierul omului cu o rețea neuronală sau cu orice alt tip de model. Profesorul Andrew Ng spunea sincer într-un curs introductiv în IA la Stanfod că nu știm cum gândește omul – zicea asta comentând temerile oamenilor cu privire la riscurile singularității.

Dar dacă modelarea creierului / gândirii par încă departe, se pare că cele mai mari progrese actuale s-au făcut nu imitând gândirea umană ci lăsând computerul să-și dezvolte singur modul de gândire. Și nu doar în cadrul rețelelor neuronale. Este uimitor ca programator să realizezi un program, să îl lași să se antreneze singur jucând program vs program, tu doar să îi dai câteva mici reguli și să îi spui la ce rezultat vrei să ajungi și programul să poată face asta singur, fără ca tu să ai habar cum funcționează și de ce a ales o variantă și nu alta.

Din acest motiv, lucrurile par deja cumva scăpate de sub control. În condițiile în care există mașini pe care le poți învăța cum să opereze într-un mediu (mai mult sau mai puțin complex), cum să învețe și ce trebuie să facă, trecerea de la rezultate infime cum ar fi recunoașterea fețelor până la schimbarea opiniei publice cu privire la un candidat politic, este doar chestiune de configurare a acelui program.

Sper că m-am făcut deja înțeles de ce pe măsură ce noile jucării de gândit realizate în anii recenți vor începe să fie puse la muncă, societatea umană va trece printr-un șoc extrem de puternic. Iar pierdea locurilor de muncă în fața roboților este deja o problema infimă comparativ cu altele care vedem că se prevăd la orizont.

Nu am amintit degeaba alegerile politice: exista o teorie că succesul lui Trump în alegeri se datorează unei companii de data mining care a analizat în amănunt trenduri și topicuri de interes în rândul electorilor lui Trump și folosind de aceste informații, cu ajutorul rușilor care ar fi plantat câte o știre două pe ici pe colo, targetat, în locurile recomandate de sistem, dar și folosind alte unelte de comunicare, au reușit să întoarcă foaia într-un număr util de circumscripții electorale garandând astfel victoria lui Trump.

2 comments

Leave a Reply

Your email address will not be published. Required fields are marked *