Elon Musk – profetul care strigă în pustie

Elon predicts that artificial intelligence will be the “most likely cause of WW3”

Elon Musk a făcut noi declarații legate de spaimele lui față de Inteligența Artificială. Spaime care nu sunt noi, Elon fiind fondatorul unei organizații care încearcă să controleze cumva dezvoltarea IA astfel încât roboții să nu cucerească omenirea (prea curând).

Că Elon Musk este un vizionar este puțin spus. Paypal, Tesla, Space-X sunt doar câteva dintre brandurile al căror tătic este. Este evident că Elon nu este doar un geek care a dat lovitura o dată sau de două ori sau nici măcar un business guru ca Steve Jobs care a îmbăcat cu spoială argintie o tehnologie deja existentă și a vîndut-o la supra-preț. Elon Musk este deja disruptor în mai multe domenii dintre care unul de mare interes pentru armata: rachetele spațiale. De unde putem deduce că Elon are acces ușor la guvernul SUA sau este oricum monitorizat, dacă nu este deja angajat al armatei SUA care este compania cu cei mai mulți bani și cu cea mai mare putere, putând dispune discreționar de orice resursă, de orice formă ar fi ea, mai ales pe teritoriul SUA.

“Guvernele nu trebuie să respecte legile normale. Ele vor obține IA dezvoltată de companii cu pistolul la tâmplă dacă ar fi cazul”. Dacă o astfel de declarație ar fi venit din partea unui neica-nimeni blogger pe teme IA sau chiar specialist în domeniu, nu ar fi fost nimic. Dar venind din partea lui Elon, lasă loc de multe înterbări. Declarația a venit ca un răspuns la un tweet: “Guvernele nu se pricep la IA, o corporație va construi o armată care va învinge”.

Avem deci câteva premize:

1) Elon Musk are acces la tehnologie de cel mai înalt nivel, mai ales în domeniul IA; având în vedere complexitatea unei mașini autonome și miza care se află în joc (dominația totală a segmentui auto dar nu numai), se înțelege că frontul de bătălie IA din domeniul auto este probabil depășit doar de cercetările militare.

2) Nu e far-stretch să presupunem că Tesla a avut ceva inovații în domeniu dintre care unele poate chiar au atras atentia DOD. Da, Google pare a fi în top, achiziția Boston Dynamics fiind un indiciu, dar și puterea financiară și capacitatea tehnologică extensivă a Google.

Nu de puține ori, marile salturi în orice domeniu le fac nu echipele cele mai finanțate cu resursele cele mai puternice, ci unele genii individuale cu viziune, motivație și … noroc. S-a întâmplat și cu Manhattan Project și cu Linux și cu Google (inițial) și chiar cu Windows-ul lui Gates.

Acum se pune întrebarea. Oare i-a scăpat păsărica lui Elon cu tweet-ul ala? Altfel, dacă Elon vorbește aiurea, nu e atent și doar face gargară ieftină, chiar nu realizează că bombele lui sunt totuși cam SF dacă nu cumva chiar au ceva acoperire?

In his latest frightening/entertaining (depending on one’s viewpoint) tweet storm, Elon predicts that artificial intelligence will be the “most likely cause of WW3” and that robots may actually initiate the outbreak of a global war if they decide that a “prepemptive strike is most probable path to victory.” (sursa)

Atrag atenția că a fi gică contra IA-ului nu e o modă și pentru Elon ar fi foarte ușor să stea în banca lui și să facă rachete spre Marte sau mașini electrice cool. Elon are însă copii, e familist convins și e preocupat de viitor. Nu e doar un vizionar, este și un tată și nu consuma marihuana și nici dependent de twitter. Cuvintele lui trebuie luate cu cea mai mare seriozitate, deși oricum resistence is futile, mai ales pentru noi omul de rând. Sau oare nu este?

Elon Musk – geniul pustiu

Elon Musk a tinut o conferinta ieri in care si-a dezvaluit o parte din planul de colonizare a planetei Marte.

Aveam de gand sa scriu putin despre Elon Musk cu privire la parerea lui fata de singularitate, dar am tot amanat. Acum daca am ocazia o sa iau taurul de coarne.

Se pune intrebarea: omul asta e nebun sau doar e smecher? Sau ambele la un loc, caci in general nebunii au un dar in a-i manipula pe fraieri. S-ar putea spune pe buna dreptate: da, Musk poate incerca treaba asta, caci daca ii iese, hurray Captain, daca nu, poate zice ca nu a avut bani, sau ca au fost proleme, piedici neprevazute si oricum nici nu va muri de foame si nici nu va pierde nimic, decat poate din faima. Insa Musk nu pare a fi un tip prea orgolios, cel putin nu orgolios aiurea.

Nici vorba insa de nimic din toate acestea. Musk este un vizionar dar mai mult decat un vizionar, Musk este un “doer”, un om care face. Gandeste, planifica, executa, pas cu pas, ca un borg. Gandeste “big”, planuieste “big”, munceste mult, invata continuu si are rabdare sa ii convinga si pe altii. Ba chiar isi face un plan de convingere si de schimbare a mentalitatilor, pentru ca socul adoptarii noului sa fie eliminat si cat mai multi oameni sa accepte ideea ca schimbarea in bine accelerata este posibila.

Sa luam exemplul Tesla. Constient ca indiferent de cate avantaje are masina electrica si indiferent de cat de eficienta ar fi, oameni nu o vor conduce daca nu o vor considera “cool”, Musk si-a propus un plan de 3 variante de masini electrice, care ar urma sa fie produse progresiv:

1 – masina “cool” de lux; Tesla Roadster a fost o masina electrica ce atingea 288 cai putere si prindea suta in 4-5 secunde; pretul a fost in jur de 100.000$; scopul acestei prime masini a fost ca oamenii sa isi scoata din cap imaginea pe care o aveau cu privire la masinile electrice: niste jucarii incete si hidoase, facute de tocilari la concusurile acelea din desert unde apareau tot felul de “ambarcatiuni” cu panouri solare care se numeau masini electrice;

2 – Model S a fost produsa de asemenea cu scopul de a fi un sedan “cool” la un pret aproape jumatate cat Roadster, scopul fiind rostogolirea bolovanului vanzarilor si a adoptarii publice a masinii electrice si totodata incropirea unei retele de alimentare rapida a masinilor pentru a rezolva (macar partial si pe alocuri) principala problema: autonomia redusa. Totodata, ca si Roadster-ul, toate profiturile din Model S (in ciuda IPO-ului) reintra in R&D (cercetare si dezvoltare) peprntru imbunatatirea procesului de productie si dezvoltarea tehnologica care sa permita urmatoarea etapa.

3. Tesla 4All (denumire neoficiala data de mine) va fi o masina care va targeta clasa de mijloc si va fi vanduta la un pret comparabil cu benzinarele populare. Folosind experienta versiunilor anterioare, avand deja optimizat soft-ul cu hartile si cu condusul autonom, Tesla va aplica un downgrade sau mai bine zis va adapta know-how-ului de la pasii 1 si 2 pentru obtinerea unui model de masa cat mai ieftin si care sa depaseasca prin performante si atractivitate de departe benzinarele la preturi similare. Totodata, Tesla 4All va putea folosi si reteaua de e-peco-uri Tesla din intreaga lume facilitand si accelerand adoptarea masinii electrice.

Planul sau este justificat nu doar din punct de vedere al schimbarii mentalitatii oamenilor, dar si din punct de vedere al business-ului, este un plan extraordinar: incepi cu o productie mica (infima raportata cu marii producatori) dar cu un produs care are marja de profit mare (luxul se plateste). Astfel, faci profituri care iti permit sa continui scalarea: inventezi, upgradezi, mai lansezi un model, mai cresti volumul, mai imbunatatesti operatiunile, mai cumperi experti de pe la altii si asa mai departe.

Suntem acum la pasul 2 in timp ce marii producatori auto gen Mercedes, Audi sau BMW abia incep sa cerceeze modelele electrice si au preturi prohibitive si nejustificate pentru versiunile deja scoase. BMW i3-ul costa in jur de 45.000$ si are 170 CP. Daca Elon se tine de promisiune, modelul popular Tesla va costa in jur de 40.000$ si probabil modelul compact similar i3-ului va fi cu mult sub aceasta limita. De altfel, pretul poate fi mult mai mic, avand in vedere inovatiile facute de Tesla in domeniul constructiei de masini.

Oricum parea inimaginabil ca in toiul crizei de supraproductie sa mai apara un mare jucator pe piata auto, in timp ce multi incercau sa supravietuiasca.  Elon, un outsider, a adunat pur si simplu 3 oameni si pornind de la zero, a invatat sa faca masini, a invatat sa faca fabrici de facut masini si a construit un gigant auto care a atins 50% din capitalizarea bursiera a Ford-ului in doar 3-4 ani de la IPO, in conditiile in care inca nu au ajuns la punctul 3 unde vor putea face profituri imense si se vor diversifica si in alte domenii, pe baza inovatiilor tehnologice mai ales in ceea ce priveste acumulatorii.

De-a lungul anilor Elon a avut nenumarate piedici si greutati. De multe ori a fost pe muchie de cutit. Si cu Tesla, si cu Space X. Momentan de exemplu, pretul scazut al petrolului – o anomalie a conflictelor geopolitice actuale – face ca masina electrica sa nu fie indeajuns de atragatoare prin prisma consumului. Evident, ca tehnologie este mai interesanta: zgomot redus, schimbarea vitezelor lina, cu totul altfel decat la cele de benzina, fiabilitate ridicata etc. Insa in cost de dolar per cal putere, electricitatea inca nu renteaza prea mult fata de benzina, si asta doar pentru ca pretul petrolului este tinut jos aiurea de americani in speranta ca astfel rusii nu isi vor putea dezvolta armata.

In ciuda greutatilor insa Elon a rezistat, a fost optimist si a cautat mereu solutii, tragand inainte ca un borg.

Nu cred deci ca Musk este nebun. Musk este atat de vizionar si atat de capabil sa impinga lucrurile in fata, incat multora dintre noi si chiar multora dintre americani, cand Musk vine si le vorbeste de colonizarea planetei Marte li se pare ca glumeste si ca vorbeste baliverne. Cei care nu il cunosc insa indeajuns, habar nu au ca Musk invata continuu, inainte sa vorbeasca de colonizarea altor planete, el are deja la activ cateva rachete deja revolutionare care au lansat sateliti in spatiu si care chiar fac profit. Probabil cand o sa ajunga pe Marte si o sa anunte urmatorul plan: colonizarea Europei (satelitul lui Jupiter) sau colonizarea asteroizilor, lumea o sa rada la fel.

Evident Musk nu este Dumnezeu, dar sunt sigur ca lui Dumnezeu ii plac oamenii ca Musk, care nu se dau inapoi de la lucruri mari, nu sunt demotivati si afectati de criticile care li se aduc si nu li se urca fumuri la cap, indiferent de cat de sus au ajuns. M-a frapat timiditatea, delicatetea si politetea cu care Elon a zambit si a evitat tacticos pe o gagica fierbinte care a venit la conferinta si a vrut musai sa il sarute, pretinzand ca vrea doar sa ii dea un “good-luck kiss”. De asemenea, de multe ori, cand i se pun intrebari idioate de genul “ce faci in timpul liber” sau “cum isi petrece ziua Elon Musk”, acesta raspunde ca cel mai simplu om si din raspunsuri vedem ca omul are o viata normala si nu are deloc fasoane sau gogosi in cap, similar cu alti “salvatori” ai planetei, care “vor sa schimbe lumea”.

Inevitabil, cand arugmenteaza de ce vrea sa faca ceva, Elon spune ca ce face o face pentru o idee, pentru ca vrea sa gaseasca solutii si pentru ca i se pare normal de exemplu ca oamenii sa colonizeze Sistemul Solar. De ce nu am face-o daca putem, daca este atat de evident ca omul are chemarea sa se inmulteasca si sa cucereasca tot pamantul (fie el cel de pe Terra sau de pe alte planete).

Cand este intrebat daca ar fi dispus sa mearga si el pe Marte cu viitoarele transportoare care vor face naveta intre pamant si Marte, Elon raspunde ca da, isi va dori, dar abia atunci cand va fi sigur ca daca se intampla ceva cu el, planul sau de colonizare va merge inainte (in sensul ca munca lui va fi continuata si compania nu va fi folosita doar ca o vaca de muls de catre actionari).

Acum daca am ajuns la bani, sa mentionam ca si cu privire la Space X, Elon promite sa reinvesteasca mare parte din profituri in R&D. Asa cum face in Tesla, tot asa va face si in Space X. Nu stiu exact cu cat a mai ramas Elon dupa IPO si nici in Space X nu stiu cat detine. Din ce am auzit, din vanzarea Paypal ar fi reinvestit totul. De altfel, mentioneaza ca si cu Tesla si cu Space X a fost de mai multe ori pe muchie de cutit in sensul ca isi terminase propriile economii si companiile respective inca nu reusisera sa faca ceva profit.

Cine cumpara un Roadster, contribuie la cercetarea si dezvoltarea urmatorului model, spunea Musk. In prezentarea de ieri, spunea ca va incerca sa finanteze dezvoltarea “navetelor” catre Marte din zborurile de lansare de sateliti. Problema va fi insa doar la zborurile initiale care vor dovedi fiabilitatea si vor pune bazele dezvoltarii unei statii pe Marte, cel putin care sa poata fi folosita ca baza pentru primii colonisti. Ulterior, costul transportului pentru o persoana va fi in jur de 100.000$ (dus). Avand in vedere ca in pret este inclusa si o casa (chiar daca pe Marte), unii glumeau ca va fi mai ieftin sa iti cumperi o casa pe Marte decat in Los Angeles.

Cu privire la colonia de pe Marte, Elon nu a mentionat nimic. Banuialea mea este ca nici nu il intereseaza prea mult, fiind sigur ca in momentul in care primul zbor dus-intors ii va reusi, va atrage deja atentia NASA si Congresul va fi dispus sa finanteze un program NASA care folosind transportoarele lui Musk sa puna umarul la construirea unei baze care sa fie samburele viitoare colonii.

In categoria de capete luminate din lumea afacerilor de astazi, Elon Musk este probabil cel mai putin inteles si acceptat. In primul rand pentru ca el nu este interesat doar de bani sau de succes. Daca si-ar fi dorit, Elon ar fi pastrat Paypal si folosind resursele si know-how-ul deja acumulat, ar fi putut sa adopte bitcoin-ul si sa revolutioneze si mai mult sistemele de plati sau de ce nu sa intre pe servicii financiare mult mai banoase, lansand un nou tip de card care sa concureze Visa. Musk nu si-a dorit insa doar sa faca bani, ci in primul rand a luat taurul de coarne incercand sa rezolve cele mai mari probleme ale umanitatii, legate chiar de riscurile existentiale care au aparut in ultimul secol. Vi-l imaginati de exemplu pe Bill Gates sa vanda Microsoft ca sa finanteze o companie care sa descopere tratament pentru cancer? Da, Bill Gates a donat si el niste bani pentru vaccinuri, dar asta a facut-o la pensie cand nu prea mai are ce sa faca cu zecile de miliarde si oricat ar cheltui nu o sa ii ajunga viata sa ii toace pe toti. Si in timp ce Bill Gates pompeaza bani in vaccinuri pentru controlul populatiei, Elon Musk incearca sa mai ofere oamenilor inca un pamant (suprafata planetei Marte este aproximativ egala cu supratata de uscat de pe Terra).

Am zis in titlu ca Musk este neinteles. Evident, sunt oameni cu raportari variate cu privire la Musk si la ce zice el, mai ales pentru ca multi il suspecteaza ca doar face astfel de prezentari si previziuni fantasmagorice cu scoul de a stoarce bani de la investitorii in actiuni si de la alti potentiali parteneri de afaceri care sa i se alature. S-a dovedit insa ca Musk merge inainte orice-ar fi si crede sincer in planurile sale. De unde deducem ca este un om calculat, inteligent, hotarat si greu de miscat din propriul cadru … ca sa zicem asa.

In final doar mentionez trecator ce crede Musk despre Singularitate si de ce ii e teama ca omenirea trebuie sa aiba “o alternativa”, just in case ….

Intrebat ce parere are despre Inteligenta Artificiala, Musk este ferm: nu avem nici o certitudine ca directia in care se merge va fi una optimista pentru om. Putem ajunge in punctul in care omul va deveni un animal de companie pentru IA, dupa momentul singularitatii. Nu e neaparat rau, dar nici nu putem stii daca va fi bine. De asemenea, inainte de singularitate, o temere fondata as zice eu, a lui Musk este ca puterea IA ar putea cadea (sau evident naste / creste / dezvolta) in maini gresite care sa o foloseasca gresit. Aici Musk mentioneaza Google, dar putem sa presupunem ca si armata SUA ar putea sa ajunga in punctul in care sa controleze intreaga populatie doar printr-un roi de drone inteligente care spioneaza totul, centralizeaza datele, foloseste tehnologii cloud si big data ca sa ne spioneze si chiar folosind modele predictive de inginerie sociala, sa duca la o dictatura tehnologica ingrozitoare.

Prin urmare, singura solutie sa minimalizam aceste riscuri (ca singularitatea sa ne afecteze negativ sau pana la singularitate, IA-ul sa fie folosit malefic) ar fi distribuirea progresului si a descoperirilor. Cu cat puterea este mai distribuita, cu atat mai buna sansa de check and balance si cu atat mai diminuat riscul alunecarii pe variante “negative”. De aceea Elon s-a implicat in Open AI – inca o initiativa incipienta din categoria “save the world” sau macar “delay the apocalypse”.