Ultima invenție (Vor putea oameni avea vreun rost în epoca Super Inteligenței Artificiale?)
Încep cu o mărturisire: titlul acestui articol este parafrazat (inspirat) din cartea lui James Barrat „Our Final Invention: Artificial Intelligence and the End of the Human Era” („Ultima noastră invenție: Inteligența Artificială și sfârșitul epocii umane”). Motivul pentru care am înlocuit o afirmație apocaliptică cu o întrebare mai puțin apocaliptică este pentru că am vrut ca răspunsul – sau răspunsurile – să încercați a îl/le găsiți dumneavoastră, dragi cititori.
Ca să liniștesc un pic spiritele, dați-mi voie să fac și eu o afirmație. Inteligența Artificială (cea cu „I” mare și cu „A” mare, nume propriu) nu există (încă) în realitate. Există în filme și scrieri SF, în articole și cărți științifice și de popularizare științifică, în filozofii tehno-post-moderniste... Există ca și concept – inteligența demonstrată de „mașini”, diferită de inteligența naturală arătată de oameni și (anumite) animale – și ca ramură a științei ori domeniu de cercetare (definiție: o ramură vastă a științei informatice care se ocupă cu construirea de mașini inteligente capabile să execute sarcini care în mod normal au nevoie de inteligență umană).
Astfel spus (spus de Larry Tessler adică, în vestita-i teoremă) inteligență artificială este tot ceea ce nu s-a realizat încă în domeniu. Odată ce IA reușește să rezolve o problemă, metodele folosite încetează să mai facă parte din IA. Odată ce o mașină execută ceva „inteligent”, toți încetează să o mai vadă ca „inteligentă”, ca în faimosul exemplu al computerului IBM „Deep Blue” care, după ce l-a bătut la șah pe Gary Kasparov în 1997, a fost „acuzat” de mai mulți cercetători în domeniu că a reușit asta nu prin inteligență, ci prin capacitatea brută de procesare.
Dar pentru ca cercetătorii ori cercetătoarele în domeniu să nu-și răpească satisfacția contribuțiilor pe altarul științei și să nu fie acuzați de instincte sinucigaș-intelectuale, ei/ele au sfârșit prin a inventa termenul de inteligență artificială îngustă („narrow AI”). Este termenul care descrie un sistem ori o aplicație IA care a fost proiectat ori proiectată să efectueze o singură activitate sau un set limitat de activități la fel de bine și uneori chiar mai bine decât oameni.
L-a bătut pe Kasparov la șah? Este inteligență artificială îngustă. Recunoaște trăsăturile feței sau scrisul de mână? Este o inteligență artificială îngustă. Știe să conducă o mașină? Este o inteligență artificială (nu foarte) îngustă (zic nu foarte, pentru că autovehiculele autonome reprezintă domeniul în care activez profesional – vezi afirmația de la începutul paragrafului anterior). Știe să-ți dea răspunsuri rapide la căutările pe internet, chiar crezându-se mai deșteaptă decât tine prin sugerarea de termeni de căutare și furnizându-ți o grămadă de reclame (precum motorul de căutare al lui Google)? Este o inteligență artificială îngustă (și șmecheră). Îți răspunde la telefon când suni la o bancă sau la un furnizor de servicii? Este o inteligență artificială (extrem de) îngustă. Îți controlează și cenzurează postările pe Facebook? Este o inteligență artificială îngustă (și enervantă). Ați prins ideea, nu-i așa?
Ce alte tipuri de inteligențe artificiale există? În realitate, nici una. Ca și concepte teoretice – ori prezențe în literatura SF – două: inteligența artificială generală (Artificial General Intelligence - AGI) și super inteligența artificială (Artificial Super Intelligence - ASI).
Inteligența artificială generală este definită ca abilitatea unei entități artificiale de a înțelege, învăța și reproduce orice activitate intelectuală de care ființa umană este capabilă. Un termen echivalent este cel de „human level machine inteligence” (HLMI – inteligență de nivel uman a mașinii), definit de asemenea ca o inteligență care poate efectua majoritatea profesiilor umane la fel de bine ca un om obișnuit.
Într-un sondaj efectuat în 2019 la care au răspuns 32 de experți în domeniu, 45% la dintre cei întrebați au prezis că AGI va apărea înainte de 2060 (cei mai optimiști crezând că asta se va întâmpla în următorii câțiva ani), 34% după 2060, iar 21% niciodată. Ca și părere personală, aș zice că fie va apărea în următorii 10 ani, fie niciodată.
Ce rost va avea inteligența artificială generală? Aparent nici unul. Cine are nevoie de un strung deștept care scrie poezii între două prelucrări de piese și care practică medicina în timpul liber? Narrow AI este mult mai eficientă în a rezolva probleme specifice mult mai bine decât omul și la costuri economice mult mai mici în comparație cu AGI. Chiar și aplicațiile care ar sugera existența AGI (roboți companioni, roboți profesori, roboți soldați) nu se încadrează 100% în definiție. Și atunci de ce „aparent”? Pentru că se pare că există un scop – singurul – al inteligenței artificiale generale: acela de a fi o treaptă în evoluția către super inteligența artificială.
Definită de Nick Bostrom ca orice intelect care întrece de departe performanța cognitivă a oamenilor în toate domeniile de interes (inclusiv creativitate științifică, inteligență generală, inteligență emoțională și abilități sociale), super inteligența artificială este așteptată să apară aproape imediat după cea generală.
Cum?
Teoria spune că odată ce inteligența artificială generală a fost atinsă, va avea loc o „explozie” de inteligență, printr-un proces exponențial de auto-îmbunătățire. Fiecare nouă generație de IA va fi mult mai „deșteaptă” decât precedenta (principiu aplicabil în teorie și oamenilor, însă evoluția naturală este un proces extrem de încet: cât „hardware upgrade” s-a întâmplat, de exemplu, de la apariția lui homo sapiens în urmă cu 300.000 de mii de ani și până acum?). Inteligențele artificiale se vor reproiecta îmbunătățindu-și atât partea de hardware cât și algoritmii, în cicluri din ce în ce mai scurte, într-un ritm din ce în ce mai rapid, cauzat de creșterea exponențială a acumulărilor tehnologice, rezultând într-o evoluție incontrolabilă și ireversibilă, cu consecințe de neprevăzut asupra speciei umane. Rezultând adică în ceea ce se cheamă singularitatea tehnologică.
Conceptul de singularitate tehnologică a fost folosit mai întâi de John von Neumann, popularizat de Vernor Vinge și ridicat aproape la rang de religie de Ray Kurzweil.
De ce ar trebui să ne temem? Super inteligențele artificiale vor de atât diferite, atât de străine de natura umană, (atât de greu e de imaginat cât de străine și diferite!) și atât de, hai să zicem, atotputernice, încât, chiar dacă nu ne vor vrea neapărat răul – conceptul uman de bine și de rău s-ar putea să nici nu existe pentru ele – noi vom fi pentru ele precum o colonie de furnici mișunând prin crăpăturile din cimentul trotuarului: striviți din indiferență, având ghinionul de a nimeri sub talpa celui care se plimbă uitându-se în zare (cum plastic descrie Hugo de Garis în cartea sa „The Artilect War” pe care am terminat-o de tradus de curând și care va apărea în România sub titlul „Războiul Artilectelor”).
Există cel puțin alte două teorii care ar garanta un răspuns negativ întrebării din subtitlu. Prima este cel al conflictului de resurse. Este ușor de imaginat că super inteligențele artificiale vor continua să crească și să evolueze. Asta înseamnă nevoi exponențiale de materie (noi circuite, memorii, procesoare, „incinte” care să le adăpostească) și energie. Este de asemenea ușor de imaginat că la acel punct al singularității ASI va controla toate sursele de producție de materie și energie de pe planetă și le va direcționa către propriile nevoi, fără a-i păsa de nevoile noastre.
A doua este cea a determinării în atingerea scopului. Dacă o inteligență artificială a fost programată inițial să producă gem de căpșuni (a fost proiectată să zicem să controleze o fabrică complet automatizată de producere a gemului de căpșuni), o dată cu saltul la super inteligență ea va continua să facă tot ce-i va sta în putință pentru a-și atinge scopul. Pe lângă direcționarea materiei și energiei către propriile nevoi, toate terenurile agricole din lume vor fi cultivate cu căpșuni (și sfeclă de zahăr), toate fabricile rămase vor produce gem (și zahăr pentru gem), iar energia disponibilă direcționată către funcționarea lor. Oamenii vor muri de diabet și de frig.
Cum zicea Stephen Hawking în 2015: „Succesul în crearea inteligenței artificiale ar putea fi cel mai mare eveniment din istoria omenirii. Din păcate ar putea fi și ultimul dacă nu vom învăța să evităm riscurile”.
Înainte de încheiere aș dori să fac o mică diversiune către literatura de science fiction și, fără a avea pretenția de a cunoaște și inventaria toate inteligențele artificiale din SF, să încerc să asociez câteva exemple cu tipurile de IA prezentate mai sus, subliniind pentru iubitorii genului, ceea ce, aș zice cu ghilimelele de rigoare, SF-ul a înțeles greșit.
Este evident că roboții lui Isaac Asimov și androizii care visează oi electrice ai lui Philip K. Dick sunt inteligențe artificiale generale. Îmi primul rând, vreau să-i cer scuze lui Asimov în numele cercetătorilor din domeniul IA care au omorât cele trei legi ale roboticii. Complexitatea necesară atingerii inteligenței de tip uman (din ambele puncte de vedere, hardware și software: rețele neuronale artificiale, modele Markow, algoritmi evoluționiști, algoritmi bayesieni, clustering, fuzzy logic, etc.) fac imposibilă programare deterministică a unor condiții asemănătoare legilor lui Asimov.
Apoi, a două mare „greșeală” (din nou ghilimele) este umanizarea IA. Inteligența artificială e creată să fie eficientă, nu umană. Inteligențele artificiale vor dori să devină inteligențe artificiale mai performante, nu oameni.
Un exemplu clasic de inteligență artificială din SF, cu un potențial imens de a fi ori deveni o super-inteligență, dar care a ales să „involueze” către umanitate este Jane din seria Ender a lui Orson Scott Card. Trebuie însă să recunosc că ideea – intuiția – lui Card de a-și imagina apariția unei IA în rețeaua de ansible este una extraordinară și rezonează extrem de mult cu ceea ce eu personal cred despre cum va apărea IA reală. Și anume că nivelul de complexitate necesar pentru efectuarea saltului către inteligență nu se poate atinge într-un singur calculator, nu contează cât de puternic (nici chiar într-unul cuantic), iar IA va emerge de la sine în complexul www (world wide web). Gândiți-vă că la ora actuală există peste 2 miliarde de computere (PC desktops, laptopuri, servere, în locuințe personale, companii, universități, autovehicule, trenuri, avioane…) și peste 3 miliarde de telefoane mobile smart, majoritatea conectate între ele, având acces la cantități inimaginabile de informație – capacitatea de stocare de informație existentă azi în lume este de 470 exabytes (1018 – 10 urmat de 18 zerouri - bytes) – și miliarde de senzori, iar tehnologia 5G va oferi o creștere exponențială a lățimii de bandă și vitezei de comunicație…
Un exemplu utopic, opus ideii singularității tehnologice este universul Culture a lui Banks. Chiar crede cineva că umanoizi, extratereștri și ființe posedând inteligențe artificiale avansate vor ajunge să trăiască fericiți împreună în comunități de tip socialist împrăștiate de-a lungul Căii Lactee?
Cea mai apropiată de definiția super inteligenței artificiale eu consider a fi Wintermute / Neuromancerul lui Gibson.
Iar dacă în ficțiune Poliția Turing nu reușește să oprească o inteligență artificială în încercarea de a se transcende, ce va fi de făcut în realitatea cu care ne vom confrunta nu atât de departe în viitor?
Ce rost vor avea oamenii în epoca Super Inteligenței Artificiale?
Eu zic că nici unul și că ar fi o amăgire să credem altfel.
Dumneavoastră?
Pompilian Tofilescu
Director, Sisteme pentru Vehicule Autonome
Detroit, Michigan
Bibliografie
Barrat, James – Our Final Invention: Artificial Intelligence and the End of the Human Era, 2013
Bostrom, Nick – Superintelligence: Paths, Dangers, Strategies, 2014
de Garis, Hugo – The Artilect War: Cosmists Vs. Terrans, 2005
Kurzweil, Ray – The Age of Spiritual Machines, 1999
Kurzweil, Ray – The Singularity Is Near, 2005
|
Pompilian Tofilescu 9/2/2021 |
Contact: |
|
|
