Jocuri electronice vs Om

Am trecut pe lîngă știrea că afaceristul Elon Musk (Tesla, SpaceX) consideră că inteligența artificială este cel mai mare pericol cu care se va confrunta umanitatea ca pe lîngă un mare cretinism, și, cu atît mai mult, aproape că m-a scandalizat să aflu că a înființat un centru de cercetare pentru promovarea siguranței în dezvoltarea sistemelor robotizate în care vrea să investească un miliard de dolari. Investiția de 15 milioane de dolari a lui Soros ca să nu iasă George W. Bush președinte mi s-a părut (la vremea respectivă în 2004) o decizie mult mai logică și mai directă către siguranța planetei.
Totuși, un alt savant de renume mondial, Stephen Hawking susține același lucru, ceea ce iar mi s-a parut bizar. Cum postul de radio unde auzisem știrea nu explica motivele îngrijorării lui Elon Musk, am încercat să-mi explic singur: care ar fi cel mai plauzibil motiv? Cum l-ar putea pune în pericol pe om, inteligența artificială?
Pe bannerul site-ul de unde piratez filme apar tot felul de reclame pe care nu dau click niciodată dar pe care, bineînțeles, le văd fără să vreau. Una dintre ele rulează în continuu un trup lasciv de femeie-android aflat în mișcare și e însoțit în josul imaginii de îndemnul “clicheaza aici, jocul de pe internet de care o să devii dependent pentru totdeauna!”
Probabil că din cauza asta, m-am gîndit că într-un viitor apropiat oamenii vor deveni dependenți de niște androizi-sclavi sexuali sau jocuri 3D care se vor autoprograma în funcție de cerințele fiecărui stăpîn-partener, și cu cît va fi irosit mai mult timp cu astfel de distracții, cu atît se va apropia acel moment la care civilizația va ajunge într-un punct de răscruce: ca specie, auto-mulțumirea totală, lipsa oricărei motivații, poate duce la colaps.
Dar, căutînd pe internet, am aflat că nu acesta era scenariul imaginat de Elon Musk și Stephen Hawking. Folosind inteligența artificială și robotică, companiile mari din industria apărării investesc în sisteme de arme automate care vor duce conflictele armate la un nivel cu totul nou, de o magnitudine și rapiditate pe care nici măcar nu o putem înțelege. Schimbarea majoră constă în faptul că, pentru prima oară în istoria conflictului armat, mașinile, nu oamenii, vor decide cine va fi ucis și cine nu. Va avea loc o cursă a armelor de acest gen exact la fel cum a fost o cursă a înarmării nucleare.
Cu toții știm că revoluția computerelor personale, avansul extraordinar al procesoarelor și capacității de stocare a memoriei din ultimii douăzeci de ani a fost în primul rînd o consecință a apariției jocurilor pe computer. Ele au declanșat cerința, cerința a generat vînzări și vînzările au generat investiții.
Numai specia noastră, homo sapiens, se poate entuziasma pentru lucruri care nu există cu adevărat, numai noi ne putem imagina zei atotputernici, sau ne putem dedica ani din viață studiului/dezvoltării unor jocuri în aparență complet nefolositoare.
Dar rezultatele acestor jocuri cu imaginația, fie că a fost religie, literatură, sau arte, fie că au fost jocuri – ne-a permis să colaborăm ca specie, să împărtășim aceleași plăceri și să ne formăm aceleași hobby-uri. Să devenim un creier colectiv ca o sumă a unor eforturi individuale spre un același țel sau ideal. Putem avea mituri comune, cum ar fi cel al creației biblice, și milioane dintre noi putem urmări cu interes rezultatul unui meci de șah.
Un moment de referință în istoria evoluției computerului are loc în 1997 cînd mașina de jucat șah a IBM-ului reușește să-l bată pe campionul de atunci, Gary Kasparov. Kasparov va pretinde că echipa IBM a trișat, apoi va explica ce dificil este să joci împotriva cuiva care nu are față, ochi, trăsături și, mai ales, tensiunea psihică de a nu ști nimic despre partidele jucate de adversar, să nu ai nimic de studiat/pregătit înainte de confruntare. Făcută de computer, spune Kasparov, o mutare stupidă poate fi privită ca mutare genială mascată și prin urmare poate stresa inutil creierul uman care va încerca să analizeze inutil tot felul de variante. Mașina nu obosește analizînd variante și mașina nu se stresează. Din șase jocuri, Deep Blue va avea o singură victorie în fața lui Kasparov (restul remize) dar acea victorie a marcat detronarea omului, începutul supremației mașinii.
Anul acesta inteligența artificială a mai cucerit o ultimă redută apărată de oameni. E vorba despre jocul de Go, joc foarte popular în Asia. Pe cît de ușor e de învățat, pe atît este de greu să ajungi să excelezi la Go. Ca și la șah, albul joacă împotriva negrului și ca și la șah, o parte din dificultatea constă în numărul de mutări posibile, calcularea lor, alegerea strategiei bune dintre zeci de mii de variante. Pe rînd jucătorii plasează cîte o piesă la intersecția celor 19 linii verticale și 19 orizontale care divizează tabla de joc. O piesă complet încercuită de adversar este scoasă din joc. Scopul este să ajungi să controlezi mai mult teritoriu decît adversarul. O meșă de 19 pe 19 oferă 361 de locuri primei piese plasate. Numărul de variante de a aranja piesele este de 10 la puterea 170.
Creatorii mașinii de jucat Go, care se numește AlphaGo Zero au reușit un lucru extraordinar care sună a pur scenariu SF: aceasta învață singură din propriile experiențe, jucînd jocuri de una singură. Programul începe doar cu regulile jocului și cu o „funcție de recompensă”, care îi acordă un punct pentru o victorie și-l substrage pentru o pierdere. În prima zi mașina plasează piese aleatoriu, fără o idee reală despre ceea ce face. După o zi, juca la nivelul unui profesionist avansat. După două zile, a depășit performanța versiunii care îl bătuse pe un campion anul trecut, în 2016. În numai trei zile, de una singură, AlphaGo Zero acumulează cunoștințele acumulate de om într-o mie de ani.
Imaginați-vă o mașină de război, niște super roboți înmagazinînd experiența de ucidere acumulată de om în ultimii două mii de ani cu o „funcție de recompensă” similară cu a lui AlphaGo Zero: un punct pentru o ființă umană eliminată.
Dronele, sistemele GPS, propulsia, durabilitatea bateriei, tehnologia, totul este aproape gata. Se lucrează doar la partea de programare
Mașina nu are probleme de conștiință în fața unui trup sfîrtecat, mașina nu are traume post-stres la sfîrșitul unor lupte.

Bibliografie: https://www.economist.com/news/science-and-technology/21730391-learning-play-go-only-start-latest-ai-can-work-things-out-without

Cornel Balan

Mă consider un bun povestitor şi atît.
Escroc S.R.L. este prima mea „poveste” de 500 de pagini, publicată de Humanitas în 2013 sub forma unui roman.
Am luat cu ea „Cel mai bun roman” la Concursul de Debut Literar Unicredit/Banca Ţiriac.
În martie 2015, am fost ales laureat al Le Festival du premier roman de Chambéry (juriu din Franţa).
Al doilea roman, LIFTUL, a fost publicat în 2019 la Humanitas, în colecția Scriitori români contemporani.
Apariție în numărul 5 al revistei Iocan: Pe Ana Lugojana.
Cel de-al treilea roman al meu, Ultima Armată a aparut în 2020 la Casa de Pariuri Literare.
Nominalizat pentru „cea mai bună povestire SF 2019” cu Ultima Frontieră apărută în numărul 5 al revistei CSF. O altă povestire SF poate fi citită în revista Galaxia 42 unde deasemenea colaborez: Sferoidul. Locul 2 la Concursul Național de proză scurtă SF Helion 2021 (locul 1, neacordat):
Artificial

Locul 1 la acelaşi concurs din 2021 cu Maşina de teleportat contrafăcută.

Volumul de povestiri SF cu titlul Artificial apărut în 2022 la editura Pavcon.

În prezent, scriu un mini-roman SF cu titlul (provizoriu) Abundent.