Demis Hasabis, jedan od vodećih svjetskih stručnjaka za vještačku inteligenciju, u 15-minutnom intervjuu govori o tome zbog čega strahuje da bi AI jednog dana mogao izmaći ljudskoj kontroli.
Hasabis, koji je na čelu istraživanja vještačke inteligencije u Googleu, istovremeno je i veoma jak šahista. Upravo je on bio jedan od ključnih ljudi iza stvaranja AlphaZero-a, sistema koji je promijenio način na koji razmišljamo o šahovskim programima i mašinskom učenju.
Za čitaoce šahovskog portala posebno je zanimljiv njegov opis načina na koji je vještačka inteligencija naučila da igra šah.
Deep Blue nije bio prava vještačka inteligencija
Hasabis pravi jasnu razliku između ranih šahovskih programa i modernih sistema zasnovanih na neuronskim mrežama.
Kao primjer navodi IBM-ov Deep Blue, program koji je 1997. godine pobijedio svjetskog prvaka Garija Kasparova.
Deep Blue je do vrhunskog nivoa došao zahvaljujući ogromnoj računarskoj snazi i znanju koje su u sistem ugradili ljudi. Programeri su, uz pomoć šahovskih velemajstora, ručno kodirali veliki broj strategija, pravila i heuristika. Računar je zatim koristio ta pravila da izračuna koji potez ima najbolji rezultat.
Prema Hasabisu, problem je u tome što takav sistem zapravo nije razumio šah.
„Deep Blue nije bio prava vještačka inteligencija.“
Pobijedio je svjetskog šampiona u šahu, ali nije mogao da radi gotovo ništa drugo. Hasabis postavlja jednostavno pitanje: možete li zamisliti velemajstora koji zna da igra šah, ali ne može da nauči ni „iks-oks“?
Gdje je, dakle, bila inteligencija Deep Blue-a?
Prema Hasabisu, ona nije bila u samom sistemu, već u glavama velemajstora i programera koji su riješili problem, a zatim to rješenje pretočili u kod. Računar je potom samo izvršavao ono što mu je zadato.
AlphaZero: računar koji je sam naučio šah
Hasabis i njegov tim krenuli su potpuno drugačijim putem.
Napravili su sistem zasnovan na neuronskoj mreži — AlphaZero — koji je na početku znao samo pravila igre.
Nije mu dato šahovsko znanje velemajstora. Nije mu objašnjeno koji su potezi dobri, a koji loši.
Jednostavno je počeo da igra.
Protiv samog sebe odigrao je oko 100.000 partija, pri čemu su se partije koristile za stvaranje sopstvenog skupa podataka. Sistem je postepeno uočavao da su neki potezi bolji od drugih.
Nova verzija programa trenirana je na partijama prethodne verzije i postajala je malo jača. Zatim je druga verzija trenirala treću, treća četvrtu i tako redom.
Rezultat je bio fascinantan.
Prema Hasabisu, bilo je potrebno svega 16 ili 17 generacija da se sistem od potpuno nasumične igre šaha razvije do nivoa iznad svjetskog šampiona.
„Do ručka sam još mogao da igram protiv njega“
Hasabis je i sam bio izuzetno talentovan šahista. Kao trinaestogodišnjak dostigao je rejting oko 2300, prije nego što je napustio ozbiljno takmičarsko igranje kako bi se posvetio računarima, dizajnu video-igara i vještačkoj inteligenciji.
Zato mu je bilo posebno fascinantno da posmatra kako AlphaZero uči šah.
„Počne ujutro, a do ručka još uvijek mogu nekako da igram protiv njega. Do vremena za čaj već je bolji od svih velemajstora, a do večere je bolji od svjetskog šampiona.“
Ali nije ga impresionirala samo snaga programa.
AlphaZero je počeo da igra drugačiji šah — poteze i ideje koje ljudi ranije nisu smatrali uobičajenim ili najboljim.
„Igra zanimljiv novi šah, nove vrste poteza.“
Upravo u tome Hasabis vidi širu vrijednost ovakvih sistema. Ako neuronska mreža može da nauči šah bez ljudskog znanja i da pritom otkrije nove ideje, možda se isti princip može primijeniti i na mnogo složenije probleme.
Od šaha do modela koji razumiju svijet
Hasabis smatra da bi sličan pristup mogao biti važan za razvoj novih generacija temeljnih AI modela, poput Googleovog Geminija.
Za razliku od AlphaZero-a, koji je bio usmjeren na jednu igru, savremeni modeli treba da funkcionišu kao svojevrsni generalizovani modeli stvarnosti — da obrađuju jezik, razumiju svijet oko sebe i povezuju ogromne količine različitih informacija.
Zbog toga šah, koji je nekada bio jedan od najvećih izazova za računare, danas predstavlja i svojevrsnu laboratoriju za razumijevanje toga kako mašine mogu da uče.
Zašto Hasabis strahuje od AI?
U intervjuu Hasabis govori i o tamnijoj strani razvoja vještačke inteligencije.
Kako objašnjava, postoje dvije velike stvari zbog kojih bi trebalo da budemo zabrinuti. Prva su loši akteri — od pojedinaca do država — koji bi tehnologije razvijene sa dobrim namjerama mogli da iskoriste za štetne ciljeve.
Te iste tehnologije mogu da pomognu u liječenju bolesti, razvoju novih materijala i energetskih rješenja, ali bi mogle biti zloupotrijebljene i na potpuno suprotan način.
Zbog toga Hasabis smatra da pitanje više nije samo koliko će AI postati pametan, već i kako ćemo obezbijediti da njegov razvoj i upotreba ostanu pod kontrolom ljudi.
Ko je Demis Hasabis?
Ser Demis Hasabis (rođen 27. jula 1976. godine) britanski je računarski naučnik, istraživač vještačke inteligencije, neuronaučnik i preduzetnik.
Godine 2010. bio je jedan od suosnivača kompanije DeepMind, koju je Google preuzeo 2014. godine. Danas je izvršni direktor Google DeepMinda i glavni naučnik kompanije Alphabet, dok je istovremeno izvršni direktor Isomorphic Labsa.
Njegov rad na AlphaFoldu, sistemu vještačke inteligencije koji predviđa strukturu proteina, predstavlja jedan od najvećih proboja AI tehnologije u biologiji.
Za taj doprinos Hasabis je 2024. godine podijelio Nobelovu nagradu za hemiju sa Džonom Džamperom i Dejvidom Bejkerom.
Od dječaka koji je sa 13 godina imao šahovski rejting oko 2300 do jednog od vodećih ljudi u razvoju vještačke inteligencije — Hasabisova priča pokazuje koliko je šah za njega bio mnogo više od igre.
A možda je upravo šah poslužio kao jedan od prvih velikih eksperimenata koji su pokazali šta se događa kada mašini više ne govorimo kako da razmišlja, već joj damo mogućnost da sama nauči kako da pronađe najbolje poteze.