Kde podľa vás končí súbor programátorových príkazov a začína sa umelá inteligencia?
Hlavný rozdiel je asi v tom, že inteligencia má schopnosť adaptovať sa. Do klasického programu zadáva pravidlá programátor. Umelá inteligencia sa ich naučí sama z toho, ako komunikuje s prostredím a prostredie s ňou. Nie je to dopredu nadefinované.

Do akej miery musí UI rozmýšľať samostatne?
Umelá inteligencia, ktorá prijíma dáta zo sveta a síce mu trochu rozumie, ale nič s tým nerobí, by pre nás bola zbytočná. Dala by sa prirovnať ku kamere, ktorá sa niekde pozerá a nahráva, no tie nahraté zábery už nikto neanalyzuje. Takže UI potrebuje aj vykonávaciu zložku, v rámci ktorej ovplyvňuje svoje prostredie spätne.

Ako ďaleko sme od vytvorenia takejto „silnej“ umelej inteligencie?
To fakt neviem, ale hovorím si, že to môže byť od dvoch do dvadsiatich rokov. Závisí to hlavne od toho, kedy my alebo niekto ďalší urobí zásadný prielom.

Môže sa zdať, že je to na dosah. Niekedy sa sám pýtam, prečo sme to ešte nedosiahli, keď je nám celkom jasné, ako by ten algoritmus mohol fungovať a čo by mal robiť.

Ako by teda mal fungovať?
My sa snažíme robiť takú univerzálnu umelú inteligenciu, ktorá bude schopná prijímať dáta z  prostredia a zároveň nejaké posielať späť tak, aby to prostredie ovplyvňovala. Mala by pochopiť vzory a asociácie v  dátach, ktoré do nej vstupujú a ktoré vysiela von.

Zároveň v nej bude pridaný motivačný systém, v ktorom inteligencia dostáva od svojich „stvoriteľov“ informáciu, či v danej situácii reagovala správne alebo nesprávne. Tým pádom vie, akej reakcii by sa mala nabudúce vyhnúť.  V tomto všetkom hľadá umelá inteligencia vzory, vďaka  ktorým si vie naplánovať splnenie cieľa. 

Čiže v podstate by sa UI dala prirovnať k dieťaťu, ktoré sa učí...
Ak sa nám podarí naprogramovať algoritmus tak, ako chceme, tak po prvom spustení bude presne ako malé dieťa, v podstate s prázdnou hlavou.

Bude tam zrejme pár „vrodených“ reflexov, podobne ako je to u detí. Pôjde však len o jednoduché „štartovače“ základného správania. 

Pri výchove dieťaťa je dosť dôležité, akých má rodičov. Nebojíte sa, že ľudia takéto „inteligentné dieťa“ zneužijú?
Nebojím sa, pretože verím, že pokiaľ by sa to podarilo práve nám, tak to zmanažujeme správne. Veľmi sa snažíme dbať na etickú a bezpečnostnú stránku výskumu. 

Pokiaľ sa to podarí niekomu inému, tak verím, že bude dostatočne osvietený na to, aby tiež myslel na bezpečnosť. Predsa len niekto, kto je schopný vytvoriť umelú inteligenciu, by podľa mňa mal byť dosť ľudský a múdry na to, aby domyslel aj dôsledky svojho konania.

Tím GoodAI v nových priestoroch. Pracuje sa, aj keď sedačky ešte neprišli, zdroj: GoodAI

Ako motivujete počítačový program?
Mozog je vnútorne nastavený tak, aby išiel za vecami, pri ktorých očakáva odmenu a vyhýbal sa tým ostatným. Takto fungujú akékoľvek živočíchy, vrátane ľudí. Ak by sme nemali tento typ motivácie, tak by sme ako ľudstvo neprežili.

Motivácie vychádzajú z emócií a tie zase z toho, čo bolo dobré pre evolúciu. Keď máme motiváciu najesť sa, tak je to pre to, aby sme neumreli od hladu. Podobne fungujú aj ďalšie motivačné faktory. Pri umelej inteligencii sme to my, kto bude môcť tieto faktory nastaviť.

V máji ste ohlásili splnenie prvého míľnika vášho plánu. Umelú inteligenciu ste naučili vytvoriť si hierarchiu cieľov. Ako to vyzerá v praxi?
Dosiahli sme to, že umelá inteligencia si dokáže nájsť súvislosť medzi jednotlivými malými krokmi a veľkou finálnou „odmenou“.
Dôležitá vec je takzvaná „oddialená odmena“. V predošlom míľniku hrala UI jednoduchú hru Pong, v ktorej dostala odmenu v momente, keď správne odrazila loptu.

V reálnom svete to však takto nefunguje. „Odmenu“ často dostaneme až oveľa neskôr a prepojenie medzi týmito dvoma situáciami nemusí byť až také zrejmé.

Teraz sme si otestovali, že umelá inteligencia je schopná uvedomiť si túto súvislosť spätne. Je tiež schopná učiť sa rozličné pravidlá herného sveta, v ktorom sa nachádza. Z tohto všetkého vytvorí viacrozmernú „mapu“ znalostí a potom nájde najefektívnejšiu cestu k cieľu.

Aký je váš najčerstvejšie splnený cieľ?
Úplne najaktuálnejšie je, že sme siedmeho júla oznámili novú firmu, ktorá sa volá GoodAI (dobrá UI, pozn. red.).Úmyselne sme ju nazvali takto, aby sme už z názvu šírili optimizmus, a nie paniku.

Zároveň sme vydali náš hlavný nástroj - Brain Simulator (simulátor mozgu, pozn.red.), v ktorom dizajnujeme a testujeme jednotlivé mozgy. Dajú sa v ňom nadizajnovať a testovať  všelijaké krátkodobé pamäte či predikcie. Keď niekto chce, tak si môže dopísať vlastné moduly, ktoré budú možno niektorú z týchto vecí robiť ešte lepšie, ako keby sme ju urobili my. Pôjde teda o voľne prístupnú platformu.

Budete výskum umelej inteligencie a svet hier v budúcnosti prepájať?
Hry sa momentálne zdajú byť jedným z vhodných komerčných využití pre našu umelú inteligenciu. Keď už bude na úrovni človeka a bude vedieť napríklad programovať, tak budeme hľadať iné uplatnenie. Kým však ešte nie je taká šikovná, musíme pre ňu hľadať jednoduchšie a bezpečnejšie prostredie.

Práve hry sa na to zdajú byť ideálne. Pokiaľ urobí UI nejaké nesprávne rozhodnutie, tak tým nikomu neublíži. Možno bude nejaký hráč trochu naštvaný, ale to prežijeme.

Keby sme ju testovali napríklad na autách, tak môže nejakého človeka zraniť a to už by bol väčší problém.  Kým je naša umelá inteligencia ešte v  plienkach, je lepšie držať ju v bezpečí, rovnako ako deti.

Ako konkrétne bude fungovať UI v hre?
Napríklad v Medieval Engineers (hra zo štúdia Mareka Rosu, pozn. red.) bude správanie nejakého barbara ovládať mozgový simulátor. 

Z hry pôjdu senzorické dáta do simulátora, mozog to spracuje a vyšle späť do hry príkaz k nejakej akcii. Napríklad „choď dopredu“, „zaboč“ a tak ďalej. Toto bude tiež voľne prístupné. Sľubujeme si od toho prepojenie UI, výskumníkov a hráčov.

Záber z hry Medieval Engineers, zdroj: Keen Software House

Aký to má zmysel pre výskum?
Hráčom dáme umelú inteligenciu a výskumníkom umelej inteligencie dáme hráčov. Keď niekto urobí vlastný mozog, vlastné moduly a bude chcieť, aby mu to otestovala nejaká skupina ľudí, u nás bude mať tú možnosť. Hráči, ktorých máme, sú totiž presne taký druh fanúšikov, ktorí si to budú chcieť vyskúšať.

Do akej miery sa pri výskume inšpirujete skutočným mozgom a jeho fungovaním?
Na principiálnej úrovni, nie však na  biologicko-chemickej. Nesnažíme sa simulovať neurotransmitery a neuróny do bioúrovne, skôr si študujeme články z neurovied a rozmýšľame nad tým, prečo asi neuróny vytvárajú spojenia len za určitých okolností a aký algoritmus tým mozog sleduje.

Je povzbudzujúce vedieť, že v mozgu to funguje. My sa teraz snažíme nájsť inú implementáciu podobných princípov.

Umelá inteligencia je dosť interdisciplinárny odbor. Z akých odborníkov pozostáva váš tím?
Máme jedného kolegu, ktorý je psychológ a neurovedec. S ním konzultujeme také principiálne veci ako napríklad správanie, učenie, ako sa formujú jednotlivé druhy pamäte a tak ďalej. Potom sú to väčšinou ľudia, ktorí vyštudovali buď programovanie alebo matematiku. To je  základ nášho výskumného tímu.

V tíme máme aj softvérových inžinierov. Tí už nie sú zameraní na výskum, ale skôr na inžiniersku prácu. Zlepšujú náš simulátor a integrujú ho do hier.

Výskumu UI sa venuje mnoho výskumných tímov po celom svete. Spolupracujete s nejakými?
Sú v zatiaľ v zárodočnom štádiu. Jednáme o spolupráci s dvomi americkými skupinami , ktoré sa venujú bezpečnostnej a etickej stránke UI. Hľadajú až programátorské prístupy na to, ako v budúcnosti zabezpečiť bezpečnú UI ako aj to, aby jej hodnoty boli čo najviac kompatibilné s našimi. Spolupracujeme aj s niektorými školami v Čechách a myslím si, že časom budeme tento záber ešte rozširovať o inštitúcie v Európe a vo svete.

Našou hlavnou platformou a najväčším nástrojom spolupráce je však náš simulátor mozgu. Keďže ho otvoríme smerom von, tak na ňom bude môcť robiť každý - od expertov až po desaťročné deti, ktoré sa s tým budú hrať.

V čom vidíte najväčší prínos pre ľudstvo, ak by sa vám podarilo UI zostrojiť?
V tom, že umelá inteligencia by mohla byť akcelerátorom akéhokoľvek vedecko-technického výskumu. Niekedy si hovorím,  prečo by som staval rakety či lepšie autá, keď stačí urobiť umelú inteligenciu a nechať ju riešiť tieto problémy.

Ako ľudia prichádzame k poznatkom nejaký  tempom, ale keby sme dokázali tento proces zautomatizovať a niekoľkokrát zrýchliť pomocou strojov, tak by sa aj progres celého ľudstva mohol dostať do zázračných možností.

Marek Rosa na DARPA robotics challenge, zdroj: blog.marekrosa.org

Naznačili ste, že UI by mohla byť jedným z posledných vynálezov ľudstva v pozitívnom slova zmysle. Niekoľko ďalších vizionárov ako Elon Musk či Stephen Hawking  však pred UI varujú a tvrdia, že môže byť posledným vynálezom s katastrofickým koncom. Čo si o takýchto víziách myslíte?
Je dobré, že na to chcú upozorniť, akurát si zvolili taký strašidelný prístup. My sa k všeobecnej UI a jej popularizácii snažíme pristupovať skôr pozitívne. Myslíme si totiž, že pokiaľ sa vyvinie rozumným a bezpečným spôsobom, nebude mať deštruktívny charakter.

Upozorniť ľudí, ktorí sa venujú umelej inteligencii na možné riziká je podľa mňa v poriadku, ale musíme si dávať pozor aj na to, aby sme zbytočne nešírili paniku.

Budú ľudia schopní prijať vynález, ktorý ich intelektuálne presiahne? Nebudú sa báť niečoho, čo bude múdrejšie ako oni?
Myslím si, že budú aj takí, ktorí sa toho zľaknú, ale verím, že väčšina ľudí si povie: „Fajn, je to niečo, čo sme vymysleli my, čo nám bude slúžiť a je to v poriadku“.

Vaša vízia smeruje k singularite, teda k UI, ktorá bude schopná sama seba vylepšovať. Ide o nikdy nekončiace učenie alebo tu existuje istý strop poznania?
To je práve to, čo by som rád zistil a čo ma priťahuje. Pri singularite je progres taký rýchly, že na jeho začiatku nemá zmysel ani odhadovať, čo sa stane na konci, ak teda nejaký koniec existuje. Ja som strašne zvedavý, kam sa až dostaneme.

Na túto tému bolo natočených množstvo sci-fi filmov a kníh. Máte aj vy nejaký takýto obľúbený príbeh, ktorý však nezobrazuje tú hororovú predstavu, ale práve naopak pozitívnu?
Je ich určite viac. Pred časom som napríklad čítal knihu Accelerando.  Veľmi pekne ilustrovala tri generácie ľudí, ktorí sa postupne transformovali z dnešnej podoby až do postsingularity.

Už neboli ľuďmi, ale strojmi, ktoré majú v sebe niečo z ľudstva. Stále mali časť ľudských motivácií, ale kognitívnymi možnosťami ľudí absolútne predbehli.

Kniha bola zaujímavá práve tým, že popisovala fungovanie spoločnosti v danej dobe. Aj tam boli ľudia, ktorí chceli zostať ľuďmi a nechceli mať takýmto spôsobom akcelerovaný intelekt. Potom boli naopak ľudia, ktorí sa chceli vylepšovať a  jedinci, ktorí sa už narodili ako vylepšení. Kniha mapuje vzťahy medzi týmito ľuďmi, ekonomiku a tak ďalej.

Podľa mňa je sci-fi dobrý priestor, v ktorom sa dajú testovať rôzne scenáre budúcnosti. Spisovateľ ich pekne popíše, premyslí a v čitateľovi vyprovokuje nové myšlienky a nápady.