Od Čapkovho R.U.R., cez obľúbený sci-fi seriál Battlestar Galactica, až po film Ex-Machina, ktorý ste nedávno mohli vidieť v kinách – téma robotov a umelej inteligencie je bohatým námetom nielen pre filmy či literatúru. S rozvojom robotiky a umelej inteligencie sa totiž na povrch neustále prediera otázka, ako zabrániť tomu, aby sa umelá inteligencia vymkla človeku z rúk.

Polemika o tom, či by sa teoreticky dokonalé tvory neobrátili proti svojim nedokonalým tvorcom, sa neobjavila len vo filme Tron Legacy či v známom príbehu Ja, robot od Isaaca Asimova. Diskutujú o nej aj vedci, odborníci na umelú inteligenciu, či podnikatelia.

Niektoré diskusie nikdy nekončia a ich výsledky sú len hypotetické. Z tejto však pred niekoľkými dňami vyšiel zoznam 23 princípov, ktoré nabádajú k opatrnosti.

Pre niekoho jasné, pre iného nie

„Umelá inteligencia nám už priniesla užitočné nástroje, ktoré každý deň požívajú ľudia po celom svete. Jej ďalší vývoj, riadený nasledujúcimi princípmi, ponúkne úžasné príležitosti na pomoc a posilnenie ľudí v nasledujúcich desaťročiach a storočiach,“ uvádza stránka neziskovej organizácie Future of Life Institute (v preklade Inštitút pre budúcnosť života).

Future of Life Institute vznikol v marci 2014, z iniciatívy kozmológa Maxa Tegmarka, spoluzakladateľa služby Skype Jaana Tallinna a výskumníčky projektu DeepMind Viktoriye Krakovnej. Jeho úlohou je zabezpečiť, aby stále mocnejšie technológie ľuďom prospievali a neohrozovali ich.

Práve preto vznikli aj princípy, ktoré sa na prvý pohľad môžu zdať až elementárne jasné.

Ilustračná fotografia, zdroj: pixabay.com/bamenny

Medzi pravidlami bezpečného vývoja umelej inteligencie tak nájdete napríklad odporúčanie, aby sa vývojári vyhli pretekom v tvorbe autonómnych smrteľných zbraní, či pravidlo, podľa ktorého by sa umelá inteligencia mala tvoriť tak, aby bola kompatibilná s ideálmi ľudskej dôstojnosti, práv, slobody a kultúrnej diverzity.

Keďže však ľudia v histórii už niekoľko krát preukázali tendenciu prekračovať zdanlivo jasné hranice ľudskosti, otázkou je, nakoľko tieto pravidlá ovplyvnia budúcnosť UI.

Superinteligencia má pomáhať ľudstvu

Pravidlá, ktorých dodržiavanie by malo teoreticky ochrániť ľudí pred robotickou revolúciou v negatívnom zmysle, sú rozdelené do troch hlavných oblastí – výskum, etika a hodnoty a dlhodobé otázky. V pravidlách sa niekoľkokrát zdôrazňuje nutnosť tvoriť autonómne a inteligentné systémy s ohľadom na prosperitu čo najväčšieho množstva ľudí, či základné ľudské práva a hodnoty.

Nájdete v nich aj nutnosť kontroly nad vytvorenými systémami, či nadradenosť prospechu ľudstva nad prospech inštitúcií.

Dvadsaťtri princípov podpísalo viac ako osemsto ľudí, vrátane Elona Muska, či Stephena Hawkinga, ktorí sú zároveň súčasťou poradného orgánu inštitútu Future of Life.

Top AI researchers agree on principles for developing benefical AI https://t.co/CATbd4oidF

— Elon Musk (@elonmusk) January 30, 2017

Pravidlá nevynechali ani superinteligenciu, ktorú Nick Bostrom z Oxfordského Inštitútu pre budúcnosť ľudstva (Oxfrord Future of Humanity Institute) ešte v 90. rokoch definoval ako „intelekt, ktorý je oveľa inteligentnejší ako najlepšie ľudské mozgy, a to prakticky v každej oblasti, vrátane vedeckej kreativity, všeobecných poznatkov a sociálnych schopností“.

Superinteligencia by podľa nich mala byť vytvorená len v prípade, ak by slúžila všeobecne zdieľaným etickým ideálom a prosperite ľudstva. Nie pre prospech jedného štátu či organizácie.

Všetky princípy pre prínosný rozvoj UI, ktoré môžete podporiť aj vy, nájdete na oficiálnej stránke Future of Life Institute.