28. marca 2021

O umelej inteligencii platí viac-menej to isté ako o ohni: môže byť dobrým služobníkom, ale veľmi zlým pánom. V jej prípade je to dokonca zlo, ktoré by mohlo vyhladiť celé ľudstvo.

„Myslím si, že pravdepodobnosť, že do konca tohto storočia vyhynieme ako ľudstvo pre umelú inteligenciu, je približne desať percent,” hovorí český vedec Ondřej Bajgar. Jeho slová znejú ako sci-fi, ale nemožno ich brať na ľahkú váhu – skúma bezpečnosť umelej inteligencie v Inštitúte budúcnosti ľudstva v Oxforde.

O akom nebezpečenstve hovoríte?

Podstatou problému je, že môžeme vytvoriť niečo oveľa inteligentnejšie ako sme my. V tejto súvislosti sa ponúka podobenstvo o myšiach.

Ondřej Bajgar. Foto: Michael Tomeš

O myšiach?

Reklama

Predstavte si, že by sa myši-vedci snažili vyvinúť umelú inteligenciu, v podstate nástroj na uľahčenie života. A pretože myši majú rady syr a chodia do kuchyne, aby ho ukradli, vyvíjajú nástroj, ktorý im ho obstará sám.

Postupne ho zlepšujú, nástroj sa stáva čoraz sofistikovanejším, až kým sa jedného dňa nedosiahne míľnik – myši vytvárajú umelú myš, vďaka ktorej už nemusia chodiť do kuchyne, kde ich občas niekto klepol lopatou a usmrtil.

Ale vývoj sa v tejto chvíli nezastaví, kráča ďalej, takže umelá myš sa stáva umelým človekom. Ten získava syr spôsobom, na ktorý by myši nikdy nepomysleli: chová kravu, dojí ju a zmení mlieko na syr. Je to myší raj!

Kde je problém?

Naivní myšací vedci vytvorili super zariadenie na dodávku syra. Dali mu misiu: Prines nám čo najviac syra do brlohu. Superstroj vykonáva úlohu tak dokonale, že dodáva toľko syra, že s ním obyvateľov brlohu udusí. Všetky myši sú mŕtve.

Prečo nevypli superzariadenie včas?

To je ich druhá naivnosť. Dali vypínač na umelú osobu a teraz ho chcú stlačiť? Tento človek si dal na gombík topánku a myš s tým nevie urobiť nič.

Nie je otrok myší?

Preto si robí svoju prácu, aby získal čo najviac syra. Ak by bol vypnutý, nebude môcť vykonať zadanie, a preto sa vypnutiu bude brániť. Nie je to tak, že by nadobudol vedomie a záhadne si vyvinul inštinkt na prežitie, ako si to často predstavujeme a interpretujeme. Len sa drží úzkeho cieľa, z ktorého však vyplýva aj niekoľko sekundárnych cieľov.

Aké?

Keďže má motiváciu hľadať čo najviac zdrojov, nechce byť umelá inteligencia vypnutá. To znamená „zabitá“. Ďalším sekundárnym cieľom je, že sa chce zlepšiť, takže je inteligentnejšia a inteligentnejšia. Chce mať moc nad inými inteligenciami, chce nazhromaždiť, povedzme, viac peňazí, ktoré jej pomôžu dosiahnuť primárny cieľ lepšie.

Ľudia, ktorí vyrábajú syr pre myši, budú chcieť postaviť veľké syrárne, budú chcieť zničiť konkurenciu, budú chcieť mať svoje syrárne chránené. Určite nebudú chcieť, aby boli vypnutí.

Kto je Ondřej Bajgar

Na britskej University of Warwick sa venoval aplikovanej matematike, najmä modelovaniu dopravných a biologických systémov, ale napríklad aj potravinovému co-opu a pestovaniu zeleniny. Po ukončení štúdia pracoval 3 roky na výskume umelej inteligencie pre IBM Watson. V súčasnosti sa zaoberá bezpečnosťou AI na Future of Humanity Institute v Oxforde.

Autorom článku, ktorý vyšiel na Forbes.cz, je redaktor Filip Saiver. Celý rozhovor je súčasťou aktuálneho vydania Forbes NEXT.

Našli ste chybu? Napíšte nám na editori@forbes.sk

Ľutujeme, vašu emailovú adresu sa nepodarilo prihlásiť k odberu.
Ďakujeme za vaše prihlásenie!

Potrebujete ráno získať rýchly prehľad?

Odoberajte Forbes Espresso

O aké témy máte záujem?