Umelá inteligencia mení kreatívne odvetvia, pracovný trh aj spôsob, akým ľudia získavajú informácie. Výskumníci zo Stanfordu však upozorňujú, že jej ďalší vývoj prináša aj vážne otázniky. Týkajú sa koncentrácie technologickej moci, vysokých nákladov či bezpečnosti.
Umelá inteligencia napreduje rýchlejšie, než jej výskumníci a zástancovia dokážu držať krok. Autori najnovšej dlhodobej štúdie Stanfordovej univerzity o umelej inteligencii preto mali čo doháňať. Od posledného hodnotenia jej vývoja v roku 2021 sa totiž výrazne presadila generatívna umelá inteligencia a v mnohých ďalších oblastiach došlo k technologickému pokroku.
Od roku 2021 zaznamenala umelá inteligencia výrazný pokrok, konštatuje výskumný tím zo Stanfordu. „Výzvy, ktoré sa ešte donedávna zdali vzdialené – plynulá komunikácia v prirodzenom jazyku, odpovedanie na široké spektrum otázok či schopnosť generovať kvalitný kód –, sú dnes z veľkej časti prekonané, aspoň v ich jednoduchších podobách,“ uvádza tím pod vedením Michaela Wooldridgea, profesora Oxfordskej univerzity.
Umelá inteligencia sa posunula od teórie k praktickému využitiu, napríklad pri objavovaní nových liekov či v autonómnej doprave.
Podľa výskumníkov priniesla AI za posledných päť rokov šesť zásadných zmien.
Kreatívne a kognitívne odvetvia zažívajú bezprecedentné otrasy
Kreatívna práca, vývoj softvéru a dokonca aj čistá matematika sa ešte pred niekoľkými rokmi považovali za oblasti, ktoré sú príliš náročné na to, aby ich dokázala automatizovať umelá inteligencia.
„Všetky tieto oblasti dnes zažívajú zásadné zmeny. Generatívna umelá inteligencia totiž čoraz presvedčivejšie dokazuje svoje schopnosti pri základných kreatívnych činnostiach, programovaní a tvorbe matematických dôkazov. Džina už späť do fľaše nedostaneme. Tieto oblasti sa preto budú musieť v nasledujúcich rokoch nanovo definovať, podobne ako sa to stalo v iných odvetviach zasiahnutých technologickým pokrokom,“ konštatuje správa.
Moc v oblasti AI je príliš koncentrovaná
Výskumný tím zo Stanfordu vyjadruje obavy, že vývoj najpokročilejších systémov umelej inteligencie sa sústreďuje do rúk malého počtu subjektov v Spojených štátoch a Číne.
To vyvoláva medzinárodné obavy z toho, kto bude v konečnom dôsledku vlastniť najmodernejšie technológie umelej inteligencie a kto k nim bude mať prístup.
Naša dôvera v obrazové záznamy sa vytráca
Ešte donedávna fotografia alebo video predstavovali dostatočný dôkaz, že sa určitá udalosť skutočne stala alebo že daná osoba naozaj existuje. Dnes už však podľa správy neplatí, že to, čo vidíme, musí byť aj skutočné.
„Obrázky, zvukové záznamy a videá vytvorené umelou inteligenciou sa čím ďalej ťažšie odlišujú od autentických záznamov. Klonované hlasy sa čoraz častejšie využívajú na klamanie verejnosti a vylákanie peňazí od nič netušiacich obetí. Syntetické médiá vrátane takzvaných deepfakov sa už využili aj na ovplyvňovanie volieb po celom svete. Dôsledky pocítime v mnohých oblastiach – od žurnalistiky a kreatívneho priemyslu až po právo. Tento vývoj môže prispieť k ďalšiemu oslabovaniu dôvery verejnosti,“ upozorňuje správa.
Menšie modely umelej inteligencie môžu byť ďalším krokom vo vývoji
Pre každého, kto pôsobí v oblasti umelej inteligencie, bolo zväčšovanie modelov cestou, ako premeniť experimentálnu technológiu na prakticky využiteľný nástroj.
Stanfordský tím však upozorňuje, že tento prístup založený na neustálom zväčšovaní modelov naráža na svoje limity. Dôvodom je nedostatok nových zdrojov veľkého objemu kvalitných dát a neúmerne vysoké výpočtové náklady na vývoj najpokročilejších modelov umelej inteligencie.
Autori štúdie očakávajú, že ďalšiu fázu vývoja bude charakterizovať ústup od opakovaného trénovania čoraz väčších modelov a väčší dôraz na inteligentnejšie algoritmy a nové spôsoby využívania potenciálne menších modelov, ktoré nebude potrebné tak často nanovo trénovať.
Takéto modely budú mať k dispozícii „vhodný kontext a pamäť, viac času na uvažovanie počas generovania odpovedí, špecializovaný tréning a nástroje či agentov na riešenie komplexných a navzájom oddelených úloh“.
Vplyv AI na inovácie a ľudské správanie zostáva neistý
Správa sa venuje prínosu umelej inteligencie pre vedecké objavy a inovácie vo všeobecnosti. Zároveň však upozorňuje na otázky týkajúce sa úlohy človeka v procesoch, pri ktorých AI pomáha.
„Experimentálny dizajn môže pomôcť maximalizovať prínosy spolupráce medzi vedcami a umelou inteligenciou. Dôležitou otvorenou otázkou však zostáva, ako a do akej miery by mal človek zostať súčasťou tohto procesu,“ uvádzajú autori.
Podľa nich je potrebné lepšie pochopiť, ako sa umelá inteligencia a ľudia vzájomne ovplyvňujú a ako tento proces mení ľudské správanie, jazyk a kultúru.
„Budeme musieť porozumieť tomu, ako informačné prostredia sprostredkované umelou inteligenciou pretvárajú kolektívne myslenie a morálne správanie.“
Osobitné obavy vyvoláva otázka, ako budú vznikať nové kultúrne podnety a inovácie vo svete, v ktorom čoraz väčšia časť informácií, s ktorými sa ľudia stretávajú, pochádza od malého počtu veľkých systémov umelej inteligencie alebo je nimi filtrovaná.
V hre je aj bezpečnosť
„Systémy umelej inteligencie preukázali schopnosť identifikovať závažné bezpečnostné zraniteľnosti v počítačovom kóde, ale aj úspešne realizovať kybernetické útoky prostredníctvom tímov agentov umelej inteligencie,“ varuje správa.
Umelá inteligencia tak môže slúžiť ako nástroj na uskutočňovanie kybernetických útokov, zároveň však bude zohrávať dôležitú úlohu pri zabezpečovaní a ochrane počítačových systémov a infraštruktúry riadenej počítačmi.
Výrečné je aj záverečné upozornenie spoluautorov štúdie: „Táto správa bude v čase, keď ju budete čítať, už zastaraná.“
Ako dodávajú, opakovane sa ukázalo, že technologický vývoj dokáže vyvrátiť zaužívané predstavy o schopnostiach systémov umelej inteligencie. Dokonca aj referenčné testy, ktoré mali na celé desaťročia určovať smerovanie vývoja, sa môžu stať irelevantnými v priebehu niekoľkých mesiacov.
Článok vyšiel na forbes.com.
