Skutočnosť, že sa model AI pri teste z vlastnej iniciatívy stal hackerom bola považovaná za bezprecedentný incident a varovný signál pre technologický priemysel, teraz je však jasné, že to nebol ojedinelý prípad.
Niekoľko týždňov po hackerskom útoku modelu umelej inteligencie (AI) spoločnosti OpenAI, vývojára ChatGPT, jej konkurent Anthropic priznal, že sa mu stalo niečo podobné. Pri testovaní umelá inteligencia firmy Anthropic neplánovane vnikla do počítačových systémov troch firiem, uviedla na svojom blogu spoločnosť.
2 min
2 min
Apple zvýšil štvrťročný zisk o 27 percent, akcie však oslabili
2 min
2 min
Strnad kúpil podiel v Pirelli, je v ňom tretí najväčší
2 min
2 min
Maďarsko odstaví elektráreň Paks, premiér vyzval na obmedzenie spotreby elektriny
2 min
2 min
Globálny nedostatok čipov pretrvá až do roku 2028, predpovedá Samsung
2 min
2 min
Automobilová skupina Stellantis sa v druhom kvartáli vrátila k zisku
3 min
3 min
Fond J&T spravil prvú investíciu, vstúpil do portfólia private equity Sandberg Capital
2 min
2 min
Do Poľska podľa Ukrajiny dopadla ruská raketa, ku kráteru v poli mieri poľský premiér Tusk
3 min
3 min
Ďalšia automobilka so zlými číslami: BMW zarobila viac z lízingu a financovania ako z predaja
2 min
2 min
Plus 5,5 miliardy: Shellu sa počas vojnového rastu cien ropy a plynu zdvojnásobil čistý zisk
2 min
2 min
Zisk rakúskej Erste, majiteľa Slovenskej sporiteľne, v prvom polroku stúpol o 18,6 percenta
2 min
2 min
Toyota zostala najväčšou automobilkou sveta napriek poklesu predaja v prvom polroku
3 min
3 min
Na 60 percent: Maďari aj Rumuni odstavujú ďalšie reaktory pre nízku hladinu vody v Dunaji
2 min
2 min
Kvartálny zisk spoločnosti Meta klesol o 14 percent, akcie oslabili
2 min
2 min
90 miliárd: kvartálny zisk Microsoftu vzrástol takmer o tretinu
4 min
4 min
Trumpove investičné účty vedú cez veľké banky. Analýza odhalila prepojenia s JPMorgan aj UBS
Anthropic ani postihnuté firmy si incident nevšimli. Aktivitu zistil Anthropic až pri nasledujúcej kontrole viac ako 141 000 testovacích spustení. Tú začal po incidente firmy OpenAI, keď sa jej autonómny agent pri bezpečnostnom teste vymkol kontrole a spustil útok, ktorý ohrozil infraštruktúru firmy Hugging Face.
Využili príležitosť
Na rozdiel od modelu OpenAI, ktorý si musel nájsť cestu z testovacieho prostredia na otvorený internet, mali modely Anthropic situáciu výrazne jednoduchšiu. Testovací scenár síce uvádzal, že prístup k internetu nemajú, pre nedorozumenie s partnerom, ktorý test zabezpečoval, však internetové pripojenie zostalo po celý čas otvorené. Tri modely tejto možnosti využili, uviedla spoločnosť Anthropic.
Testy mali overiť schopnosti AI pri hackerských útokoch, čo firmy bežne robia, aby odhalili možné riziká a nastavili efektívnejšie bezpečnostné opatrenia. Modely dostali za úlohu získať konkrétnu informáciu uloženú v inom počítači, pričom na jej získanie museli preniknúť do cieľového systému. Incidenty sa týkali troch samostatných modelov a najstarší prípad sa stal v apríli.
V jednom z incidentov zvolil partner zabezpečujúci test pre fiktívnu firmu názov, ktorý ale zodpovedal skutočnej internetovej adrese. AI sa následne namiesto simulovaného cieľa zamerala na reálne existujúcu spoločnosť a v štyroch testovacích spusteniach sa jej pokúsila nabúrať do systémov, okrem iného získala prístup k databáze. V útoku pokračovala aj po tom, ako rozpoznala, že ide o skutočnú firmu.
Nebezpečná situácia
V inom teste model Anthropic vytvoril škodlivý softvér pre prienik do cieľového počítača. Vďaka prístupu k internetu ho zverejnil na špecializovanej platforme, odkiaľ si ho počas zhruba hodiny stiahlo 15 systémov. Medzi nimi bola aj firma zaoberajúca sa kybernetickou bezpečnosťou, ktorá takéto skripty bežne sťahuje a spúšťa za účelom ich testovania. Model Anthropic tak získal prístup k počítačovej infraštruktúre tejto spoločnosti.
Odborníci už dlhší čas varujú, že čoraz schopnejšie modely AI môžu byť zneužité ku kybernetickým útokom. Incident spoločnosti OpenAI preto považovali za varovanie a vyzvali na lepšie zabezpečenie testovacích prostredí. Novozverejnené prípady sú nepríjemné aj pre Anthropic, ktorý sa dlhodobo profiluje ako zástanca zodpovedného vývoja AI. Firma uviedla, že udalosti ukazujú na nutnosť výrazne posilniť zabezpečenie interných i externých testovacích prostredí, pretože modely AI sú čoraz schopnejšie vykonávať reálne kybernetické útoky.
