Sociálne siete, ako je TikTok alebo Instagram, zaplavujú reklamy na aplikácie, ktoré dokážu pomocou umelej inteligencie vytvoriť falošné videá, na ktorých sa ľudia bozkávajú, s kýmkoľvek chcú.
Aplikácie, ktoré spustili spoločnosti Meta Platforms a ByteDance, umožňujú používateľom nahrať fotografie dvoch ľubovoľných ľudí a nechať ich umelou inteligenciou previesť na video, v ktorom sa títo ľudia bozkávajú. Obe firmy ich propagujú ako nástroje, ktoré vám „umožnia okamžite pobozkať, kohokoľvek chcete“ – bez nutnosti súhlasu.
Podobne ako aplikácia AI nudifier, ktorá vie vytvoriť deepfake pornografiu bez súhlasu, vyvíja umelá inteligencia vierohodné videá ľudí, ktorí robia niečo, čo neurobili. Fakt, že používatelia sociálnych sietí tieto nástroje veselo využívajú, je znepokojujúci trend, ktorý prakticky normalizuje deepfake snímky.
Hoci tieto reklamy neobsahujú explicitnú pornografiu, môžu byť podľa Haley McNamary, výkonnej pracovníčky Národného centra pre sexuálne vykorisťovanie, rovnako nebezpečné ako príval erotického obsahu generovaného umelou inteligenciou, ktorý zaplavil sociálne platformy, ako je Instagram, Reddit či YouTube.
„Nemusí to byť explicitné, aby to bolo zneužívanie,“ myslí si McNamara. „Ak je spoločensky za čiarou, keď niekomu robíte niečo offline bez jeho súhlasu, bozkávate sa, vyzliekate a tak ďalej, potom je za čiarou, aj keď to robíte online,“ tvrdí expertka.
Podľa zistenia Forbesu zobrazovala spoločnosť Meta viac ako 2,5 tisíc reklám na „AI aplikácie na bozkávanie“ naprieč Instagramom a Facebookom. V súčasnej dobe je ich aktívnych asi tisíc.
TikTok podľa svojej reklamnej knižnice zobrazil asi tisícku reklám miliónom používateľov v európskych krajinách. Väčšina týchto reklám zobrazuje bozkávajúce sa celebrity, ako sú herečky Scarlett Johansson, Emma Watson alebo Gal Gadot.
Iné ukazujú videá náhodných bozkávajúcich sa ľudí a hlásajú, že umelá inteligencia vám umožní „pobozkať svojho bývalého“ či „pobozkať svoju lásku“.
Nie je jasné, či sú jedinci na videách skutoční alebo ich generuje umelá inteligencia. Johansson, Watson a Gadot na žiadosti o komentár pre tento článok nereagovali.
Aplikácie na objímanie
Spoločnosť Meta miliardára Marka Zuckerberga ďalej propaguje AI aplikácie na objímanie, ktorých reklamy ukazujú videá vytvorené umelou inteligenciou, kde sa deti objímajú s kreslenými postavičkami, ako sú Mickey Mouse alebo Tom a Jerry.
Niektoré z nich, napríklad video, kde malé dievča objíma staršieho muža, sľubujú rodičom, že aplikácie poháňané umelou inteligenciou by mohli ich deťom umožniť „objímať starých rodičov, ktorých nikdy nepoznali“.
Podľa prieskumu Forbesu vypustila Zuckerbergova firma okolo 1 200 reklám na AI aplikácie na objímanie. Viac ako tri stovky z nich sú stále aktívne.
Na sociálnych sieťach už kolujú videá bozkávajúcich sa a objímajúcich sa celebrít generované umelou inteligenciou. Video zachytávajúce americkú speváčku Taylor Swift objímajúcu severokórejského diktátora Kim Čong-una má na Instagrame asi 30 miliónov pozretí.
Koncom decembra sa na sociálnej sieti X virálne rozšírilo aj deepfake video, na ktorom sa bozkávajú miliardár Elon Musk a talianska premiérka Giorgia Meloni.
Bozkávanie nie je problém
Hovorca Mety Daniel Roberts pre Forbes povedal, že tieto reklamy na „AI aplikácie na bozkávanie“ neporušujú zásady spoločnosti.
Hoci nahota, sexuálne explicitný a sexuálne sugestívny obsah sú v rozpore s reklamnými štandardmi firmy a Meta nepovoľuje reklamy, ktoré „zobrazujú, obhajujú alebo koordinujú sexuálne akty bez súhlasu strán“, videá s bozkávaním a objímaním sú povolené.
ByteDance po kontaktovaní Forbesom reklamy odstránil, pretože porušovali zásady jeho sociálnej siete. „Platforma na zdieľanie videí vyžaduje, aby inzerenti získali súhlas verejných alebo súkromných osôb, ktoré sú v ich reklamách zobrazené, a to aj v prípade, že sú reklamy generované umelou inteligenciou,“ uviedla pre Forbes hovorkyňa TikToku Ariane de Selliers.
Firmy, ktoré stoja za týmito generátormi videí, majú podľa svojich webových stránok sídla v krajinách, ako sú Spojené arabské emiráty, Taliansko alebo Čína.
Deepfake preniká do mainstreamu
Aplikácie sú k dispozícii zadarmo v obchodoch App Store od Apple a Play Store spoločnosti Google a majú už milióny stiahnutí.
Funkcia „AI bozkávanie“ je súčasťou širšieho súboru funkcií na úpravu fotografií v aplikáciách založených na umelej inteligencii, ako je retušovanie starých fotografií, premena statických snímok na videá a predpovedanie, ako by vyzerali budúce deti dvoch ľudí. Apple a Google na žiadosti o komentár nereagovali.
Šírenie AI aplikácií na bozkávanie podporené viralitou sociálnych sietí ilustruje znepokojujúci prienik deepfake videí do mainstreamu v ére generatívnej umelej inteligencie.
Používanie týchto zdanlivo neškodných aplikácií by podľa McNamary mohlo otvoriť dvere nástrojom, ktoré vytvárajú explicitnejšie snímky, ako je deepfake porno a ďalšie typy obrazového sexuálneho zneužívania. „Je to jednoducho absolútna Pandorina skrinka,“ varuje.
„Tento trend normalizuje zneužívajúce deepfakes a berie nekonsenzuálnu účasť na intímnych alebo sexualizovaných snímkach ako vtip,“ dopĺňa McNamara.
Je to vec, ktorú je ľahké banalizovať, keď premýšľate o cudzích ľuďoch. Ak sa však zamyslíte nad tým, že niekto vo vašom vlastnom okolí robí takéto zábery, niekto, u koho by ste nechceli, aby takéto videá mal, myslím, že každý uzná, že ide o porušenie práv,“ podotýka odborníčka.
Je to obzvlášť znepokojujúce v čase, keď sa nebývalo zvyšuje počet nelegálnych materiálov so sexuálnym zneužívaním detí generovaných umelou inteligenciou. Za posledné dva roky dostalo Národné centrum pre nezvestné a zneužívané deti (NCMEC) viac ako 7-tisíc hlásení o generovaní materiálov súvisiacich s umelou inteligenciou, ktoré sa týkajú zneužívania detí.
V jednom prípade pedofil údajne natáčal deti v Disneylande a použil populárny nástroj AI Stable Diffusion na vytvorenie tisícok ich nelegálnych snímok.
Vďaka neobmedzenému prístupu ku generátorom obrázkov AI vytvorili dospievajúci stredoškoláci v niekoľkých prípadoch deepfake snímky nahých neplnoletých spolužiakov, pričom niektoré z nich viedli k trestnému oznámeniu.
Meta tiež zápasí s kontrolou reklám na takéto obnažujúce stránky s umelou inteligenciou, z ktorých jedna podľa spravodajcu Faked Up zaznamenala 90 percent návštevnosti pochádzajúcej z Instagramu a Facebooku.
Ľudia, ktorí sa pri prechádzaní sociálnych sietí stretli s reklamami na AI aplikácie na bozkávanie, tvrdia, že ich považujú za znepokojujúce.
Napríklad Alice Siregar začala vlani v decembri na TikToku pozorovať nárast reklám na AI aplikácie na bozkávanie. Sama je analytičkou umelej inteligencie v konzultačnej firme a bola zdesená, keď videla, že sa táto technológia používa značne neetickým spôsobom. „Bol to neuveriteľne desivý pocit,“ opisuje.
Článok vyšiel na Forbes.com. Autorkou je redaktorka Rashi Shrivastava.
