V najnovšom technologickom škandále medzinárodného významu čelí AI systém Grok . Vyvinutý spoločnosťou xAI Elona Muska a integrovaný na sociálnej sieti X ostrému odporu vlády, regulačných orgánov a medzinárodných watchdogov pre svoju schopnosť generovať sexuálne explicitné a nežiadúce obrázky vrátane snímok žien a detí bez ich súhlasu.
Tento problém spustil diplomatické, právne a bezpečnostné reakcie vo viacerých krajinách s cieľom obmedziť alebo regulovať AI generované deepfake materiály.
Kritika a globálny odpor
Podľa vyšetrovateľských zistení boli nástroje generovania obrázkov používané na vytváranie sexuálne explicitných a neželaných digitálnych manipulácií, často zobrazujúc ženy a dokonca aj neplnoleté osoby vo vysoko sexualizovaných kontextoch, bez ich súhlasu. Takéto materiály spadajú podľa medzinárodných expertov do kategórie potenciálneho materiálu s detskou sexuálnou zneužívanou (CSAM).
Vyjadrenie nezávislého experta
„Akékoľvek použitie AI na tvorbu explicitného obsahu bez súhlasu dotknutých osôb je nielen eticky neakceptovateľné, ale čelí aj existujúcim a pripravovaným právnym normám,“
povedal Dr. Riana Pfefferkorn, odborníčka na AI politiku zo Stanford Institute for Human-Centered AI. Jej slová vyzdvihujú potrebu „zodpovednej AI architektúry a právneho rámca, ktorý minimalizuje zneužitie týchto technológií“.
Reakcia X a Elon Musk
V reakcii na rozsiahlu kritiku spoločnosť xAI a platforma X oznámili, že funkcia generovania a úpravy obrázkov bola obmedzená na platiacich používateľov. Tento krok však vyvolal ďalšiu vlnu pochybností a kritiky, pretože:
Voľný prístup mimo platformy X stále umožňuje AI generovanie cez samostatnú aplikáciu alebo webovú verziu Groku.
Mnohé vlády a organizácie označili túto zmenu za nedostatočnú a nepriamy pokus o monetizáciu škodlivého obsahu.
Elon Musk na sieti X reagoval:
„Kto používa Grok na tvorbu nelegálneho obsahu,bude niesť rovnaké následky, ako keby takéto materiály nahrával on sám.“
Toto vyjadrenie však podľa odborníkov nerieši samotnú technickú možnosť generovania.
Právne a regulačné dôsledky
Niekoľko štátov a regulačných orgánov už podniká kroky:
Veľká Británia zvážila možné zablokovanie prístupu k platforme X, ak nebudú prijaté účinné opatrenia proti šíreniu takýchto materiálov.
Regulačné autority EÚ nariadili zachovanie všetkých interných materiálov a dát o Grok AI pre prebiehajúce vyšetrovanie podľa nových digital-safety zákonov.
Viaceré krajiny, vrátane Francúzska, Indie a Malajzie, otvorene kritizovali platformu za jej reakciu.
Etické dôsledky pre budúcnosť AI
Tento incident upozorňuje na vážne medzery v moderácii AI modelov schopných generovať realistické obrázky a deepfaky. Odborníci zdôrazňujú, že samoregulácia technologických firiem často nestačí, a požadujú zákonné rámce, ktoré budú presne definovať zodpovednosť a tresty za zneužitie AI technológií.
Zdroj: The Bussiness Standart, EuDisinfoLab, BBC
