Generování či upravování obrázků na sociální síti X je nově pouze pro uživatele s předplatným. Sociální síť Elona Muska možnost prostřednictvím chatbota Grok generovat nebo upravovat obrázky vypnula všem neplatícím uživatelům. Jedná se o reakci na kritiku skutečnosti, že chatbot na žádost uživatelů na síti X generoval sexualizované fotografie žen a dětí. Mluvčí Evropské komise (EK) a britské vlády však tento krok kritizovali jako nedostatečný.
Funkci generování nebo upravování obrázků mohou nadále využívat uživatelé s modrým ověřovacím symbolem u jména, kteří si platí prémiovou verzi platformy. V Česku předplatné prémiové verze stojí 68 Kč měsíčně. „Na naší základní připomínce to nic nemění. Placené nebo neplacené předplatné, nechceme vidět takové obrázky. Tak jednoduché to je,“ uvedl mluvčí Evropské komise Thomas Regnier.
„Nic to neřeší. Ve skutečnosti je to urážka obětí misogynie a sexuálního násilí. Dokazuje to pouze to, že X dokáže jednat rychle, když chce,“ sdělil mluvčí britské vlády s tím, že síť jen změnila funkci z neplacené služby na prémiovou. „Je na čase, aby se X touto otázkou zabývalo,“ dodal.
Mluvčí německého ministerstva spravedlnosti Anna-Lena Beckfeldová uvedla, že se problémem bude zabývat také německá vláda. „Je nepřijatelné, aby se manipulace ve velkém měřítku využívala k systematickému porušování osobních práv,“ řekla.
„Chceme proto zajistit, aby bylo možné účinněji využívat trestní právo v boji proti tomuto jevu,“ dodala s tím, že ministerstvo pracuje na lepší regulaci věrohodně působících falešných obrázků a videí generovaných AI (takzvaných deepfakes) a plánuje zákon proti digitálnímu násilí na podporu jeho obětí.
Žádost o informace ohledně Groka zaslala EK ve čtvrtek
EK ve čtvrtek zaslala společnosti X Corp žádost o informace ohledně Groka v reakci na skandál se sexualizovanými obrázky. Brusel zároveň firmě nařídil, aby nadále uchovávala všechny dokumenty týkající se Groka na její platformě X, a to až do konce letošního roku.
„Nelegální. Nepřijatelné. Nechutné,“ uvedl ve středu Regnier s tím, že podle unijního nařízení o digitálních službách (DSA) má síť X povinnost situaci řešit. „Protože takový výstup nemůžeme tolerovat. Je to v rozporu s evropskými hodnotami a základními právy. Dodržování evropské legislativy není volba, je to povinnost,“ dodal.
Generování sexualizovaných obrázků žen a dětí chatbotem Grok, které byly sdíleny na platformě X, vyvolalo obavy o bezpečnost modelu. Grok později v příspěvku na webu X uvedl, že materiály se sexuálním zneužíváním dětí jsou „nezákonné a zakázané“.
Doktorandka dublinské Trinity College Nana Nwachukwuová ve svém výzkumu shromáždila asi 500 interakcí uživatelů sítě X s Grokem, na nichž podle webu The Guardian dokládá, jak často se něco podobného děje. Téměř tři čtvrtiny příspěvků byly žádosti o snímky skutečných žen nebo nezletilých s odstraněnými nebo přidanými částmi oblečení.
Uživatelé si radí se zadáváním příkazů Grokovi
Uživatelé si podle Nwachukwuové navzájem radí, jak zadávat příkazy. Navrhují Grokovi zobrazení žen v prádle nebo plavkách, případně s částmi těla pokrytými spermatem a žádají chatbota, aby odstranil svrchní oděv v odpovědích na příspěvky obsahující autoportréty uživatelek. Z kontextu vyplývá, že se tak děje bez souhlasu dotčených žen.
