Musk omezí svého chatbota Groka. Kvůli skandálu zablokuje nevhodné fotografie
Americká sociální síť X miliardáře Elona Muska znemožní pomocí chatbota Grok generovat a upravovat fotografie skutečných lidí v odhalujícím oblečení v zemích, kde je to nelegální. Opatření oznámila v souvislosti se skandálem, kdy chatbot na žádost uživatelů na síti X generoval sexualizované fotografie žen a dětí. Britský úřad pro regulaci mediálního trhu Ofcom v reakci uvedl, že jeho vyšetřování v této věci nadále pokračuje.
Ve středu platformě v souvislosti se skandálem pohrozil kalifornský státní návladní Rob Bonta. „Žádáme od společnosti xAI okamžitou odpověď na její plán zastavit vytváření a šíření tohoto obsahu. Využijeme všechny nástroje, které máme k dispozici, abychom zajistili bezpečnost Kaliforňanů,“ napsal na síti X.
Grok AI has been producing deepfake nonconsensual intimate images used to harass women across the internet.
— Rob Bonta (@AGRobBonta) January 14, 2026
This is unacceptable. We’re demanding immediate answers from xAI on their plan to stop the creation & spread of this content.
We’ll use all tools at our disposal to keep…
„Zavedli jsme technologická opatření, abychom zabránili účtu Grok umožnit úpravu snímků skutečných lidí v odhalujícím oblečení,“ stojí v oznámení. „Nyní geograficky blokujeme možnost všech uživatelů generovat obrázky skutečných lidí v bikinách, spodním prádle a podobném oblečení prostřednictvím účtu Grok a v aplikaci Grok na síti X v jurisdikcích, kde je to nezákonné,“ dodala platforma.
Ofcom zahájil vyšetřování platformy X v pondělí. Zabývá se podezřením, že síť nedostatečně chrání uživatele před nezákonným obsahem. Ve čtvrtek Ofcom krok sítě X uvítal, nicméně zdůraznil, že ve vyšetřování pokračuje, uvedla agentura Reuters.
Věcí se zabývá také Evropská komise. „Nelegální. Nepřijatelné. Nechutné,“ uvedl minulý týden mluvčí Evropské komise Thomas Regnier. Dodal, že podle unijního nařízení o digitálních službách má síť X povinnost situaci řešit.
Doktorandka dublinské Trinity College Nana Nwachukwu ve svém výzkumu shromáždila asi 500 interakcí uživatelů sítě X s Grokem, na nichž podle zprávy webu The Guardian z minulého týdne dokládá, jak často se něco podobného děje. Téměř tři čtvrtiny příspěvků byly žádosti o snímky skutečných žen nebo nezletilých s odstraněnými či přidanými částmi oblečení.
Uživatelé si podle Nwachukwu navzájem radí, jak zadávat příkazy. Navrhují Grokovi zobrazení žen v prádle nebo plavkách, případně s částmi těla pokrytými spermatem a žádají chatbota, aby odstranil svrchní oděv v odpovědích na příspěvky obsahující autoportréty uživatelek. Z kontextu vyplývá, že se tak děje bez souhlasu dotčených žen.
Musk loni oznámil, že kontrolu nad sítí X převzal jeho startup pro umělou inteligenci xAI, který získal firmu X Corp, tedy provozovatele sítě X. Startup také vyvíjí chatbota Grok, kterého síť X integrovala do své platformy. Jedním z Muskových projektů bylo integrování chatbota do sítě X, což umožňuje uživatelům povolat jej na pomoc v běžných veřejných konverzacích.
Loni Grok na síti X zveřejnil antisemitské a urážlivé komentáře. Mezi jeho výstupy se objevily například konspirační teorie o židovském vlivu a Grok sám sebe v některých odpovědích označil za MechaHitlera, robotickou postavu Hitlera, která se poprvé objevila v roce 1992 ve videohře Wolfenstein 3D.
The post Musk omezí svého chatbota Groka. Kvůli skandálu zablokuje nevhodné fotografie appeared first on Forbes.