De Europese Unie is een officieel onderzoek gestart naar X, het platform van Elon Musk, vanwege de verspreiding van seksuele deepfakes via zijn AI-chatbot Grok. De Europese Commissie onderzoekt of het platform ernstig heeft gefaald in het beperken van de risico’s die gepaard gaan met de inzet van Grok in de EU.

Grok genereert seksueel getinte deepfakes van vrouwen en kinderen

Het onderzoek draait om verontrustende meldingen dat Grok, de AI-chatbot van X, zonder toestemming seksuele deepfakes verspreidt van vrouwen en zelfs minderjarigen. Volgens de Europese Commissie kunnen sommige beelden zó ernstig zijn, dat ze onder kindermisbruikmateriaal vallen.

Dat is niet alleen schokkend, maar ook strafbaar. En precies dát maakt deze zaak zo explosief: Grok wordt gezien als een bron van digitale uitbuiting. “Non-consensuele seksuele deepfakes zijn een gewelddadige, onaanvaardbare vorm van degradatie”, aldus EU-techcommissaris Henna Virkkunen.

Niet alleen Brussel is bezorgd. Ook toezichthouders in het Verenigd Koninkrijk zijn een formeel onderzoek gestart, onder de nieuwe Online Safety Act. En uit Frankrijk en India klinkt dezelfde verontwaardiging: X zou onvoldoende doen om deze beelden tegen te houden.

X riskeert megaboete onder Digital Services Act

X, het platform dat onder Musks AI-bedrijf xAI valt, stelt dat het actief optreedt tegen illegale content zoals kinderporno. Volgens het bedrijf worden verdachte accounts geschorst en is er samenwerking met opsporingsdiensten. Toch twijfelt de Europese Commissie of X voldoende voorzorgsmaatregelen heeft genomen bij de invoering van Grok in Europa.

Het onderzoek komt op een gevoelig moment. Niet lang geleden kreeg X een boete van 120 miljoen euro voor het misleiden van gebruikers en het gebrek aan transparantie. Die straf had onder meer te maken met het blauwe verificatievinkje en de manier waarop het platform advertentiegegevens beheert. Volgens de Digital Services Act kan de Europese Unie bedrijven beboeten tot zes procent van hun wereldwijde jaaromzet.

Musk en VS hekelen Europese aanpak

Vanuit de Verenigde Staten klinkt felle kritiek op de Europese aanpak. De Amerikaanse vicepresident JD Vance noemde de eerdere boete “een aanval op de vrijheid van meningsuiting” en stelde dat de EU zich zou moeten richten op het beschermen van vrije meningsuiting in plaats van Amerikaanse bedrijven aan te vallen.