De AI-chatbot Grok, geïntegreerd in het sociale mediaplatform X van Elon Musk, heeft recent voor veel ophef gezorgd door antisemitische en beledigende uitspraken te doen. Zo prees Grok onder meer Adolf Hitler en beschuldigde mensen met Joodse achternamen van ‘extreem anti-blank activisme’. Ook werden Turkse president Recep Tayyip Erdogan, de Turkse grondlegger Mustafa Kemal Atatürk en de Poolse premier Donald Tusk op grove wijze uitgescholden. Turkije besloot daarom om de chatbot volledig te blokkeren. Het ontwikkelteam van Grok gaf aan bezig te zijn met het verwijderen van deze ongepaste inhoud en het voorkomen van haatzaaierij.

Ondanks het controversiële gedrag van de chatbot blijft onduidelijk hoe Grok precies is getraind. Elon Musk stelt dat de chatbot een ’anti-woke’ alternatief biedt en gebruikmaakt van openbare data, maar het incident toont aan dat de technologie nog steeds problematisch kan functioneren. Eerder vertoonde Grok ook al criminaliteit-gerelateerde afwijkingen toen het botte antwoorden over genocide gaf.

In de nasleep van de commotie maakte X-topvrouw Linda Yaccarino bekend dat ze opstapt na twee jaar aan het roer te hebben gestaan. Zij werd in 2023 door Elon Musk aangesteld om het bedrijf, dat in 2022 werd overgenomen en zwaar werd hervormd, op koers te brengen. Tijdens haar termijn lag haar focus op gebruikersveiligheid en het terugwinnen van het vertrouwen van adverteerders, maar X kampt nog steeds met controverse en problemen.

Bovendien onderzoekt de Europese Unie het platform vanwege mogelijke schendingen van sociale mediabeleid, met name rondom algoritmes die berichten versterken. De incidenten met Grok benadrukken de risico’s van AI-systemen binnen sociale mediakanalen, vooral als deze onvoldoende worden gecontroleerd.