EU prüft Eingriff gegen KI-System Grok
Die EU-Kommission hat ein formelles Verfahren gegen den KI-Chatbot Grok eingeleitet, der vom US-Unternehmen xAI entwickelt wurde. Das System ist eng mit der Plattform X verbunden, beide stehen unter der Kontrolle von Elon Musk. Anlass für das Vorgehen sind Vorwürfe, Grok habe sexualisierte Inhalte generiert und verbreitet, darunter auch Darstellungen realer Personen ohne deren Zustimmung.
Nach Einschätzung der Kommission könnten diese Inhalte gegen geltendes EU-Recht verstoßen. Deshalb wird nun geprüft, ob Maßnahmen erforderlich sind, die bis zu einer Sperrung des Dienstes innerhalb der Europäischen Union reichen können. Grundlage des Vorgehens ist das europäische Gesetz über digitale Dienste, der Digital Services Act (DSA).
Digital Services Act rückt in den Mittelpunkt
Der DSA verpflichtet große Online-Dienste dazu, Risiken systematisch zu analysieren und rechtswidrige Inhalte wirksam zu unterbinden. Anbieter müssen zudem offenlegen, wie ihre Systeme funktionieren und welche Schutzmechanismen eingesetzt werden. Bei schweren Verstößen drohen hohe Geldstrafen oder Einschränkungen des Betriebs.
Im Fall von Grok geht es insbesondere um die Frage, ob xAI ausreichend Vorkehrungen getroffen hat, um die Verbreitung sensibler Inhalte zu verhindern. Berichte über mögliche Darstellungen mit Minderjährigen werden von Brüssel als besonders gravierend eingestuft. Die Betreiber müssen sich im Rahmen des Verfahrens zu den Vorwürfen äußern.
Politische Zurückhaltung endet
Bereits seit Monaten steht Grok international in der Kritik. Die EU hatte ihr Vorgehen jedoch zunächst zurückgestellt. Hintergrund waren politische Spannungen zwischen Europa und den Vereinigten Staaten sowie Ankündigungen möglicher Handelsmaßnahmen durch US-Präsident Donald Trump.
Mit der nun eingeleiteten Prüfung macht die Kommission deutlich, dass regulatorische Fragen nicht länger von geopolitischen Erwägungen abhängig gemacht werden sollen. Brüssel betont, dass europäische Regeln unabhängig von der Herkunft eines Unternehmens gelten und durchgesetzt werden.
WhatsApp erhält Status als besonders große Plattform
Parallel zum Vorgehen gegen Grok verstärkt die EU auch die Aufsicht über WhatsApp. Der Messenger-Dienst des Konzerns Meta wird künftig offiziell als sehr große Online-Plattform eingestuft. Damit unterliegt WhatsApp nicht mehr ausschließlich der Kontrolle nationaler Behörden, sondern direkt der Aufsicht der EU-Kommission.
Diese Einstufung bringt strengere Pflichten mit sich. Die Plattform muss nachweisen, dass sie wirksam gegen verbotene Inhalte vorgeht. Dazu zählen unter anderem Hassrede, Gewaltandrohungen oder verfassungswidrige Symbole, die online denselben gesetzlichen Beschränkungen unterliegen wie im öffentlichen Raum.
Öffentliche Kanäle im Fokus der Kontrolle
Die EU stellt klar, dass private Chats auf WhatsApp weiterhin geschützt bleiben. Die Ende-zu-Ende-Verschlüsselung privater Nachrichten wird nicht angetastet. Die verschärfte Aufsicht bezieht sich ausschließlich auf öffentliche Kanäle, über die Inhalte einer breiten Nutzerschaft zugänglich gemacht werden.
Sollten dort rechtswidrige Inhalte verbreitet werden, kann die Kommission eingreifen und Sanktionen verhängen. Damit geraten erstmals auch Messenger-Funktionen, die öffentlich genutzt werden, stärker unter europäische Regulierung.
Meta erneut unter Wettbewerbsverdacht
Neben der Inhaltskontrolle steht Meta auch wegen möglicher Wettbewerbsverstöße unter Beobachtung. Die EU wirft dem Konzern vor, auf WhatsApp ausschließlich den eigenen KI-Assistenten zuzulassen und konkurrierenden Anbietern den Zugang zu verwehren. Die Kommission untersucht, ob dieses Vorgehen gegen europäische Wettbewerbsregeln verstößt.
Bereits im vergangenen Jahr hatte Brüssel 200 Millionen Euro Strafe gegen Meta verhängt, unter anderem wegen Wettbewerbsverzerrungen bei Instagram und Facebook. Weitere Verfahren wegen unzureichender Maßnahmen gegen illegale Inhalte laufen weiterhin.
Klare Botschaft an die Tech-Branche
Mit dem parallelen Vorgehen gegen Grok und WhatsApp unterstreicht die EU ihren Anspruch, digitale Märkte aktiv zu gestalten. Besonders KI-Systeme geraten dabei zunehmend in den Fokus, da ihre Inhalte schwer kontrollierbar sind und erhebliche gesellschaftliche Risiken bergen können.
Die aktuellen Verfahren gelten in Brüssel als Signal an internationale Technologiekonzerne, dass europäische Standards konsequent durchgesetzt werden. Für Anbieter digitaler Dienste bedeutet dies wachsende Anforderungen an Transparenz, Kontrolle und Verantwortung.
