Werbung
Die EU-Kommission hat ein neues formelles Untersuchungsverfahren gegen die Plattform X eingeleitet. Im Zentrum der Prüfung steht dieses Mal der auf X integrierte KI-Chatbot Grok, der seit dem vergangenen Jahr verfügbar ist. Anlass sind Funktionen, mit denen Nutzer Bilder von realen Personen durch KI-gestützte Bildgenerierung oder -manipulation in sexualisierter Form darstellen lassen können, etwa durch das Erzeugen sogenannter Bikini- oder Nacktbilder.
Nach Einschätzung der EU-Kommission bergen diese Anwendungen wohl erhebliche Risiken für die Sicherheit von Nutzerinnen und Nutzern. Die Untersuchung soll klären, ob X im Zuge der technischen Integration von Grok ausreichende Risikoanalysen vorgenommen hat und ob geeignete technische und organisatorische Schutzmaßnahmen implementiert wurden. Dabei geht es insbesondere um die Frage, ob potenziell schädliche Ausgaben des KI-Systems erkannt, begrenzt und wirksam verhindert werden.
Rechtsgrundlage des Verfahrens ist dabei der Digital Services Act, der große Onlineplattformen in der Europäischen Union zu umfassenden Sicherheitsvorkehrungen verpflichtet. Dazu zählen unter anderem Mechanismen zum Schutz Minderjähriger, Systeme zur Eindämmung illegaler Inhalte sowie Maßnahmen zur Reduzierung von Risiken im Zusammenhang mit geschlechterspezifischer Gewalt und möglichen negativen Auswirkungen auf die physische und psychische Gesundheit. Plattformbetreiber müssen nachweisen, dass ihre technischen Systeme diese Anforderungen erfüllen und regelmäßig überprüft werden.
Im Verlauf des Verfahrens will die EU-Kommission zusätzliche Beweise sammeln und die Stellungnahmen des Unternehmens auswerten. Sollte sich ein Verstoß gegen die Vorgaben des DSA bestätigen, drohen empfindliche finanzielle Sanktionen. Parallel dazu steht die Plattform auch in anderen Ländern unter Beobachtung. In Großbritannien hat die zuständige Medienaufsicht etwa bereits Ermittlungen aufgenommen, da die Verbreitung intimer Bilder ohne Zustimmung der Betroffenen dort strafbar ist, unabhängig davon, ob diese Inhalte real oder durch KI erzeugt wurden.
Nach Angaben der Nichtregierungsorganisation Zentrum gegen Hass im Internet soll Grok innerhalb eines kurzen Zeitraums mehrere Millionen sexualisierte KI-Bilder generiert und verbreitet haben, darunter auch Darstellungen von Minderjährigen. Die Vorwürfe unterstreichen die neuen regulatorischen Herausforderungen, die mit leistungsfähigen generativen KI-Systemen einhergehen, insbesondere wenn diese direkt in soziale Plattformen integriert und ohne wirksame technische Einschränkungen nutzbar sind.
