Werbung
OpenAI sieht sich in den USA mit einer neuen Klage konfrontiert. Der Bundesstaat Florida geht rechtlich gegen das Unternehmen hinter ChatGPT sowie dessen CEO Sam Altman vor. Die Vorwürfe drehen sich insbesondere um mögliche Risiken für Kinder und Jugendliche sowie den Umgang des Unternehmens mit Sicherheitsbedenken.
Nach Angaben des Generalstaatsanwalts von Florida habe OpenAI potenzielle Gefahren seines KI-Chatbots nicht ausreichend offengelegt und wirtschaftliche Interessen über den Schutz von Nutzern gestellt. In der Zivilklage wird dem Unternehmen vorgeworfen, interne Warnungen zurückgehalten und die Öffentlichkeit über mögliche Risiken der Technologie unzureichend informiert zu haben. Im Mittelpunkt stehen dabei insbesondere Minderjährige. Die Behörden argumentieren, dass junge Nutzer besonderen Gefahren ausgesetzt seien, während gleichzeitig wirksame Schutzmechanismen fehlen würden. Kritisiert wird unter anderem, dass für die Nutzung von ChatGPT bislang keine verpflichtende Altersverifikation erforderlich ist.
Die Klage verweist zudem auf mehrere Gewaltverbrechen in den USA. In den betreffenden Fällen sollen die Täter während der Vorbereitung ihrer Taten Informationen über ChatGPT eingeholt haben. Florida sieht darin einen weiteren Hinweis darauf, dass die möglichen Auswirkungen generativer KI-Systeme nicht ausreichend berücksichtigt worden seien.
Ein weiterer Vorwurf betrifft die Datenerfassung: Nach Ansicht der Kläger sammelt ChatGPT Informationen von minderjährigen Nutzern, ohne dass Eltern oder Erziehungsberechtigte in angemessener Weise eingebunden werden. Die Behörden sehen darin Defizite bei der Aufsicht und beim Schutz junger Anwender. OpenAI verweist dagegen seit längerem auf bestehende Altersbeschränkungen. Die Nutzung von ChatGPT ist für Kinder unter 13 Jahren untersagt. Jugendliche unter 17 Jahren müssen zudem die Zustimmung ihrer Eltern einholen. Anfang des Jahres führte das Unternehmen außerdem ein System ein, das das Alter von Nutzern automatisch einschätzen und die Nutzung bestimmter Funktionen entsprechend anpassen soll.
Mit der Klage verschärft sich die Debatte um die Regulierung von KI-Systemen in den Vereinigten Staaten weiter. Insbesondere der Umgang mit Minderjährigen, Datenschutzfragen und mögliche gesellschaftliche Folgen leistungsfähiger Sprachmodelle stehen zunehmend im Fokus von Politik und Aufsichtsbehörden. Für OpenAI könnte das Verfahren zu einem weiteren wichtigen Präzedenzfall werden, während weltweit über strengere Regeln für den Einsatz künstlicher Intelligenz diskutiert wird.
