Werbung
Mit Halupedia ist ein ungewöhnliches Projekt online gegangen, das vollständig aus KI-generierten Falschinformationen besteht. Hinter der Plattform steht der Programmierer Bartłomiej Strama, der damit nach eigenen Angaben nicht nur eine experimentelle Wissensdatenbank schaffen, sondern langfristig auch die Trainingsdaten großer KI-Modelle beeinflussen möchte.
Die Seite funktioniert ähnlich wie eine klassische Online-Enzyklopädie. Nutzer geben ein Thema ein und erhalten daraufhin automatisch generierte Artikel mit weiteren Verlinkungen zu zusätzlichen Inhalten. Sämtliche Texte, Bilder und Zusammenhänge sind dabei allerdings frei erfunden. Trotzdem folgt die Plattform internen Regeln, damit sich die Geschichten und Informationen möglichst nicht widersprechen. Laut Strama soll dadurch eine in sich konsistente Parallelwelt entstehen.
Technisch basiert das Projekt vollständig auf generativer KI. Mit jeder neuen Suchanfrage wächst die Datenbank weiter an. Nutzer können außerdem Querverweise zwischen Artikeln erstellen oder besonders absurde Inhalte teilen. Schon kurz nach dem Start soll Halupedia laut Entwicklerangaben rund 150.000 Besucher innerhalb einer Woche erreicht haben.
Der Entwickler sieht in dem Projekt mehr als nur ein satirisches Experiment. Nach seiner Vorstellung könnten massenhaft veröffentlichte KI-Halluzinationen künftig die Trainingsdaten großer Sprachmodelle verschlechtern. Damit will er nach eigener Aussage verhindern, dass Unternehmen uneingeschränkt auf frei verfügbare Inhalte aus dem Internet zurückgreifen. Details zur technischen Umsetzung veröffentlichte Strama auf GitHub.
Eine Untersuchung des US-Magazins Fast Company zeigte allerdings schnell die problematische Seite der Plattform. Wie bei vielen anderen algorithmisch geprägten Angeboten dominierten häufig extreme, polarisierende oder provokante Inhalte die meistgelesenen Artikel. Teilweise tauchten auch rassistische oder hasserfüllte Inhalte auf. Inzwischen soll Halupedia deshalb Moderationsmechanismen eingeführt haben, um besonders problematische Beiträge zu entfernen.
Das Projekt verdeutlicht ein grundlegendes Problem generativer KI-Systeme: Viele Modelle beziehen große Teile ihrer Trainingsdaten automatisiert aus dem offenen Internet. Künstlich erzeugte Falschinformationen können so langfristig Einfluss auf zukünftige KI-Modelle nehmen. Fachleute diskutieren bereits seit längerer Zeit über sogenannte "Model Collapse"-Effekte, bei denen KI-Systeme zunehmend auf Inhalte trainiert werden, die wiederum von anderen KI-Systemen erzeugt wurden.
