Ja, es ist beängstigend, was binnen so kurzer Zeit möglich geworden ist. Ich sah dieser Tage ein (allerdings bewußt als Satire angelegtes) KI-generiertes Video einer Fremdenführerin in Paris, die eine asiatische Reisegruppe durch die Stadt führte, die eher eine Art Bürgerkriegsschauplatz war. Schon sehr realistisch animiert. Mit der nächsten Generation kann man die Unterschiede zwischen KI und real wohl bald nicht mehr sehen. Und da greifen dann auch Verbote nicht mehr, denn wer ohnehin das Recht brechen will, indem er/sie/es mittels KI-Fakes agiert, der hält sich auch nicht an solche Verbote. Allein daß es möglich ist, bedeutet, daß es auch benutzt wird.
Andererseits werden von bestimmten Akteuren vor allem der "Qualitätsmedien" ja noch nicht mal in Videos eingebettete Wasserzeichen einer KI erkannt, und das Video dennoch als "authentisch" verbreitet, weil dessen Inhalt "paßt".
