KI-Chat endet im Polizeieinsatz: Privates Tagebuch bei Claude wird Nutzerin zum Verhängnis

[Sinush]

Es ist nicht die KI.

Es ist die Cloud, die KI in der Cloud.

Nein. Es ist der Mensch. Es ist immer der Mensch.

 

[pwnbert]

Na gut, der eine Mensch hat sich mithilfe der Cloud und der KI fragwürdigen Zugriff auf die Daten eines anderen Menschen verschafft.

Die Cloud ist hier der springende Punkt.

 

[Pyrocrack]

Sie wollen wirklich alles wissen, das können sie aber nicht verarbeiten -> KI soll es richten.
Das wird iwie schief laufen^^

 

[pwnbert]

Nun ja... in geweissen Systemen, die besonders viel Angst vor dem Machtverlust hatten, war die Quote der Unschuldigen in diversen "Strafmaßnahmen" (diverse Schikanen im Alltag, gipfelnd in allen Arten der Lagerhaft mit oftmals traurigem Ausgang etc.) immer schon ziemlich egal...


Isses eigentlich erlaubt per KI ein Mielke Meme zu machen?

 

[aluis]

Wenn ich mich mit Qwen auf meiner Grafikarte unterhalte, wird niemals die Polizei meine Tür eintreten.

Ich habe mir die Option immer offen gehalten, wenn AI Produkte 10x so teuer werden. Hier geht es nicht um einen DSVGO Verstoß, sondern ob das Sondereinsatzkommando willkürlich meine Bude stürmt! Ganz ganz übel.

 

[Pyrocrack]

Das SEK stürmt nicht so einfach deine Bude.

 

[aluis]

Das SEK stürmt nicht so einfach deine Bude

Klar, da reicht ein Meme.

Das muss man sich aber echt mal auf der Zunge zergehen lassen. Es gibt wie bei 1984 Gedankenverbrechen, welche schwerst bestraft werden.

 

[Larkin]

Wir teilen uns zu dritt einen Account.
Eine schreibt sogar in ner anderen Sprache ihre Promts und Texte. Die KI kommt da schon ziemlich oft durcheinander in Sachen Geschlecht und Antwortsprache.

 

[Mr.Mito]

Das hier ist aber schon ein Fall, den man sehr differenziert betrachten muss. Hätte sie irgenwie im Konjunktiv geschrieben, was sie mit dem Polizeichef gerne tun würde,
oder hätte sie das ganze in Form einer Geschichte verfasst, wäre wohl nicht wirklich etwas passiert. Eventuell hätte der Bot ebenfalls Alarm geschlagen und ein Mensch
hätte das ganze dann als Fiktion erkannt.

Ist denn überhaupt bekannt, was genau sie schrieb bzw. wie sie es formuliere?