Geldstrafen und Berufsverbote: KI-Halluzinationen in Schriftsätzen werden für Anwälte zum Problem

[HWL News Bot]

Ein US-Bundesgericht im Bundesstaat Mississippi hat harte Konsequenzen gegen vier Anwälte verhängt, nachdem diese in einem laufenden Verfahren Schriftsätze mit erfundenen Gerichtsentscheidungen eingereicht hatten. Die falschen Quellen stammten aus der Feder einer generativen KI und wurden vor der Einreichung von den Juristen nicht noch einmal überprüft.
... weiterlesen

 

[Knuprecht]

Hm, ich bin einfach nicht dreist genug. Ich traue mich im Arbeitsumfeld bisher noch nicht KI generierte Aussagen ungeprüft weiter zu geben. Ich nutze aber auch nur den auf der Arbeit verfügbaren Copilot für allgemeine oder fachspezifische Fragen.

 

[Liesel Weppen]

Ähja, im Fall Anwalt ist KI zu betrachten wie wenn einem ein Anwaltskollege irgendwas erzählt. Kann stimmen, muss aber nicht. Man muss es sowieso nochmal überprüfen, weil man kann sich spätestens vor Gericht wohl nichtmehr einfach auf "das hat mir irgendjemand erzählt" berufen.

Insofern ist eine KI halt immernoch nur eine bessere Suchefunktion. Und wenn die z.B. sagt "nach Paragraf 531 Abs. 2.... blabla".... Die kann also durchaus helfen, einen relevanten Paragraf zu finden, nur dann sollte man als Anwalt halt schon nochmal selber nachgucken, obs den Paragrafen überhaupt gibt und was da wirklich drinsteht.

 

[IJerichoI]

Naja, machen wir uns nichts vor, hier ist das aufgefallen, ich möchte nicht wissen, was da im normalen Arbeitsumfeld täglich so passiert. Wie viele im Büro werden denn ungenügend oder garnicht geschult, aber setzen KI irgendwie ein oder bekommen es übergestülpt. Dabei verstehen sie nichtmal, wie Computer oder Programme wie Excel oder Word funktionieren und arbeiten nach Klickstrecken, sollen aber die Funktion der KI hinterfragen. Oder sie machen sich da einfach keinen Kopf, grad in der jüngeren Generation - ich seh es ja in meinem Umfeld. Ich glaub, das wollen wir garnicht wissen, wieviel Grütze hier mittlerweile produziert wird bzw. wie leichtfertig mit den Ergebnissen umgegangen wird.
Ich selbst nutze es halt oft eher als bessere Suchmaschine, aber es macht halt immer noch Arbeit, das alles zu verifizieren.

 

[Liesel Weppen]

Das hängt doch zu 100% davon ab, was man tut/arbeitet.

Wenn ich privat eine KI frage "Was ist rot und macht die Zähne kaputt?" und sie mir das falsch mit "ein Ziegelstein" beantwortet... who cares?
Wenn ich als Softwareentwickler etwas programmieren soll und mir die KI irgendwelchen Code ausspuckt, den ich zwar nicht verstehe, aber der funktioniert... dann ist das zwar "ungünstig", kann aber immernoch ausreichend sein.

Aber ein Anwalt!! Oder ein Arzt, der meine Symptome nur in eine KI reintippt und mir auf deren Antwort hin dann eine Herztransplantation empfiehlt... das sind doch ganz andere Kaliber. Das muss doch sowieso überprüft werden. Egal ob einem eine KI das sagt oder sonstwer. Jemand der so eine Beruf ausüben darf, der MUSS wissen, das er solche Sachen überprüfen muss. Egal obs ein Kollege erzählt hat, er das auf "bravo.drsommer.de" gelesen hat, es auf Wikipedia steht oder es ihm eben eine KI erzählt hat.

 

[King Loui]

Jemand der so eine Beruf ausüben darf, der MUSS wissen, das er solche Sachen überprüfen muss.

War hier nicht noch vor einiger Zeit die Rede davon, dass man sowas wie Juristen in Zukunft nicht mehr braucht, weil das die KI ja eh viel schneller und billiger machen kann?

 

[Liesel Weppen]

War hier nicht noch vor einiger Zeit die Rede davon, dass man sowas wie Juristen in Zukunft nicht mehr braucht, weil das die KI ja eh viel schneller und billiger machen kann?

Ich erinnere mich an eine News hier, das die Amis auf die tolle Idee kamen, das KI die Verfassung von Gesetzestexten unterstützen soll. Das ist aber sozusagen die gegenüberliegende Seite.

 

[DragonTear]

War hier nicht noch vor einiger Zeit die Rede davon, dass man sowas wie Juristen in Zukunft nicht mehr braucht, weil das die KI ja eh viel schneller und billiger machen kann?

Wenn man sieht wie die Zuverlässigkeit in den letzten 2 Jahren gestiegen ist, ist das definitiv nicht weg vom Tisch...

 

[King Loui]

Wenn man sieht wie die Zuverlässigkeit in den letzten 2 Jahren gestiegen ist, ist das definitiv nicht weg vom Tisch...

Ziemlich sicher sogar Denn das Entscheidende ist nicht die Expertise, sondern die Verantwortung (Klienten von heute sind Kläger von morgen). Ein Modell kann man juristisch nicht angreifen oder belangen und die Betreiber wollen sich damit nicht auseinandersetzen. Ganz davon ab, dass zu detaillierte Ausführungen auch eine unerlaubte Rechtsberatung darstellen und vielfach eh Anwaltszwang besteht.

 

[DragonTear]

Ziemlich sicher sogar Denn das Entscheidende ist nicht die Expertise, sondern die Verantwortung (Klienten von heute sind Kläger von morgen). Ein Modell kann man juristisch nicht angreifen oder belangen und die Betreiber wollen sich damit nicht auseinandersetzen. Ganz davon ab, dass zu detaillierte Ausführungen auch eine unerlaubte Rechtsberatung darstellen und vielfach eh Anwaltszwang besteht.

Wobei du hier grade auch grad Krankheiten des aktuellen Systems auflistest.
Das Anwaltssystem gibt es zu nem guten Teil zum Selbstzweck.

 

[Mr.Mito]

Er verdeutlicht, dass der Einsatz künstlicher Intelligenz in juristischen Verfahren zwar Zeit sparen kann, die Verantwortung für die Richtigkeit von Quellen und Argumenten jedoch weiterhin bei den Anwälten selbst liegt.

Spart es am Ende denn auch noch Zeit, wenn man alles 5x gegenprüfen muss oder ist man dann doch schneller fertig, wenn man es aufgrund seines eigenen Fachwissens selbst macht?

 

[Holt]

War hier nicht noch vor einiger Zeit die Rede davon, dass man sowas wie Juristen in Zukunft nicht mehr braucht, weil das die KI ja eh viel schneller und billiger machen kann?

Overpromised and underdelivered? Oder Fake it till you make it? Das ist doch bei den Techunternehmen Standard. Mit dem derzeitigen Ansatz bei dem KI nur eine extrem komplexe Wahrscheinlichkeitsrechnung ist, werden sich Halluzinationen nie vermeiden lassen, was selbst Sam Altman eingestanden hat. Wenn es keinen komplett neuen Ansatz gibt, wird man den Ausgaben der LLMs nie blind vertrauen können und sie immer überprüfen müssen, was dann die Frage aufwirft, wie groß der Produktivitätsgewinn wirklich sein wird und in welchen Bereichen man jemals Menschen komplett durch KI ersetzen kann.

Dazu kommt, dass die KI Anbieter ihren Kunden zunehmen für die besseren Modelle die Token in Rechnung stellen (müssen, weil die Investoren nicht mehr so viel Geld reinpumpen) und damit können die Kosten für KI das Gehalt des Mitarbeiters der diese KI nutzt, dann ganz leicht übersteigen. Da wird sich früher oder später jeder Arbeitgeber und auch jeder Selbstständige wie eben z.B. ein Anwalt die Frage stellen müssen, ob sich der Einsatz von KI rechnet oder nicht. Man wird sehen wie groß die Nachfrage dann noch ist. Ich vermute aber stark, dass sie nicht an das Ausmaß herankommt, dem vom viele derzeit träumen und auf das die aktuelle Planung ausgelegt wird, vor allem bzgl. der Rechenzentren.