Werbung
ChatGPT hat sich längst in den Alltag vieler Menschen eingeschlichen. Der Chatbot wird über alles Mögliche befragt, naheliegend sind unter anderem Fragen nach juristischen Kontexten. Doch damit manövriert sich OpenAI selbst in problematisches Gewässer.
Hintergrund ist das hiesige Rechtsdienstleistungsgesetz, das in § 2 Abs. 1 festlegt, dass Rechtsdienstleistungen ohne entsprechende Erlaubnis unzulässig sind. Eine Rechtsdienstleistung liegt demnach vor, wenn eine rechtliche Prüfung im konkreten Einzelfall vorgenommen wird. Dabei ist aktuell noch strittig, ob Chatbots wie ChatGPT tatsächlich Rechtsdienstleistungen erbringen. Klar ist aber, je ausgefeilterer die Antworten werden, desto wahrscheinlicher lässt sich eine solche unzulässige Rechtsdienstleistung annehmen.
Um dem entgegenzuwirken, hat OpenAI nun die Nutzungsrichtlinien für ChatGPT geändert und darin die Nutzung des Systems für bestimmte Beratungsleistungen eingeschränkt. Demnach dürfen die Dienste nicht mehr für personalisierte rechtliche oder medizinische Beratung verwendet werden, sofern dafür eine entsprechende Befugnis oder Lizenz erforderlich sind.
In der Praxis bedeutet die Änderung, dass ChatGPT bei rechtlichen Fragen nun deutlicher auf seine Grenzen hinweist. Wird der Bot beispielsweise nach dem richtigen Vorgehen bei einer Kündigung gefragt, erläutert er mögliche allgemeine Schritte, betont jedoch, dass dies keine verbindliche Rechtsberatung darstellt. Der Hinweis auf die Notwendigkeit professioneller anwaltlicher Unterstützung ist inzwischen fester Bestandteil der Systemanweisungen.
Tests der Kollegen bei LTO zeigen jedoch, dass ChatGPT trotz der neuen Richtlinien auch weiterhin auf konkrete Anfragen reagiert, wenn diese entsprechend formuliert werden. So kann das System etwa Dokumentvorlagen erstellen, rechtliche Begriffe erklären oder auf allgemeine gesetzliche Rahmenbedingungen hinweisen. In einzelnen Fällen gibt es weiterhin Hinweise zu spezifischen Punkten, etwa zur Wirksamkeit einer Kündigung oder zur Bedeutung von Vertragsklauseln, allerdings stets begleitet von dem Hinweis, dass keine Rechtsberatung erfolgt.
Die Änderungen an ChatGPT dürften daher vor allem darauf abzielen, die rechtliche Verantwortung von OpenAI vorerst zu begrenzen, ohne den praktischen Nutzen von ChatGPT vollständig einzuschränken. Damit bleibt die Nutzung des Systems im juristischen Bereich aber weiterhin grenzwertig und wird die Anwaltskammern definitiv noch beschäftigen.
