Ein US-Gericht hat gestern (Ortszeit) zwei Anwälte sowie deren Anwaltskanzlei zu einer Geldstrafe von 5.000 US-Dollar (rund 4.600 Euro) verurteilt, nachdem sie gefälschte Rechtsgutachten eingebracht hatten, die mit dem KI-Chatbot ChatGPT generiert worden waren.
Einer der beiden Anwälte, Steven Schwartz, hatte zugegeben, dass ChatGPT sechs Fälle erfunden hatte, auf die er sich in einem juristischen Verfahren gegen die kolumbianische Fluggesellschaft Avianca bezogen hatte – allerdings hätte er das nicht mit Absicht getan.
In einer Erklärung von Schwartz, seinem Kollegen und der Kanzlei hieß es: „Wir haben einen gutgläubigen Fehler begangen, als wir nicht glaubten, dass ein Stück Technologie Fälle aus dem Nichts erfinden könnte.“ Eine weitere Stellungnahme zu den Vorwürfen lehnten alle Beteiligten ab.
Aufgefallen war das, nachdem Anwälte der Fluggesellschaft darauf aufmerksam gemacht hatten, dass sie einige der im Verfahren genannten Fälle nicht finden konnten. Das Verfahren gegen Avianca wurde daraufhin auf Antrag der Fluggesellschaft eingestellt, mit der Begründung, die Klage wurde zu spät eingereicht.
Gericht: Verwendung von KI in Ordnung, aber …
Das Gericht hielt fest, dass es „an sich nichts Unzulässiges“ sei, wenn Anwälte künstliche Intelligenz (KI) „zur Unterstützung“ einsetzten, aber die anwaltlichen Ethikregeln würden „den Anwälten eine Kontrollfunktion auferlegen, um die Genauigkeit ihrer Unterlagen sicherzustellen“.
Das Gericht sagte außerdem, dass die Anwälte „weiterhin an den gefälschten Gutachten festhielten“, nachdem man gemeinsam mit der Fluggesellschaft deren Existenz infrage gestellt hatte. Die beiden Anwälte müssten zudem die Richter, allesamt echte Personen, die als Autoren der gefälschten Fälle identifiziert wurden, über den Fall informieren.