Erfundene Urteile, echte Strafen: KI-Risiko vor Gericht
Vier Anwälte wurden mit Geldstrafen und Auftrittsverboten belegt, weil beide Seiten eines US-Zivilprozesses KI-generierte Schriftsätze mit frei erfundenen Gerichtsurteilen einreichten. Für Gründer zeigt der Fall, wo ungeprüfter KI-Einsatz konkret gefährlich wird.
Ein Zivilprozess im US-Bundesstaat Mississippi ist geplatzt, weil beide Parteien ihren Anwälten zum Verhängnis wurden. Nicht durch schlechte Argumente, sondern durch erfundene Fakten. Beide Seiten nutzten KI-Sprachmodelle, um ihre juristischen Schriftsätze zu erstellen. Beide zitierten Gerichtsurteile, die es nie gegeben hat. Richterin Sharion Aycock brach die Verhandlung ab und bestrafte alle vier beteiligten Anwälte.
Was genau passiert ist
Im Mittelpunkt stand ein Vertragsstreit zwischen dem Anwalt Tom Withers und der Stadt Aberdeen im US-Bundesstaat Mississippi. Es ging um unbezahlte Honorare. Withers ließ sich dabei anwaltlich vertreten. Beide Seiten legten dem Gericht Schriftsätze vor, die mithilfe generativer KI erstellt worden waren. Die eingesetzten Sprachmodelle generierten dabei sogenannte Präzedenzfälle, also frühere Urteile, auf die sich eine Argumentation stützt. Diese Urteile existierten nicht. Niemand prüfte die Ausgaben der Software vor der Einreichung.
Richterin Aycock entzog allen vier Anwälten das Mandat für diesen Fall. Sie verhängte Geldstrafen zwischen 1.000 und 3.500 US-Dollar. Einige der Beteiligten erhielten ein bis zu zweijähriges Auftrittsverbot für den betroffenen Gerichtsbezirk. Der Kläger Withers selbst blieb sanktionsfrei, da er nicht für das Versagen seiner Rechtsbeistände haftet.
Das Problem: KI halluziniert
Sprachmodelle neigen dazu, Inhalte zu erfinden, die plausibel klingen, aber faktisch falsch sind. In der Fachsprache heißt das Halluzination. Das ist kein Ausnahmefall, sondern eine bekannte Eigenschaft dieser Systeme. Sie ergänzen und formulieren, auch wenn ihnen verlässliche Grundlagen fehlen.
Im Rechtsbereich ist das besonders heikel. Gerichte verlassen sich auf Präzedenzfälle. Wer falsche Urteile zitiert, täuscht das Gericht, ob absichtlich oder nicht. Das Kammergericht Berlin hat in einem Beschluss festgehalten: Anwälte sind verpflichtet, KI-generierte Schriftsätze auf erfundene Rechtsprechungszitate zu prüfen. Dieser Grundsatz gilt nicht nur in Deutschland.
Was das für Gründer bedeutet
Viele junge Unternehmen nutzen KI-Tools, um Zeit zu sparen: für Texte, E-Mails, Angebote und manchmal auch für juristische Dokumente. Das ist verständlich, wenn Budget und Personal knapp sind. Der Fall aus Mississippi zeigt, wo die Grenze liegt.
Wer KI-generierte Dokumente ungeprüft verwendet, trägt die Verantwortung für deren Inhalt. Das gilt für Anwälte wie für Unternehmer. Wer Verträge, Abmahnungen oder rechtliche Schreiben mit KI-Hilfe erstellt und nicht gegenliest, riskiert Fehler mit realen Konsequenzen: ungültige Klauseln, fehlerhafte Fristen oder falsch zitierte Gesetze.
Der Bundesrat hat die Bundesregierung bereits aufgefordert, sich mit dem Schutz der Justiz vor KI-Auswirkungen zu befassen. Eine gesetzliche Regelung für den Einsatz von KI in juristischen Verfahren gibt es in Deutschland noch nicht. Gerichte handhaben das bislang einzelfallbezogen.
Konkrete Konsequenzen für den Alltag
KI-Tools können helfen, Entwürfe zu erstellen, Strukturen vorzuschlagen oder Formulierungen zu variieren. Das spart Zeit. Aber jeder Inhalt, der nach außen geht oder rechtliche Relevanz hat, muss von einem Menschen geprüft werden, der dafür fachlich qualifiziert ist.
Für rechtlich relevante Dokumente gilt das besonders. Zitierte Gesetze, Paragraphen oder Urteile müssen auf ihre Existenz und ihren genauen Inhalt geprüft werden. Das dauert, ist aber nicht optional.
Wer keinen Anwalt regelmäßig einbinden kann, sollte KI-generierte Vertragstexte zumindest stichprobenartig durch eine Kanzlei prüfen lassen. Viele Kanzleien bieten dafür Pauschalpreise für Startups an. Das ist günstiger als ein Rechtsstreit auf Basis fehlerhafter Dokumente.
Fazit
Der Prozess in Mississippi steht nicht allein. KI spart Zeit, ersetzt aber keine Prüfpflicht. Wer das ignoriert, zahlt im Zweifel mehr als die 3.500 US-Dollar Geldstrafe, die die Anwälte in Mississippi bekommen haben. KI ist ein Werkzeug, kein Sachverständiger. Die Verantwortung für den Output bleibt beim Menschen, der seinen Namen daruntersetzt.
