Das Gericht gab es nicht.
Das Aktenzeichen sah echt aus.

Der Fall

KG Berlin, Beschluss vom 20. November 2025, Az. 17 WF 144/25. In einem familienrechtlichen Verfahren zitierte der Schriftsatz zwei Entscheidungen: einen Beschluss des Bundesgerichtshofs vom 14.11.2007 – XII ZB 183/07, FamRZ 2008, 137, sowie einen Beschluss des OLG Brandenburg vom 28.07.2016 – 13 UF 103/16. Keine der beiden existiert.

Das Gericht hielt fest, dass mit KI erstellte Dokumente zu prüfen sind, insbesondere darauf, ob die Fundstellen Ergebnis einer „fantasierenden“ KI sind. Grundlage ist die allgemeine Berufspflicht aus § 43 BRAO. Die Anwältin wurde ermahnt.

Bemerkenswert ist nicht die Sanktion, sondern die Form des Fehlers. Ein Aktenzeichen wie „XII ZB 183/07“ ist korrekt aufgebaut. Eine Fundstelle „FamRZ 2008, 137“ ist plausibel. Das Falsche sah exakt aus wie das Richtige. Genau deshalb ist es durchgekommen.

Warum das jede Fachsoftware betrifft

Die Bundessteuerberaterkammer hat im Januar 2026 eine FAQ zum KI-Einsatz im steuerberatenden Berufsstand veröffentlicht. Der Kern ist derselbe: Die Verantwortung für das Ergebnis bleibt beim Berufsträger, unabhängig davon, welches Werkzeug es erzeugt hat.

Software kann diese Verantwortung nicht abnehmen. Sie kann sie aber erfüllbar machen oder unmöglich. Erfüllbar wird sie, wenn zu jedem ausgegebenen Wert die Norm, die Gültigkeit und das Prüfdatum mitgeliefert werden. Unmöglich wird sie, wenn ein Rechner eine Zahl ausspuckt und niemand rekonstruieren kann, woher sie kommt.

Der Unterschied ist nicht kosmetisch. Er entscheidet, ob eine Nachprüfung Minuten oder Stunden dauert – und ob sie überhaupt stattfindet.

Die Fehlerklasse ist älter als die KI

Erfundene Fundstellen sind der spektakuläre Fall. Der häufige Fall ist die veraltete Zahl: Ein Rechner arbeitet weiter mit dem Pfändungsfreibetrag von 2025, obwohl zum 1. Juli 2026 neue Beträge gelten. Kein Modell hat halluziniert. Niemand hat aktualisiert. Das Ergebnis ist für den Betroffenen dasselbe: eine Zahl, die aussieht wie eine richtige.

KI verstärkt das Problem, weil sie solche Zahlen flüssig und ohne Zaudern formuliert. Sie erzeugt es nicht. Wer die Debatte auf Halluzinationen verengt, übersieht die größere Hälfte.

Was wir daraus gebaut haben

PilotOS führt seine Rechtswerte nicht im Programmcode, sondern in einem offenen Register: 84 Werte, jeder mit Norm, Gültigkeitsdatum, Quelle und Prüfdatum. Das Register ist öffentlich einsehbar. Zusätzlich führt es eine Beobachtungsliste mit neun Einträgen zu Werten, von denen wir wissen, dass sie sich ändern werden – mit dem Stand des Gesetzgebungsverfahrens und dem nächsten Prüftermin.

Ein Prüfprogramm durchsucht wöchentlich alle Seiten und Rechner nach Zahlen, die im Register als überholt geführt werden, und meldet jeden Treffer mit Fundstelle. Jede Frage-und-Antwort-Seite trägt sichtbar ein Stand-Datum.

Das macht keinen Fehler unmöglich. Es macht ihn auffindbar – und zwar von außen, ohne uns fragen zu müssen. Das ist der Unterschied zwischen einem Versprechen und einer Prüfmöglichkeit.

„Das erfundene Aktenzeichen und die veraltete Zahl sind derselbe Fehler: Beide sehen aus wie das Richtige. Software kann die Verantwortung dafür nicht abnehmen – aber sie kann sie erfüllbar machen, indem sie zu jedem Wert die Norm, die Gültigkeit und das Prüfdatum mitliefert.“

PilotOS, Herstellerangabe · Stand 6. September 2026