Der digitale Kollege, den niemand eingestellt hat

Roland Berger ist Jurist und arbeitet bei einem Schweizer Bundesamt. Er muss ein Verwaltungsstrafverfahren bearbeiten. Vor ihm liegt ein umfangreiches Dossier: Einvernahmen, E-Mails, Berichte, Belege und mehrere Versionen einzelner Dokumente. Ein erheblicher Teil der Akten ist auf Französisch verfasst.

Roland möchte verstehen, was geschehen ist. Dafür muss er die französischen Einvernahmen übersetzen, die Ereignisse zeitlich ordnen und Widersprüche zwischen den Aussagen erkennen. Gleichzeitig benötigt er einen Überblick über die Erlasse, die das Verfahren und den betroffenen Sachbereich regeln. Am Ende möchte er die Chronologie der Ereignisse mit diesen Rechtsgrundlagen spiegeln: Welche rechtliche Einordnung kommt infrage? Welche Tatbestandsmerkmale sind relevant? Welche Strafnormen könnten anwendbar sein? Und welche Tatsachen fehlen noch?

Roland kennt und nutzt KI bereits in Form eines Chat-Interfaces. Die Aussicht ist verlockend: Französische Akten in Sekunden übersetzen, Hunderte Seiten lesen lassen, eine Chronologie erstellen und erste rechtliche Fragen herausarbeiten. Genau für solche vorbereitenden Arbeiten scheint KI gemacht zu sein.

«Was soll schon passieren?»

Roland nutzt ein KI-Tool, das ihm der Bund zur Verfügung stellt. Für allgemeine Fragen, Formulierungshilfen und die Recherche in öffentlich zugänglichen Quellen darf er es verwenden. Der Zugriff auf Erlasse ist also unproblematisch: Erlasse sind öffentlich und sie werden über Fedlex im Internet angeboten.

Für das Strafdossier gelten jedoch weitergehende Regeln. Das Merkblatt der Bundeskanzlei zur Verwendung generativer KI-Werkzeuge hält ausdrücklich fest, dass keine klassifizierten Informationen, keine durch Geheimhaltungspflichten geschützten Inhalte und keine Personendaten, insbesondere keine besonders schützenswerten Personendaten, in solche Werkzeuge eingegeben werden dürfen. Bei einem Strafdossier betrifft das nicht einzelne Randinformationen, sondern praktisch den gesamten Sachverhalt. Die Bundesverwaltung erlaubt und fördert den Einsatz von KI grundsätzlich; Informationssicherheit, Datenschutz und die Verantwortung des Menschen bleiben aber bestehen.

Als Jurist weiss Roland, dass er die Einvernahme nicht in dieses Chatfenster hochladen darf. Das Dokument enthält Personendaten und Informationen, die dem Amtsgeheimnis unterstehen. Das blosse Entfernen von Namen würde daran nicht zwingend etwas ändern. Aus Funktionen, Orten, Zeitangaben und geschilderten Ereignissen könnten weiterhin Rückschlüsse auf die betroffenen Personen gezogen werden. Zudem kann auch der anonymisierte Inhalt einer Einvernahme dem Amtsgeheimnis unterstehen: Geschützt ist nicht nur die Identität der Beteiligten, sondern auch der nicht öffentliche Sachverhalt selbst. Würde Roland das Dokument dagegen so weit bearbeiten, dass weder die beteiligten Personen bestimmbar wären noch nicht öffentliche Tatsachen offenbart würden, gingen voraussichtlich genau jene Zusammenhänge verloren, welche die KI für die Übersetzung, die Rekonstruktion des Tathergangs und die rechtliche Einordnung benötigt. Zudem wäre der Bearbeitungsaufwand enorm.

Roland öffnet trotzdem das Chatfenster. Der Upload-Button ist gut sichtbar. Schon die Zusammenstellung der Chronologie würde ihm Stunden sparen. Das Risiko erscheint Roland gering. Das Chatfenster wird vom Bund bereitgestellt, der Upload dauert nur wenige Sekunden und ein möglicher Schaden ist nicht unmittelbar sichtbar. Vielleicht, denkt Roland, wird die Datei ohnehin nur maschinell verarbeitet. Und er weiss: Der Bund befolgt die Regeln, die für die Überwachung von Mitarbeitenden am Arbeitsplatz gelten. Er geht davon aus, dass sein Verhalten nicht unmittelbar auffällt. Der Nutzen liegt nur einen Klick entfernt, während der mögliche Schaden abstrakt bleibt.

«Was soll schon passieren?»

Roland lädt die Einvernahme hoch. Die Chronologie erscheint in Sekunden und ist überzeugend aufgebaut. Weil zunächst nichts erkennbar schiefgeht, sieht Roland seine Risikoeinschätzung bestätigt. Er entscheidet sich, weitere Dokumente hochzuladen. Die KI übersetzt Dokumente, fasst Aussagen zusammen und weist auf mögliche Widersprüche hin. Das Ergebnis spart Roland Zeit und verleitet ihn gerade deshalb dazu, noch mehr Material hochzuladen.

Das ist Schatten-KI: Mitarbeitende verwenden ein Werkzeug für Informationen oder Aufgaben, für die es nicht vorgesehen oder freigegeben ist. Roland versucht, ein reales Arbeitsproblem zu lösen. Sein Arbeitgeber stellt ihm zwar ein KI-Werkzeug zur Verfügung, aber keines, mit dem er die geschützten Akten unter Wahrung von Amtsgeheimnis und Persönlichkeitsschutz bearbeiten darf. Roland hat damit Zugang zu KI, aber keine zugelassene Lösung für seine eigentliche Aufgabe. Diese Lücke lässt sich aus Sicht des Arbeitgebers nicht durch die Sperrung einzelner Werkzeuge oder Funktionen schliessen. Mitarbeitende können ein bereitgestelltes Werkzeug über den freigegebenen Zweck hinaus verwenden oder selbst nach einer anderen Lösung suchen – innerhalb oder ausserhalb der Organisation. Dazu kann auch der Rückgriff auf private Konten bei externen KI-Diensten gehören. Welche Daten ein solcher Dienst speichert, zu welchen Zwecken er sie verwendet und welche Einstellungen zur Verfügung stehen, hängt vom konkreten Angebot ab.

KI wird so zum digitalen Arbeitskollegen, den niemand eingestellt hat und von dem niemand etwas weiss. Zumindest offiziell.

Dasselbe Problem stellt sich in der Privatwirtschaft. Wo Anwaltskanzleien, Unternehmen oder andere Organisationen keine geeigneten Werkzeuge anbieten, können Berufsgeheimnisse, Personendaten oder vertrauliche Geschäftsinformationen in nicht dafür vorgesehene Dienste gelangen. Bei juristisch nicht geschulten Mitarbeitenden kann hinzukommen, dass ihnen die rechtliche Tragweite einer solchen Nutzung nicht vollständig bewusst ist.

Was Roland tatsächlich benötigt

Roland sucht keine Maschine, die ihm eine fertige Beurteilung liefert. Er benötigt Unterstützung bei mehreren unterscheidbaren Arbeitsschritten:

• relevante Dokumente finden und vollständig erfassen;

• französischsprachige Akten zuverlässig ins Deutsche übersetzen;

• Personen, Ereignisse und Zeitpunkte extrahieren;

• Widersprüche und Informationslücken sichtbar machen;

• aktuelle Erlasse und weitere Rechtsquellen finden;

• Sachverhalt und mögliche Tatbestandsmerkmale gegenüberstellen;

• jede Aussage mit Fundstelle belegen.

Wie verlässlich die KI Roland unterstützen kann, hängt entscheidend vom verfügbaren Kontext ab. Das Dossier kann unvollständig sein, und eine neue Einvernahme kann die bisherige Chronologie verändern. Ein Begriff kann in einer französischen Aussage eine andere Nuance besitzen als in der deutschen Übersetzung. Ein rechtlich relevantes Detail kann zudem in einem Dokument stehen, auf das die KI keinen Zugriff hat.

KI kann diese Arbeit erheblich erleichtern. Sie kann aber nur mit dem Material arbeiten, das sie erhält oder selbst finden darf. Und ihre Vorschläge bleiben überprüfungsbedürftig.

Vom Chatfenster zum digitalen Kollegen

Ein Chatfenster beantwortet einzelne Eingaben. Roland muss die relevanten Dokumente auswählen, den nötigen Kontext liefern und die Ergebnisse selbst von einem Arbeitsschritt zum nächsten übertragen. Bei einem grossen Dossier wird Roland zum menschlichen Verbindungskabel zwischen Aktenablage, Rechtsdatenbank und KI.

Ein KI-Agent kann dagegen ein Ziel über mehrere Schritte verfolgen. Er kann Dokumente suchen, französische Akten übersetzen, eine Chronologie erstellen und diese mit den massgebenden Erlassen abgleichen. Über standardisierte Verbindungen wie das Model Context Protocol, kurz MCP, kann die KI zudem Fachanwendungen und Werkzeuge benutzen. MCP lässt sich vereinfacht als Steckdose für KI-Systeme verstehen: Es legt fest, wie eine Anwendung der KI ausgewählte Daten und Funktionen zugänglich macht.

In einer integrierten Arbeitsumgebung erhält der Agent innerhalb von Rolands Berechtigungen Zugang zu Dossiers, Weisungen und Rechtsquellen. Ein Gedächtnis kann zudem frühere Korrekturen, Arbeitspräferenzen und Zwischenergebnisse für spätere Aufträge verfügbar machen. Ohne ein solches Gedächtnis beginnt jeder neue Kontext wieder bei null.

Roland muss dem Agenten damit nicht mehr jeden Arbeitsschritt und jedes Dokument einzeln vorgeben. Die Organisation legt fest, auf welche Quellen und Werkzeuge er zugreifen und welche Informationen er dauerhaft behalten darf.

Löst die KI damit den Rechtsfall?

Nein. Auch eine integrierte und agentische KI kann nicht beurteilen, ob das Dossier vollständig ist. Sie kann Aussagen gegenüberstellen, aber nicht ohne Weiteres deren Glaubwürdigkeit würdigen. Sie kann mögliche Strafnormen finden, aber nicht die professionelle Verantwortung für deren Auslegung und Anwendung übernehmen.

Roland muss kontrollieren, ob die französischen Aussagen korrekt übersetzt wurden und ob juristische Begriffe ihre Bedeutung behalten haben. Er muss prüfen, ob die Chronologie auf den richtigen Dokumenten beruht, ob entlastende Umstände berücksichtigt wurden und ob die genannten Erlasse aktuell sind. Vor allem muss er entscheiden, welche Tatsachen rechtlich relevant und welche Schlussfolgerungen vertretbar sind.

Die häufig gestellte Frage, ob KI Juristinnen und Juristen ersetzt, führt deshalb in die falsche Richtung. KI verändert einzelne Arbeitsschritte. Sie kann Informationen erschliessen, Übersetzungen vorbereiten, Dokumente vergleichen und mögliche Fragen sichtbar machen. Kontextverständnis, Wertung, Strategie, Kommunikation und Verantwortung bleiben menschliche Aufgaben.

Zu den Grenzen der Verifikation und zum Risiko, eigene Fähigkeiten durch unkritische Nutzung zu verlieren, siehe auch Legal AI und das Verification-Value Paradox und Denken ohne AI.

Wer liest mit?

Eine geeignete Arbeitsumgebung muss sowohl den funktionalen Anforderungen als auch den rechtlichen Vorgaben entsprechen. Dafür genügt der Blick auf die Benutzeroberfläche nicht. Hinter dem sichtbaren digitalen Kollegen stehen mindestens zwei technische Ebenen.

Der Harness ist die Anwendungssoftware. Er ähnelt einer herkömmlichen, regelbasierten Applikation und kann auf einem eigenen Server oder in einer Cloud betrieben werden. Der Harness nimmt Rolands Auftrag entgegen, prüft Berechtigungen, durchsucht freigegebene Quellen, bindet Dokumente und Werkzeuge ein und stellt daraus die Anfrage an das Sprachmodell zusammen.

Der eigentliche KI-Vorgang beginnt mit der LLM-Inferenz: Der Harness übermittelt dem Sprachmodell die Anfrage und den benötigten Kontext; das Modell berechnet daraus die Antwort. Harness und Inferenz müssen nicht am selben Ort betrieben werden. Der Harness kann beispielsweise auf einem privaten Server laufen und für die Inferenz ein Modell in einer externen Cloud aufrufen.

Für die Inferenz lassen sich zwei Modellgruppen unterscheiden. Bei Open-Weights-Modellen sind die trainierten Modellparameter verfügbar. Sie können deshalb grundsätzlich auf einer selbst gewählten Infrastruktur betrieben werden. Bei sogenannten Frontier-Modellen bleiben diese Parameter beim Hersteller. Der Harness kann das Modell nur über einen bereitgestellten Dienst (API) aufrufen; Anfrage und Kontext verlassen damit die Umgebung des Harness.

Harness, Dokumentenspeicher, MCP-Server, Suche und Inferenz können somit durch unterschiedliche Unternehmen und an unterschiedlichen Orten betrieben werden.

Damit wird aus Rolands Fall eine neue Frage. Wo werden geschützte Informationen verarbeitet und wo gespeichert? Wer kann diese Daten während Speicherung, Suche und Inferenz technisch wahrnehmen? Welche Verträge genügen, und wann werden geschützte Informationen einem externen Anbieter offenbart? Darum geht es im zweiten Teil: Der Arbeitsvertrag des digitalen Kollegen.