Lange Mailverläufe mit Mandanten zusammenfassen lassen, ohne dass sie das Kanzleinetz verlassen: Geht das?

Ein Mandant schreibt seit Wochen hin und her: eine Frage zur Vorauszahlung, ein Nachtrag zu den Belegen, eine Bitte um Bestätigung für die Bank, dazwischen eine Beschwerde. Wer die Vertretung übernimmt, muss sich durch zwanzig Mails lesen. Eine KI kann daraus eine halbe Seite machen. Für manche Kanzleien kommt das aber nur in Frage, wenn die Mails das eigene Haus nicht verlassen. Genau dafür gibt es lokale Sprachmodelle.

Wofür braucht eine Kanzlei solche Zusammenfassungen?

Typische Anlässe aus dem Kanzleialltag:

• Urlaubsvertretung: Die Kollegin, die übernimmt, sieht in einer Zusammenfassung, was offen ist und was zugesagt wurde.
• Vor einer Besprechung: Der Steuerberater bekommt vor dem Termin einen Überblick über die Korrespondenz der letzten Monate.
• Bei Übergaben: Wenn ein Mandat intern an eine andere Sachbearbeiterin wechselt.
• Für Aktenvermerke: Aus einem langen Verlauf entsteht ein Vermerk-Entwurf, der in die Akte kommt.

In allen Fällen liest am Ende ein Mensch die Zusammenfassung und entscheidet, was daraus folgt.

Was bedeutet „lokales Sprachmodell“?

Ein Sprachmodell ist das Programm hinter Diensten wie ChatGPT, das Texte versteht und schreibt. Üblicherweise läuft es in einem Rechenzentrum des Anbieters. Es gibt aber Modelle, die man auf eigener Hardware betreiben kann, also auf einem Rechner in der Kanzlei mit einer leistungsfähigen Grafikkarte (GPU, ein Chip, der die nötigen Berechnungen schnell erledigt). Die Mails gehen dann vom Kanzleiserver zum Rechner im Nebenraum und nicht ins Internet.

Reicht ein lokales Modell für diese Aufgabe?

Das ist die entscheidende Frage, und sie lässt sich nicht allgemein beantworten. Lokale Modelle sind meist kleiner als die großen Cloud-Modelle. Für das Zusammenfassen von Mails reicht das oft, weil die Aufgabe klar umrissen ist. Schwierig kann es werden bei sehr langen Verläufen, bei gemischten Sprachen oder wenn Feinheiten wie eine zwischen den Zeilen geäußerte Unzufriedenheit erkannt werden sollen.

Deshalb steht vor dem Kauf ein Test.

Wie läuft der Machbarkeits-Check ab?

1. Erstgespräch: Welche Aufgaben soll das Modell übernehmen, welche Anforderungen hat die Kanzlei an Verschwiegenheit und Betrieb?
2. Test auf gemieteter Rechenleistung: In einem EU-Rechenzentrum wird ein passendes Modell mit typischen Beispielen aus Ihrer Kanzlei getestet. Welche Beispiele dafür verwendet werden, entscheidet die Kanzlei.
3. Bewertung: Ihr Team beurteilt, ob die Zusammenfassungen brauchbar sind.
4. Stückliste: Passt das Ergebnis, gibt es eine Liste der Hardware, die für diesen Einsatz nötig ist.

Erst danach fällt die Entscheidung über die Anschaffung. Reicht die Qualität nicht, ist das ein ebenso wertvolles Ergebnis wie ein positiver Test.

Wie kommen die Mails zum Modell?

Über einen Ablauf, der die Mails eines Mandanten aus dem Postfach sammelt und an das lokale Modell übergibt. Wie das bei Ihrem Mailsystem umsetzbar ist, etwa Microsoft 365 oder ein eigener Mailserver, prüfen wir im Einzelfall. Wichtig ist: Wenn die Mails in einem Cloud-Postfach liegen, haben sie das Haus streng genommen schon verlassen. Das sollte man bei der Bewertung mitdenken.

Wer betreut das Gerät danach?

Installation und Betrieb übernimmt Goma-IT per Fernzugang, den die Kanzlei freigibt. Die Hardware steht in der Kanzlei und gehört ihr. Ob ein lokales Modell auch für andere Aufgaben genutzt werden kann, etwa für die Wissensdatenbank, lässt sich im selben Check mitprüfen. Mehr dazu auf der Seite zur lokalen KI für Steuerkanzleien.