Ein eigenes Sprachmodell in den Kanzleiräumen, erst getestet, dann gekauft
Für Kanzleien, die Mandantendaten gar nicht außer Haus verarbeiten lassen wollen: Ein Sprachmodell läuft auf eigener Hardware in Ihren Räumen. Vor der Anschaffung sehen Sie im Test, was es bei Ihren Aufgaben leistet.
Wo es heute hakt
Die berufliche Verschwiegenheit führt in manchen Kanzleien zu einer klaren Linie: Mandantendaten verlassen das Haus nur dort, wo es unvermeidlich ist, etwa bei FinanzOnline oder der Sozialversicherung. Ein Sprachmodell in einem Rechenzentrum, auch in der EU, passt für sie nicht ins Bild.
Gleichzeitig ist offen, ob ein Modell auf eigener Hardware für Aufgaben wie das Zusammenfassen von Mandantenmails oder das Durchsuchen des Kanzleihandbuchs gut genug ist. Diese Frage sollte beantwortet sein, bevor Geld in Hardware fließt.
Was das in der Praxis heißt
Beispiele für mögliche Abläufe, keine Kundenfälle. Was bei Ihnen sinnvoll ist, klären wir im Erstgespräch.
-
Wissensdatenbank im eigenen Haus
Kanzleihandbuch, Checklisten und Musterschreiben werden von einem Modell auf dem Kanzleiserver durchsucht. Ob die Antwortqualität für Ihre Unterlagen reicht, zeigt der Machbarkeits-Check.
-
Mandantenmails zusammenfassen
Lange Mailverläufe zu einem Mandanten werden intern zusammengefasst, damit die Vertretung im Urlaub schnell im Bild ist, ohne dass der Text das Kanzleinetz verlässt.
-
Entwürfe für interne Notizen
Aus Stichpunkten einer Besprechung entsteht ein Aktenvermerk-Entwurf, den die Sachbearbeiterin überarbeitet und ablegt.
-
Grundlage für Automatisierungen
Abläufe, die Mandantenpost sortieren, können statt eines Modells in der Cloud das Modell im Haus nutzen. Ob das in Ihrer Umgebung trägt, ist eine der Fragen für den Machbarkeits-Check.
So läuft es ab
-
Erstgespräch
Wir klären, welche Aufgaben das Modell übernehmen soll und welche Anforderungen Ihre Kanzlei an Verschwiegenheit und Betrieb stellt.
-
Machbarkeits-Check
Auf gemieteter GPU-Rechenleistung (Grafikprozessoren, wie sie Sprachmodelle brauchen) in einem EU-Rechenzentrum testen wir in Frage kommende Modelle mit Aufgaben aus Ihrem Alltag, bevor Hardware gekauft wird. Der Test kann auf Wunsch mit Musterdaten erfolgen; welche Daten dafür verwendet werden, legen wir vorher gemeinsam fest.
-
Stückliste
Passt das Ergebnis, erhalten Sie eine Stückliste für die Hardware, die Sie selbst oder über Ihren IT-Betreuer beschaffen.
-
Installation
Wir richten das System in Ihren Räumen ein und binden es an die vereinbarten Aufgaben an.
-
Betrieb per Fernzugang
Wartung und Aktualisierung erfolgen über einen Fernzugang, den Ihre Kanzlei freigibt und jederzeit sperren kann.
Was bewusst nicht dazugehört
- Ein Modell auf eigener Hardware kann bei manchen Aufgaben schwächer sein als große Modelle im Rechenzentrum. Der Machbarkeits-Check zeigt das vorher.
- Hardware, Stellplatz, Strom und Kühlung liegen bei Ihrer Kanzlei.
- Auch ein Modell im Haus gibt keine steuerliche Beratung. Ergebnisse prüft immer eine Person aus der Kanzlei.
- Die berufsrechtliche Bewertung des Einsatzes bleibt bei Ihrer Kanzlei.
Ihre Daten
Im laufenden Betrieb verarbeitet das Modell Daten auf Hardware in Ihren Räumen. Der Machbarkeits-Check läuft auf gemieteter Rechenleistung in einem EU-Rechenzentrum und kann auf Wunsch mit Musterdaten erfolgen. Der Fernzugang für die Wartung besteht nur, wenn und solange Ihre Kanzlei ihn freigibt.
Häufige Fragen
Warum nicht gleich Hardware kaufen?
Weil erst der Test mit Ihren Aufgaben zeigt, welches Modell reicht und wie viel Rechenleistung es braucht. Sonst riskieren Sie, zu viel oder zu wenig zu kaufen.
Brauchen wir dafür einen eigenen Serverraum?
Das hängt von der Hardware ab, die der Machbarkeits-Check ergibt. Die Anforderungen an Platz, Strom und Kühlung stehen in der Stückliste.
Ist lokale KI automatisch berufsrechtlich unbedenklich?
Sie verringert die Zahl der Stellen, an denen Mandantendaten verarbeitet werden. Die berufsrechtliche Bewertung trifft trotzdem Ihre Kanzlei, im Zweifel mit der Kammer.
Wer kümmert sich um Updates?
Goma-IT, über den Fernzugang, den Ihre Kanzlei freigibt. Ohne Freigabe kein Zugriff.
Passt das zu Ihrer Kanzlei?
Im Erstgespräch sehen wir uns Ihre Abläufe an und sagen ehrlich, ob sich dieser Baustein für Sie lohnt.
Lieber gleich reden? Rufen Sie an:
+43 699 17119818