Technologie

Zwei Kontexte, zwei Architekturen, eine Regel.

Die Verarbeitung findet dort statt, wo das Gespräch stattfindet. Im Amt: im Gebäude. Zuhause: auf dem Gerät.

Blockschema

Wo die Erkennung läuft.

Keiner der beiden Wege verlässt den Perimeter, in dem das Gespräch stattfindet.

Schalterstation

Organisationen: Gemeinden, Gesundheitswesen, Banken, Postämter, Apotheken.

Perimeter: das Gebäude

  1. Mikrofone der StationTonaufnahme am Schalter, auf beiden Seiten.
  2. Thin Client8-Zoll-Display und 5-Zoll-Bedienmodul.
  3. Lokales Netz des GebäudesKeine Route nach außen.
  4. On-Premise-Server, NVIDIA-CUDA-PlattformErkennung, Entitätsextraktion, Übersetzung und Zusammenfassung.

Die gesamte Inferenz findet im Gebäude statt. Kein Ton, kein Bild und kein Text verlässt es. Keine Internetverbindung erforderlich.

Gerät für zuhause

Persönlicher Gebrauch, tragbar.

Perimeter: das Gerät

  1. Integrierte MikrofoneAufnahme im häuslichen Umfeld.
  2. Edge-KI, Qualcomm-DragonWing-PlattformDie Modelle laufen an Bord, auf dem neuronalen Prozessor: Erkennung und Sprechertrennung.
  3. Bildschirm und RGB-LEDsText mit einer Farbe pro Stimme, Meldung von Umgebungsgeräuschen.

Der Ton verlässt das Gerät nie. Integrierter Akku, kein Konto, kein Netz erforderlich.

Die Software

Ein schlanker Client, ein Server, der die Arbeit macht.

Der Client nimmt auf und zeigt an. Er entscheidet nicht, speichert nicht und spricht mit nichts außerhalb.

  1. Zwei Clients, zwei Umsetzungen

    Am Schalter läuft der Client auf ESP32, in den beiden Displays. Zuhause ist es eine Linux-Anwendung auf dem Gerät selbst. In beiden Fällen tut er dasselbe: Ton und Video aufnehmen — das Video braucht die Gebärdenspracherkennung —, Text anzeigen, eine Berührung entgegennehmen.

  2. Wo ein Server steht, sind die Modelle größer

    Die Schalterstation stützt sich auf den On-Premise-Server, und das erlaubt größere Erkennungsmodelle: weniger Wortfehler und Satzzeichen an der richtigen Stelle. Erst die Satzzeichen machen einen Text lesbar statt entzifferbar.

  3. Zuhause alles an Bord

    Auf dem Gerät für zuhause sind die Modelle schlanker und schneller: die Edge-KI-Hardware übernimmt Erkennung, Sprechertrennung und bei Bedarf die Erkennung von Umgebungsgeräuschen. Weniger Parameter, geringere Latenz, kein Server, den man erreichen muss.

  4. Nicht nur ein Modell

    Neben der Erkennung arbeiten die Sprechertrennung, die Extraktion von Entitäten — Adressen, Telefonnummern, Beträge, Daten — und die Übersetzung. Daraus entsteht die Zusammenfassung am Ende.

  5. In Prüfung: Auracast

    Für Museen, Konferenzräume und Hörsäle prüfen wir Auracast (Bluetooth LE Audio): eine einzige Übertragung, die jede Person mit kompatiblem Hörgerät oder Kopfhörer empfangen kann — ohne Kopplung und ohne jemanden fragen zu müssen.

Auracast™ ist eine technologische Prüfung, keine verfügbare Funktion: es gehört nicht zu dem, was wir heute installieren. Auracast™ ist eine Marke von Bluetooth SIG, Inc.

Anpassung

Modelle, auf den Kontext abgestimmt.

Die Architektur erlaubt das Training der Modelle auf spezifische Terminologiedomänen und passt die Erkennung an das wiederkehrende Vokabular des Einsatzkontextes an.

In der Praxis: die Wörter, die an diesem Ort täglich vorkommen — Formulare, Abläufe, interne Bezeichnungen — werden besser erkannt, als ein generisches Modell es könnte.

Wir veröffentlichen weder das Modell der Rechenkarte noch die maximale Anzahl der von einem Server bedienten Stationen: solche Zahlen gehören mit einem Benchmark belegt, nicht geschätzt.

Praktische Folgen

Was eine lokale Architektur bringt.

  1. Keine Abhängigkeit von Konnektivität

    Der Dienst hört nicht auf, wenn die Leitung ausfällt, und braucht vor Ort keine garantierte Bandbreite.

  2. Keine Weitergabe an Dritte

    Es gibt keinen externen Anbieter, der Ton oder Text erhält — also auch keinen Vertrag, dem man vertrauen müsste.

  3. Vorhersehbare Latenz

    Der Weg von Ton zu Text bleibt im lokalen Netz, ohne Hin und Zurück zu einem entfernten Dienst.

  4. Erweiterbares Ökosystem

    Stationen und Geräte kommen dazu, wenn sie gebraucht werden, ohne die Installation neu aufzubauen.