TL;DR. Am 11. November hat Google Gemini Decision 1 vorgestellt. Das Modell beantwortet bis zu 1.000 Ja-Nein-, Auswahl- und Bewertungsfragen in einem Durchgang und schreibt dabei kein Wort. Es liest Text, Bilder, Ton, Video und PDFs, antwortet laut Google in 150 bis 250 Millisekunden und berechnet nur die Eingabe. Einen Tag vorher hat Hugging Face dieselbe Modellklasse in seine Standardbibliothek aufgenommen, offen und für den eigenen Server. Entscheidungsmodelle werden damit zum normalen Werkzeug. Unser Test zeigt aber: Ein gutes Sprachmodell trifft solche Entscheidungen schon heute fast fehlerfrei. Der Vorteil der neuen Klasse liegt bei Tempo, Menge und Preis.
Was Google und Hugging Face vorgestellt haben
Im Oktober haben wir über Microsofts Decision-1 geschrieben. Ein Entscheidungsmodell bekommt einen Inhalt, eine Frage und feste Antworten. Statt Text zu schreiben, nennt es zu jeder Antwort eine Wahrscheinlichkeit. Vier Wochen später zieht Google nach, und zwar deutlich breiter.
Laut Dokumentation liest Gemini Decision 1 bis zu 262.144 Token. Microsofts Modell las 32.000, und nur Text. Es gibt drei Fragetypen: Ja oder Nein, eine Auswahl aus 2 bis 255 Optionen und eine Bewertung auf einer Skala. Zu jeder Antwort kommt eine Wahrscheinlichkeit zurück. Der gemeinsame Teil einer Anfrage, etwa ein PDF, wird nur einmal berechnet, egal wie viele Fragen daran hängen. Ausgabe-Token fallen keine an, die Eingabe kostet 0,10 Dollar je Million Token. Google nutzt das Modell nach eigenen Angaben schon selbst, etwa in der Suche als Sicherheitsschicht für Agenten-Werkzeuge.
Hugging Face hat am 10. November nachgelegt. Entscheidungsmodelle sind jetzt fester Teil von Transformers, der meistgenutzten Bibliothek für offene Modelle, und laufen auch über llama.cpp auf eigener Hardware. Dieselbe Art Entscheidung geht damit, ohne dass die Daten das Haus verlassen.
Unser Test: Was ein schreibendes Modell schon kann
Gemini Decision 1 haben wir nicht selbst getestet. Wir wollten wissen, wogegen es antritt. Dafür haben wir 24 typische Anfragen an einen Maschinenbauer geschrieben, von „Fräse steht still“ bis „Mahnung unberechtigt“, und je vier Fragen gestellt: Welche Abteilung? Steht eine Maschine still? Ist es eine Reklamation? Will der Kunde einen Rückruf? Beantwortet hat sie Claude Sonnet 5.5, ein schreibendes Sprachmodell.
90 von 91 eindeutigen Entscheidungen stimmten mit unserer Vorgabe überein. Die eine Abweichung ist strittig: Eine Terminverschiebung für bestellte Werkzeughalter ordnete das Modell dem Vertrieb zu statt den Ersatzteilen. Im Median brauchte jede Anfrage 1,4 Sekunden und 48 geschriebene Token für vier kurze Antworten.
Dann haben wir zusätzlich nach der Sicherheit gefragt, von 0 bis 100, und jede Anfrage fünfmal gestellt. Bei richtigen Antworten nannte Sonnet im Median 97. Bei den Fragen, die wir selbst als unklar markiert hatten, waren es 70, bei der strittigen Abweichung nie mehr als 60.
Schwelle bei 80: Was durchläuft und was ein Mensch sieht
Sicherheit 80 oder mehr: läuft automatisch weiterunter 80: geht an einen Menschen
Die Schwelle funktioniert also schon mit einem schreibenden Modell, zumindest in diesem kleinen Test. Sie kostet aber: Mit der Sicherheit schrieb Sonnet 115 statt 48 Token, jede Anfrage wurde gut ein Drittel teurer. Ein Entscheidungsmodell liefert die Wahrscheinlichkeit ohne Aufpreis mit. Google verspricht dazu, dass sie kalibriert ist, dass also „90 Prozent“ auch 9 von 10 Treffern heißt.
Was es kostet und wie schnell es ist
Mit den Token-Zahlen aus unserem Test haben wir nachgerechnet, was 10.000 solcher E-Mails zu Listenpreisen kosten.
10.000 E-Mails mit je 4 Fragen einordnen, in Dollar
Gegen ein großes Sprachmodell ist der Abstand groß, rund das 31-Fache. Gegen Googles kleines Flash-Lite ist es knapp das Sechsfache, das passt zu Googles Angabe „fast fünfmal günstiger“. Gegen Anthropics kleines Haiku 5.5 bleibt nur ein Faktor von 1,6. Wer heute schon ein kleines Modell einsetzt, spart mit dem Wechsel kaum Geld.
Deutlicher ist der Unterschied beim Tempo. Ein schreibendes Modell braucht für jede weitere Frage mehr Zeit, weil es jede Antwort ausschreibt. Decision 1 bleibt laut Google fast gleich schnell, ob eine Frage oder hundert.
Antwortzeit je Anfrage, in Sekunden
Der Haken
- Deutsch ist nicht dokumentiert. Google nennt keine Sprachen. Ob die Wahrscheinlichkeiten auf Deutsch so gut stimmen wie auf Englisch, muss jeder selbst prüfen.
- Daten und Standort. Decision 1 läuft bisher nur über Googles Entwickler-Schnittstelle, Google Cloud soll „bald“ folgen. Einen Datenstandort nennt die Dokumentation nicht. In der kostenlosen Stufe nutzt Google die Inhalte, um seine Produkte zu verbessern, in der bezahlten nicht.
- Googles Zahlen sind Googles Zahlen. Den Vergleich führt Google auf einer eigenen Testsammlung. Im Text stehen weder Trefferquoten noch Werte zur Kalibrierung.
- Keine Begründung, kein Zusammenhang. Das Modell sagt, was es wählt, nicht warum. Die Fragen einer Anfrage sehen einander nicht. Bei einer Auswahl verteilt es die Wahrscheinlichkeit immer auf die angebotenen Optionen, auch wenn keine passt. Eine Option „Sonstiges“ gehört deshalb dazu.
- Die offenen Modelle sind jung. Hugging Face nennt keine Messwerte und spricht selbst von einem Feld, das sich schnell bewegt.
Was das für den Mittelstand heißt
Neu ist vor allem, was sich jetzt prüfen lässt. Mit Bildern, PDFs und Ton passt die Technik nicht mehr nur in den Posteingang. Eine Lieferantenrechnung als PDF lässt sich gegen eine Liste von Pflichtangaben prüfen. Ein Foto aus dem Wareneingang lässt sich fragen: Etikett lesbar? Verpackung beschädigt? Die Aufnahme eines Servicegesprächs: Termin vereinbart? Rückruf nötig? Solche Fragen stellen viele Betriebe täglich hundertfach, und heute beantwortet sie ein Mensch oder ein teures Modell.
Bei kleinen Mengen ändert sich wenig. Wer ein paar hundert Vorgänge am Tag hat, fährt mit einem guten Sprachmodell und der Frage nach der Sicherheit weiter ordentlich. Wer sensible Daten hat, kann mit den offenen Modellen die Technik im eigenen Haus betreiben.
Was Sie jetzt tun sollten
- Entscheidungen zählen. Wo wird in Ihren Abläufen nur sortiert, geprüft oder abgehakt, und wie oft am Tag? Erst bei großen Mengen lohnt ein eigener Umbau.
- Fragen geschlossen stellen. Ja oder Nein, eine Auswahl, eine Skala. Immer mit einer Option „Sonstiges“ oder „unklar“.
- Mit eigenen Fällen messen, auf Deutsch. 100 bis 200 Fälle, die Ihre Leute zugeordnet haben. Zählen Sie die Treffer und prüfen Sie, ob hohe Sicherheit bei Ihnen wirklich richtig heißt. Unser Test mit 24 Fällen hat keine Stunde gedauert.
- Die Schwelle festlegen. Darüber läuft der Vorgang weiter, darunter schaut ein Mensch drauf. In unserem Test lag sie bei 80.
- Den Datenweg klären. Bezahlte Google-Stufe, später Google Cloud oder ein offenes Modell auf eigener Hardware. Das entscheidet Ihr Datenschutz, nicht der Preis.
In den meisten Abläufen wird viel öfter entschieden als geschrieben. Dafür gibt es jetzt bei Microsoft, bei Google und als offenes Modell ein eigenes Werkzeug. Wenn Sie wissen wollen, welche Entscheidungen in Ihrem Betrieb dafür taugen, rechnen wir es gern mit Ihnen an Ihren eigenen Fällen nach.