KI beweist Signals Verschlüsselung bis in den Maschinencode. Was das für Ihre Software heißt

Ein Mann mit dunklem Bart in schwarzem Strick hält eine einzelne warm leuchtende Kugel in beiden Händen und betrachtet sie ruhig. Hinter ihm schweben Hunderte gleicher Lichtkugeln in Reihen bis weit in den Raum. Daneben eine Karte: 6,5 Millionen Zeilen Beweis, von KI-Agenten geschrieben, von Lean geprüft. AlphaProof Code von Google DeepMind, 10. November 2026. Fünf Menschen in vier Wochen, 26.000 Zeilen Regeln, die Menschen lesen müssen, zwei von zwei wieder eingebauten alten Fehlern erkannt. Bewiesen für Signals Bibliothek libsignal, bis in den Maschinencode

TL;DR. Am 10. November hat Google DeepMind AlphaProof Code vorgestellt. KI-Agenten haben damit bewiesen, dass libsignal, die Bibliothek hinter der Verschlüsselung von Signal, ihre wichtigsten Sicherheitszusagen hält. Geprüft wurde nicht ein Entwurf, sondern der fertig übersetzte Maschinencode. Fünf Menschen arbeiteten vier Wochen daran, die 6,5 Millionen Zeilen Beweis schrieben Agenten. Vor drei Wochen ging es bei solchen Beweisen noch darum, dass Programme nicht abstürzen. Jetzt beweist KI, dass Software hält, was sie verspricht. Der Mensch legt fest, was gelten muss, die Maschine beweist es. Der Beweis hat Grenzen, und ein Produkt ist es noch nicht.

Was DeepMind gezeigt hat

Tests finden Fehler. Sie zeigen aber nicht, dass keine mehr da sind. Ein formaler Beweis zeigt mathematisch, dass ein Programm in jedem möglichen Ablauf eine festgelegte Regel einhält, und ein Prüfprogramm kontrolliert jeden Schritt. Bei DeepMind ist das Lean, eine Sprache für maschinell geprüfte Mathematik.

Den Ablauf beschreibt der technische Bericht. Menschen schreiben zusammen mit Agenten auf Basis von Gemini 4 Carbon und Claude Opus 5.5 die Regeln, die Spezifikation, und prüfen sie. Dann übernehmen Teams aus 40 bis 80 Beweis-Agenten, die 24 bis 72 Stunden am Stück auf einem Rechner laufen. Ein Beweis zählt nur, wenn der Prüfkern von Lean ihn annimmt. Kein Mensch hat eine Zeile Beweis geschrieben, heißt es im Bericht.

So arbeitet AlphaProof Code

Menschen entscheidenAgenten arbeitenMaschine prüft

Die Beweis-Agenten dürfen die Regeln nicht ändern. Sie können eine Änderung nur bei einem Kritiker-Agenten beantragen, der ihre Beweisversuche nie zu sehen bekommt.

Bewiesen ist mehr als ein Protokoll aus dem Lehrbuch. Die Agenten arbeiteten am unveränderten libsignal in Version 0.105.4, übersetzt mit dem normalen Rust-Compiler für AArch64. Auf dieser Prozessorfamilie laufen fast alle Android-Telefone und alle iPhones. Das Programm umfasst rund 140.000 Maschinenbefehle. Gezeigt ist unter anderem: Wer kurz ein Gerät knackt, kann alte Nachrichten nicht nachträglich lesen und verliert später den Zugriff auf neue. Dem Compiler muss man dabei nicht vertrauen, weil der Beweis am fertigen Programm ansetzt. Damit fallen zwei Einschränkungen weg, die wir im Oktober bei Anthropics Beweisen notiert hatten: Dort ging es nur um Abstürze, und bewiesen war eine Testmaschine.

Zur Probe baute das Team zwei alte, längst behobene Fehler wieder ein. In beiden Fällen bewies das System, dass die fehlerhafte Fassung unsicher ist. Signals Technikchef schreibt in DeepMinds Beitrag, die Prüfung gebe ihnen noch mehr Vertrauen in die Datenschutz-Zusagen ihres Codes.

Vier Wochen statt vieler Personenjahre

Wie groß der Sprung ist, zeigt der Bericht selbst. Der Betriebssystemkern seL4, das bekannteste Beispiel eines bewiesenen Systems, kostete 20 Personenjahre. Der bewiesene C-Compiler CompCert kostete sechs. Bei Signal arbeiteten fünf Menschen vier Wochen an den Beweisen, also 20 Personenwochen.

Menschliche Arbeit für einen formalen Beweis, in Personenjahren

seL4 und CompCert laut DeepMind-Bericht, für Signal eigene Rechnung aus fünf Personen und vier Wochen. Kein direkter Vergleich: seL4 und CompCert wurden für den Beweis geschrieben, Signals Code nicht. Der Aufbau von AlphaProof Code und die Rechenzeit der Agenten sind nicht eingerechnet. Balken im selben Maßstab.

Was die Rechenzeit gekostet hat, steht weder im Bericht noch in der Ankündigung. Die Größenordnung der menschlichen Arbeit ist trotzdem neu. Formale Beweise waren bisher für die meisten Programme zu teuer. Die Ergebnisse deuten laut DeepMind darauf hin, dass KI sie für echte Systeme praktikabel machen kann.

Was der Mensch noch lesen muss

Ein Beweis gilt nur für die Regeln, die man ihm vorgibt. Ist eine Regel falsch oder zu schwach, beweist die Maschine das Falsche. Die wichtigste Zahl im Bericht ist deshalb die kleine: Auf rund 26.000 Zeilen Spezifikation und Prozessormodell muss man vertrauen. Alles andere rechnet Lean nach.

6,5 Millionen Zeilen Beweis, jeder Punkt steht für 26.000 Zeilen

249 Punkte: rechnet Lean nach1 Punkt: Menschen müssen ihn lesen und ihm vertrauen

Laut Bericht stehen rund 6,5 Millionen Zeilen Beweis auf rund 26.000 Zeilen Regeln und Prozessormodell. Das ist ein Verhältnis von 250 zu 1.

Wir haben das veröffentlichte Repository nachgezählt: 11.323 Lean-Dateien mit zusammen 443 MB Text. Wer die Beweise selbst nachrechnen will, braucht laut Anleitung mehrere Stunden und bis zu 34 GB Arbeitsspeicher. Lesen muss das kein Mensch. Zusätzlich markieren die Agenten rund ein Prozent der Codebasis für einen zweiten Blick durch Menschen.

Den Regeln traut auch DeepMind nicht blind. Auch Menschen finden in so viel Text nicht jeden Fehler, räumt der Bericht ein. Deshalb lesen Prüfer-Agenten die Regeln zusätzlich bewusst skeptisch.

Der Haken

  • Perfekte Kryptografie ist angenommen. Ein Teil des Beweises setzt voraus, dass Verfahren wie X25519 oder AES nicht zu brechen sind. Die Schranken im rechnerischen Teil gelten ausdrücklich nicht gegen einen Angreifer mit Quantenrechner.
  • Seitenkanäle bleiben draußen. Angriffe über Nebenwege wie Laufzeit oder Stromverbrauch deckt der Beweis nicht ab, ebenso wenig andere Geheimnisse im Speicher.
  • Nur ein Ausschnitt. Bewiesen sind Gespräche zu zweit, Gruppen kommen später. Die Schlüsselerzeugung ist nicht verifiziert. Geprüft wurde ein schlankes Kommandozeilenprogramm um das unveränderte libsignal, nicht die Signal-Apps selbst.
  • Ein Forschungsprojekt. Laut Repository ist es kein offizielles Google-Produkt. Kosten nennt DeepMind nicht. Unabhängige Prüfungen durch Kryptografen außerhalb von Google stehen noch aus. Die Technik zu skalieren, brauche weitere Forschung, schreibt DeepMind selbst.

Was das für den Mittelstand heißt

Kaum ein Mittelständler schreibt eigene Verschlüsselung. Fast jeder verlässt sich aber darauf: im VPN, in der Fernwartung von Maschinen, im Zahlungsverkehr. Kurzfristig ändert sich deshalb vor allem die Frage an Lieferanten: Welche Bausteine sind bewiesen und welche nur getestet?

Mittelfristig wird der Beweis für kleine, kritische Teile der eigenen Software bezahlbar. Gemeint sind etwa die Sicherheitsfunktion einer Steuerung, die Rechenlogik in einem Medizingerät oder die Zugriffsprüfung zwischen Mandanten. Die Werkzeuge sind offen: Lean ist frei, DeepMind hat Regeln und Beweise unter einer freien Lizenz veröffentlicht, und Claude Opus 5.5, eines der Modelle aus dem Projekt, ist allgemein verfügbar. Knapp wird etwas anderes: das genaue Wissen, was immer gelten muss. Das steckt in Ihrem Fachbereich, nicht beim Softwarelieferanten.

Was Sie jetzt tun sollten

  1. Die kritischen Stellen benennen. Machen Sie eine kurze Liste der Software, bei der ein Fehler Menschen, Geld oder Haftung trifft. Meist sind es wenige Bausteine: Zugang, Fernwartung, Sicherheitsfunktionen, Zahlungen.
  2. Aufschreiben, was immer gelten muss. Je Baustein fünf bis zehn Sätze wie „Ein Kunde sieht nie die Daten eines anderen Kunden“. Das ist der Rohstoff jeder Spezifikation und macht schon heute Ihre Tests besser.
  3. Lieferanten fragen. Welche Bibliotheken für Verschlüsselung und Zugang setzen sie ein, und welche davon sind formal geprüft? Lassen Sie sich die Antwort schriftlich geben.
  4. Klein ausprobieren. Nehmen Sie ein überschaubares Stück Code von einigen hundert Zeilen. Lassen Sie einen Agenten die Regeln in Lean formulieren und einen Fachmann sie lesen. Dabei zeigt sich schnell, ob Ihre Anforderungen eindeutig sind.
  5. Den Beweis richtig einordnen. Er gilt für das, was in der Spezifikation steht, und nur dafür. Updates, Konfiguration, Penetrationstests und Schulung bleiben nötig.

Bisher hieß Sicherheit bei Software vor allem: gut getestet. AlphaProof Code zeigt, dass für kritische Teile bald mehr möglich ist. Wenn Sie herausfinden wollen, welche Stellen in Ihrer Software dafür infrage kommen, schauen wir sie gern mit Ihnen an.

Ein Gespräch, das sich auch ohne Mandat lohnt.

20 Minuten, unverbindlich. Antwort meist am selben Werktag, persönlich.