← News-Übersicht | Spotmarkthalle
2026-11-05 · Quelle：Unite AI p4
Anthropics Forschung vom 22. Oktober, entstanden mit Theorem, deutet einen Workflow an, in dem KI-gefundene Bugs mit dem mathematischen Beweis ihrer Behebung ausgeliefert werden – nicht mit einer weiteren bestandenen Testrunde.
239 Fuzzing-Test-Einstiegspunkte – jeder heute gestützt von einem maschinell geprüften Formalbeweis. Das ist die Kernaussage der Forschung, die Anthropic am 22. Oktober 2026 veröffentlichte und die Arbeit beschreibt, in der Claude Beweise für Sicherheitseigenschaften von Code aus 123 Open-Source-Bibliotheken erzeugte.
Das Unterfangen war eine Zusammenarbeit mit Theorem, und sein Zuschnitt ist ungewöhnlich: Die Beweise operieren auf der Ebene des RISC-V-Assemblercodes, jener Schicht, auf der Memory-Safety-Bugs tatsächlich leben. Nach Anthropic-Angaben blieb Claude nicht beim Auffinden von Defekten stehen. Das Modell patchte die von ihm aufgedeckten Bugs und erzeugte anschließend Beweise, dass die reparierten Programme für jede Eingabe unter 64 MB und jede modellierte Linux-Bedingung stets normal terminieren – nie einen Memory-Safety-Fehler oder eine fehlgeschlagene Assertion auslösen.
Der Unterschied zwischen Test und Beweis ist der Ort der Bedeutung. Ein Fuzzing-Test bearbeitet ein Programm mit vielen Eingaben und meldet, was er zufällig findet; er kann nie sagen, was das Programm bei Eingaben tut, die er nie probierte. Ein maschinell geprüfter Beweis dagegen wird mechanisch gegen eine formale Spezifikation verifiziert und deckt den gesamten Eingaberaum ab, den die Spezifikation beschreibt – hier alle Eingaben unterhalb der 64-MB-Grenze und die modellierte Linux-Umgebung. Hält die Aussage wie formuliert stand, trägt jeder der 239 Einstiegspunkte eine Garantie, die stärker ist, als jede noch so große Menge randomisierten Testens sie liefern könnte.
Auf Assemblerebene zu arbeiten, hebt die Messlatte weiter. Das Nachdenken über Quellcode kann Defekte übersehen, die während der Kompilierung entstehen; Eigenschaften auf RISC-V-Assembler zu beweisen heißt, dass die Zusicherung an den Instruktionen haftet, die ein Prozessor tatsächlich ausführt.
Für die Maintainer der 123 beteiligten Bibliotheken beschreiben die veröffentlichten Ergebnisse eine geschlossene Schleife – Auffinden, Patch und verifizierter Beweis in einem einzigen Workflow. Ob diese Schleife im Takt und zu den Kosten gewöhnlicher Softwarepflege laufen kann, ist die Frage, die Anthropics Zahlen offenlässt – und diejenige, die entscheidet, ob maschinell geprüfte Sicherheitsbeweise zur Routine werden statt zur Ausnahme.
Tags: Anthropic · Claude · Theorem · Formal Verification · Memory Safety · RISC-V
萬安算交所 AIXX · AIXX · Verifizierte Computing-Börse · Zur Spotmarkthalle