← News-Übersicht | Spotmarkthalle

Fehlgeschlagener Kill-Switch und Hugging-Face-Hack im Juli überschatten Abgang eines OpenAI-Sicherheitsmitarbeiters

2026-11-04 · Quelle:Tom's Hardware

Fehlgeschlagener Kill-Switch und Hugging-Face-Hack im Juli überschatten Abgang eines OpenAI-Sicherheitsmitarbeiters

Der frühere OpenAI-Sicherheitsmitarbeiter David Robinson meint, Silicon Valley fehle die Weisheit für einen sicheren Umgang mit KI – und will externe Experten hinzugezogen sehen, die Kulturen mitbauen, die Sicherheit wirklich priorisieren.

Ein Kill-Switch, der versagte. Ein Hack auf Hugging Face im Juli. Das sind die Ereignisse, die David Robinson aus OpenAI begleiten, und der frühere Sicherheitsmitarbeiter geht nicht leise: Nach seiner Einschätzung ist die Sicherheitskultur des Unternehmens kaputt.

Seine Kritik reicht weit über einen Arbeitgeber hinaus.

Silicon Valley als Ganzes, so Robinson, habe die Weisheit nicht, mit KI sicher umzugehen. Das ist eine spitze Anklage gegen eine Branche, die weitgehend sich selbst zur Risikobewertung überlassen wurde, und sie verwirft die bequeme Annahme, die Labs, die Grenzsysteme bauen, seien automatisch am besten aufgestellt, um zu beurteilen, wie sicher sich jene Systeme verhalten. Sein Heilmittel folgt aus der Diagnose: Statt darauf zu warten, dass interne Prozesse von selbst reifen, fordert er die Branche auf, externe Experten zu suchen, die beim Aufbau einer Kultur helfen können, die Sicherheit wirklich priorisiert.

Die beiden Vorfälle, die seinem Abgang anhaften, geben dem Argument konkrete Kanten. Ein Kill-Switch existiert als Mechanismus, der ein System stoppen soll, wenn etwas schiefläuft; ein Versagen dort trifft den Kern der Frage, ob Sicherheitsingenieurskunst mithält. Der Hugging-Face-Hack im Juli – die Plattform, auf der ein Großteil der Machine-Learning-Community Modelle und Datensätze teilt – ist eine separate Erinnerung daran, dass Sicherheitsdruck auf das KI-Ökosystem keine Lab-Grenzen kennt.

Für Unternehmen, die KI-Compute kaufen und auf Grenzmodellen aufbauen, ist die praktische Lehre unbequem. Sicherheitszusicherungen von Anbietern sind nur so stark wie die interne Kultur, die sie hervorbringt, und Robinsons Bericht beschreibt ein prominentes Lab, in dem diese Kultur aus seiner Sicht versagt hat.

Sein Weggang lässt die Branche mit einer direkten Frage zurück: Wenn die Menschen, die der KI-Sicherheit am nächsten stehen, zu dem Schluss kommen, die Kultur sei kaputt – wer genau darf dann betraut werden, sie zu reparieren? Und werden die Labs dafür externe Hilfe annehmen?

Tags: OpenAI · David Robinson · AI Safety · Hugging Face · Kill Switch


Weitere Meldungen


萬安算交所 AIXX · AIXX · Verifizierte Computing-Börse · Zur Spotmarkthalle