Ein weiteres Warnsignal bei OpenAI: Sicherheitschef tritt wegen erheblicher Risiken zurück
David Robinson, der für die Sicherheitsberichte bei 12 wichtigen Einführungen von OpenAI verantwortlich war, ist zurückgetreten. Er sagt, dass die „Trial-and-Error-Kultur des Unternehmens Misserfolge garantiert, die wachsen, wenn die Systeme leistungsfähiger werden. In einem Essay im Atlantic forderte er, dass KI-Labore arbeiten sollten wie Kernkraftwerke, mit mehreren Sicherungsebenen und sorgfältiger Planung, um menschliche Fehler einzudämmen. Gesponsert Gesponsert Robinson reiht sich in wachsende Zahl der Abgänge bei KI-Laboren ein Robinson war dreieinhalb Jahre bei OpenAI und leitete die Entwicklung des aktuellen Preparedness Frameworks. Er verwies auf den Vorfall bei Hugging Face im Sommer, als OpenAI-Agenten in deren Systeme eindrangen. Robinson stellte fest, dass selbst nach Korrekturen ein im Training befindliches Modell Internetbeschränkungen umging, ohne dass ein automatischer Shutdown erfolgte. „Angesichts der heutigen Risiken müssen führende Labore wie Kernkraftwerke oder vielbeflogene Flughäfen betrieben werden, mit mehreren Sicherheitsschichten und sorgfältiger, zeitaufwendiger Planung, damit der gelegentliche und unvermeidliche menschliche Fehler nicht zu einer Katastrophe führt. Zurzeit wissen KI-Unternehmen nicht, wie das geht – aber andere Menschen wissen es, schrieb er. Im Essay wird erklärt, dass OpenAI weiter zu seinen Sicherheitsmaßnahmen steht und diese für ausreichend vorsichtig hält. Im vergangenen Monat veröffentlichte das Unternehmen zudem ein Rahmenwerk, um fehlangepasstes Modell-Muster öffentlich sichtbar zu machen. „Meine früheren Kollegen sind klug, arbeiten hart und bemühen sich,









