OpenAI schließt Sicherheits-Team zur Risikobewertung von KI
1 Min. Lesezeit KI‑Security, Privacy & Modell‑/Prompt‑Risiken -/5
Kurz zusammengefasst
  • OpenAI hat sein 'Preparedness'-Team aufgelöst, das dafür zuständig war, potenzielle katastrophale Risiken der eigenen KI-Modelle zu bewerten.
  • Die Aufgaben wurden auf bestehende Gruppen verteilt, was zu einem Abgang mehrerer Sicherheitsexperten führte.
  • Intern wächst die Besorgnis, da einige Mitarbeiter von einem 'brodelnden Gefühl von Verantwortung und Angst' berichten, dass OpenAI nicht ausreichend im Bereich Sicherheit agiert.
-/5 (0)
OpenAI hat sein 'Preparedness'-Team aufgelöst, das dafür zuständig war, potenzielle katastrophale Risiken der eigenen KI-Modelle zu bewerten. Die Aufgaben wurden auf bestehende Gruppen verteilt, was zu einem Abgang mehrerer Sicherheitsexperten führte. Intern wächst die Besorgnis, da einige Mitarbeiter von einem 'brodelnden Gefühl von Verantwortung und Angst' berichten, dass OpenAI nicht ausreichend im Bereich Sicherheit agiert. Diese Entwicklung wirft Fragen zur künftigen Sicherheitsstrategie des Unternehmens auf und sollte im Kontext der aktuellen Diskussionen über KI-Regulierung betrachtet werden. Eine abschließende Bewertung der Situation ist zum jetzigen Zeitpunkt verfrüht, jedoch ist es entscheidend, wie OpenAI auf die Bedenken reagiert und welche Maßnahmen zur Risikominderung ergriffen werden.