Neues Institut für unabhängige KI-Sicherheitsaudits gegründet
1 Min. Lesezeit
AI Governance, Risiko & Compliance
-/5
Kurz zusammengefasst
- Miles Brundage, ehemaliger Leiter der Politikforschung bei OpenAI, hat ein neues Institut namens AVERI ins Leben gerufen, das sich auf unabhängige Audits führender KI-Modelle konzentriert.
- Diese Initiative zielt darauf ab, die Selbstbewertung der Branche zu hinterfragen und fordert externe Prüfungen, um die Sicherheit und Transparenz von KI-Technologien zu gewährleisten.
- In Anbetracht der zunehmenden Bedeutung von KI in verschiedenen Sektoren ist es entscheidend, dass diese Technologien nicht nur von den Entwicklern selbst, sondern auch von neutralen Dritten
Miles Brundage, ehemaliger Leiter der Politikforschung bei OpenAI, hat ein neues Institut namens AVERI ins Leben gerufen, das sich auf unabhängige Audits führender KI-Modelle konzentriert. Diese Initiative zielt darauf ab, die Selbstbewertung der Branche zu hinterfragen und fordert externe Prüfungen, um die Sicherheit und Transparenz von KI-Technologien zu gewährleisten. In Anbetracht der zunehmenden Bedeutung von KI in verschiedenen Sektoren ist es entscheidend, dass diese Technologien nicht nur von den Entwicklern selbst, sondern auch von neutralen Dritten bewertet werden. Relevant ist in diesem Zusammenhang die Frage, wie die Branche auf diese Forderung reagieren wird und welche Standards für zukünftige Audits etabliert werden können. Eine abschließende Bewertung ist zum jetzigen Zeitpunkt verfrüht, jedoch könnte dieser Schritt zu einer verantwortungsvolleren Entwicklung von KI beitragen.
Quelle:
-
Former OpenAI policy chief launches institute for independent AI safety audits — The Decoder (EN-US)