ISO/IEC 27090: Leitfaden zur Absicherung von KI-Systemen gegen Datenvergiftung
1 Min. Lesezeit KI‑Security, Privacy & Modell‑/Prompt‑Risiken -/5
Kurz zusammengefasst
  • Die neue Norm ISO/IEC 27090 bietet Unternehmen einen strukturierten Ansatz zur Sicherung ihrer KI-Systeme.
  • Insbesondere wird das Phänomen des Data Poisoning, bei dem schädliche Daten in Trainingsprozesse eingeschleust werden, thematisiert.
  • Dies stellt eine ernsthafte Bedrohung für die Integrität und Leistungsfähigkeit von KI-Modellen dar.
-/5 (0)
Die neue Norm ISO/IEC 27090 bietet Unternehmen einen strukturierten Ansatz zur Sicherung ihrer KI-Systeme. Insbesondere wird das Phänomen des Data Poisoning, bei dem schädliche Daten in Trainingsprozesse eingeschleust werden, thematisiert. Dies stellt eine ernsthafte Bedrohung für die Integrität und Leistungsfähigkeit von KI-Modellen dar. Darüber hinaus behandelt der Leitfaden auch den Modelldiebstahl, der in der heutigen digitalen Landschaft zunehmend an Bedeutung gewinnt. Relevant ist in diesem Zusammenhang die Notwendigkeit, präventive Maßnahmen zu ergreifen, um die Risiken zu minimieren. Eine abschließende Bewertung der Norm und ihrer praktischen Auswirkungen auf Unternehmen ist zum jetzigen Zeitpunkt jedoch verfrüht, da die Implementierung und Akzeptanz in der Branche noch aussteht. Die Entwicklung sollte daher im Kontext der aktuellen Herausforderungen und Chancen im Bereich der Künstlichen Intelligenz betrachtet werden.
Quelle: