- Ausgabedatum:
- Harmonisiert: Nein
- Gülitgkeit: Nein
- Deutsch verfügbar: Nein
- Englisch verfügbar: Ja
- Frei verfügbar: Nein
ISO IEC TR 5469
Functional safety of AI-systems
Gremium: IEC JTC 1 SC 42
Dokumententyp: Technical Report
Anwendungsbereich
Dieses Dokument beschreibt die Eigenschaften, die damit verbundenen Risikofaktoren, die verfügbaren Methoden und Prozesse in Bezug auf:
-
Einsatz von KI innerhalb einer sicherheitsrelevanten Funktion zur Realisierung der Funktionalität;
-
Verwendung von sicherheitsrelevanten Funktionen ohne KI, um die Sicherheit einer KI-gesteuerten Anlage zu gewährleisten;
-
den Einsatz von KI-Systemen zum Entwurf und zur Entwicklung sicherheitsrelevanter Funktionen.
Der DTR 5469 ist das erste Normendokument auf internationaler Ebene, das sich explizit mit der funktionalen Sicherheit von KI-Systemen befasst. Es ist daher besonders relevant, für alle Anwendungen, bei denen KI in sicherheitsbezogenen Systemen verwendet wird. Als TR (Technical Report) enthält das Dokument keine normativen Anforderungen, sondern gibt einen informativen Überblick über relevante Themengebiete, die es beim Einsatz von KI in solchen Systemen zu beachten gibt. Es wird eine Einteilung von KI-Systemen nach ihrem direkten Anwendungszweck (Usage Level) von “A1”, wo die KI-Technologie eine direkte Sicherheitsfunktion übernimmt und gleichzeitig automatisierte Entscheidungen treffen kann, bis hin zu “D”, wo die KI-Technologie zwar in einer sicherheitsrelevanten Anwendung eingesetzt wird, jedoch keinen Einfluss auf die eigentlichen Sicherheitsfunktionen hat, vorgenommen. Daneben wird auch eine weitere Einteilung anhand der Anwendbarkeit bestehender Normen (AI technology class) aufgespannt. Außerdem werden im TR 5469 verschiedene KI-spezifische Risikogebiete genannt sowie mögliche Methoden um daraus entstehende Risiken zu minimieren bzw. um das KI-System auf ausreichende Risikominimierung zu überprüfen.
Tags
Domäne:
Gefährdungen:
Einsatzgebiete:
Normative Verweisungen
ISO/IEC 22989, Information technology - Artificial intelligence - Artificial intelligence concepts and terminology
Weiterführende Informationen
Aktuell wird von einer Joint Working Group aus IEC und ISO auf Grundlage des DTR 5469 der TS 22440 entwickelt, der aufgrund der entsprechend anderen Dokumentenklasse (Technical Specification) auch direkte Anforderungen an KI-Systeme festlegen kann und wird.
