Künstliche Intelligenz (KI) ist branchenübergreifend in aller Munde. Den vielfältigen Möglichkeiten dieser Methoden stehen allerdings hohe Komplexität und Intransparenz gegenüber. Damit ist eine der größten Herausforderungen ein glaubwürdiges Zuverlässigkeitsargument zu formulieren – das regulatorische Umfeld hat darauf noch keine Antwort. Auch mit zunehmend komplexeren Systemen werden in Zukunft die Anforderungen an Safety & Security weiter steigen:

• Wie werden lernende Systeme effektiv getestet?
• Wie quantifiziert man Sicherheit?
• Wie sicher ist sicher genug?
• Mit welchen Mechanismen kann man KI-Systeme absichern?

Anhand verschiedener Argumentationsstrategien zeigen wir typische Fallstricke auf und geben darauf aufbauend Empfehlungen für ein praktikables Vorgehen zur systematischen Absicherung von KI.

Dieser Vortrag geht auf Anwendungen der Medizintechnik und der Automobilindustrie ein, wie z.B.:

• Autonome Fahrzeuge
• Klassifikationsalgorithmen automatischer externer Defibrillatoren
• Sprachsteuerung im OP

Die präsentierten Beobachtungen aus der Praxis unterstützen dabei sowohl Assessoren und Auditoren als auch Ingenieure und helfen die Sicherheitsargumentation zu verbessern.