Vorbereitung der Erprobung und Weiterentwicklung von Anforderungen an KI-Systeme anhand praktischer Use-Cases im Bereich Mobilität (AIMobilityAuditPrep)

In diesem Projekt sollen die praxisnahe Erprobung und Weiterentwicklung von a) Anforderungen an, b) Methoden und Werkzeugen für die Prüfung von KI-Systemen und c) Maßnahmen zur Mitigation von Risiken des Einsatzes von KI-Systemen vorbereitet werden. Die praktische Ausgestaltung soll dann auf Basis der Ergebnisse dieses Projektes in einem Folgeprojekt anhand von zwei praxisrelevanten Use-Cases im Mobilitätsbereich erfolgen. Als Grundlage für die Ausschreibung des Folgeprojektes sollen daher insbesondere relevante Use-Cases aus dem Mobilitätsbereich verglichen werden im Hinblick auf deren Eignung zur Erlangung generalisierter Erkenntnisse. Hierbei sollen einerseits vorhandene "klassische" Vorarbeiten (Standards, Prüfmethoden etc.) und andererseits neue, KI-spezifische Erkenntnisse aus der Forschung berücksichtigt werden. Bei der Vorbereitung der Erprobung und Weiterentwicklung soll ein iterativer Prozess in Simulationen als auch in der realen Welt als zentraler Baustein eingeplant werden. Als Grundlage für die Untersuchungen soll eine Toolchain geplant und deren praktische Gestaltung examplarisch vorbereitet werden. Hierbei sind von der Datengewinnung und Qualitätskontrolle über das Training mittels maschinellen Lernens, der Evaluation mittels aussagekräftiger Metriken für die Aspekte Funktionalität, Sicherheit, Safety, Robustheit und Interpretierbarkeit, dem Betrieb in Simulation und Realität bis hin zur Generierung hochqualitativer Angriffe und zur Anwendung angemessener Verteidigungsmaßnahmen alle relevanten Aspekte zu berücksichtigen. Nicht jedoch im Aufgabengebiet des BSI liegen die Aspekte Datenschutz und Ethik und daher sind diese nicht Gegenstand dieses Projekts. Die im Folgeprojekt zu erlangenden Erkenntnisse sollen hinreichend für die Erstellung einer modularen technischen Richtlinie sein, die anschließend eine wichtige Grundlage für Beratungen und Standardisierungsbemühungen bilden soll.