P 532 Erprobung und Weiterentwicklung von Anforderungen an KI-Systeme anhand praktischer Use-Cases im Bereich Mobilität (AlMobilityAudit)

In diesem Projekt sollen anhand von zwei praxisrelevanten Use-Cases im Mobilitätsbereich die Anforderungen an und die Methoden und Werkzeuge für Prüfungen von KI-Systemen und für die Mitigation von deren Risiken praxisnah erprobt und weiterentwickelt werden. Hierbei sollen einerseits vorhandene "klassische" Vorarbeiten (Standards, Prüfmethoden etc.) und andererseits neue, KI-spezifische Erkenntnisse aus der Forschung berücksichtigt werden. Die Erprobung und Weiterentwicklung soll iterativ sowohl in Simulationen als auch in der realen Welt erfolgen. Als Grundlage für diese Untersuchungen wird eine Toolchain aufgebaut, die von der Datengewinnung und Qualitätskontrolle über das Training mittels maschinellen Lernens, die Evaluation mittels aussagekräftiger Metriken für die Aspekte Funktionalität, Sicherheit, Safety, Robustheit und Vertrauenswürdigkeit, den Betrieb in Simulation und Realität bis hin zur Generierung hochqualitativer Angriffe und zur Anwendung angemessener Verteidigungsmaßnahmen reicht. Auf Basis der gewonnenen Erkenntnisse soll eine modulare technische Richtlinie erstellt werden, die anschließend eine wichtige Grundlage für Beratungen und Standardisierungsbemühungen bilden soll.