Forschungsprojekt - DZSF - Sicherheitsargumentation mittels erklärbarer KI für das automatisierte Fahren im Bahnbetrieb

Ziel Ziel des Projekts ist es, möglichst konkrete Ansätze zu identifizieren und zu bewerten, wie Methoden der erklärbaren KI (XAI) den Nachweis der Sicherheit (Nachweis) beim fahrerlosen Fahren in offenen Schienenverkehrssystemen unterstützen können. Die Unterstützung kann beispielsweise darin bestehen, noch offene Schritte im Nachweis mittels XAI zu lösen (z. B. Eigenschaften der KI zu bestimmen, die bisher nicht bestimmbar waren) oder den Aufwand für prinzipiell bereits lösbare Schritte zu reduzieren (z. B. die für den Sicherheitsnachweis erforderliche Menge an Daten zu reduzieren). Die Projektergebnisse sollen dazu beitragen, ein praxistaugliches Verfahren für den künftigen Nachweis beim fahrerlosen Fahren in offenen Schienenverkehrssystemen zu entwickeln und zu normieren. Beschreibung Beim fahrerlosen Fahren in offenen Schienenverkehrssystemen ist Fahrwegüberwachung eine der herausforderndsten Funktionen. Künftige sichere Computer-Vision-Systeme sollen diese Aufgabe lösen. Allerdings existiert bisher kein allgemein anerkanntes normiertes Vorgehen für den Nachweis der automatischen Fahrwegüberwachung. Künftige Systeme werden nicht ohne einen Anteil des Maschinellen Lernens oder auch Künstlicher Intelligenz (KI) in der Softwaregestaltung auskommen. Die Softwarenorm EN 50657 kann allerdings nicht dafür angewendet werden. Da die KI-Systemkomponenten verifikationsbezogen nicht so transparent wie konventionelle Software sind, müssen Wege gefunden werden, auch die Funktionsweise dieser Komponenten soweit nachvollziehbar zu machen, dass deren Sicherheit und Zuverlässigkeit geprüft werden kann. Für diese Aufgaben bieten sich unter anderem Methoden aus dem Bereich der XAI an. Es fehlt derzeit aber an einer systematischen Untersuchung.