Projekt 464 TP 3: Sicherheit von KI-Systemen: Grundlagen – Teilprojekt 3: Bereitstellung oder Verwendung von externen Daten oder trainierten Modellen

Es wird eine Studie zur Sicherheit von konnektionistischen Methoden der Künstlichen Intelligenz und zugehörigen Entwicklunsgprozessen erstellt. Der Rahmen wird durch vier abstrakte Fälle vorgegeben, die anhand von konkreten Szenarien hinsichtlich KI-spezifischer Gefährdungen und möglichen Mitigationsmaßnahmen untersucht werden. Es werden Gefährdungen betrachtet, die dadurch entstehen, dass KI-Modelle oder Trainingsdaten von externen Parteien für die Entwicklung eigener Modelle genutzt bzw. eigene Modelle oder Trainingsdaten für externe Parteien angeboten werden sollen. Die Studie fasst den für die Szenarien und Fragestellung aktuellen Stand der Forschung umfassend zusammen, wobei die Themen Transfer Learning, Training Data Management, Federated Learning, Differential Privacy und Encrypted Comuptation abgedeckt werden. Es werden Möglichkeiten für einen Werkzeugeinsatz und Anforderungen an diesen identifiziert sowie konkrete Handlungsempfehlungen für Entwickler und Beschaffer abgeleitet..