Projekt 464 Sicherheit von KI-Systemen: Grundlagen Teilprojekt 2: Symbolische und Hybride KI-Methoden

Auftragsgegenstand ist die Erstellung einer Studie zu Sicherheitseigenschaften von symbolischen und hybriden KI-Methoden. Die Studie erfasst den aktuellen Stand der Forschung der Methoden, mit einem Fokus auf sicherheitsrelevanten Aspekten, und stellt diesen strukturiert dar. Es werden typische Entwicklungsprozesse (Best-Practices) für die relevantesten symbolischen Methoden skizziert, mögliche Bedrohungen erfasst und Mitigationsmaßnahmen abgeleitet. Hinsichtlich der hybriden KI werden die derzeit relevantesten Architekturen und Anwendungsfälle erfasst. Hierbei wird insbesondere analysiert, welche Sicherheitseigenschaften von KI-Systemen durch den Einsatz von hybriden Methoden gestärkt werden können und ob diese Eigenschaften potentiell nachweisbar sind (z. B. im Rahmen einer Zertifizierung). Außerdem wird analysiert, welche Limitierungen die Methoden derzeit aufweisen und inwiefern durch die Kopplung von verscheidenen KI-Methoden potentiell neuartige Bedrohungen entstehen.