Entwicklung und Implementierung eines KI-Systems mit kontinuierlichem Lernansatz
FORAIMobility
Die interdisziplinäre Forschungsinitiative fokussiert sich auf Cybersecurity, Resilienz und digitales Vertrauen.
Innovation & Sicherheit
Projektübersicht
Da künstliche Intelligenz zu einem festen Bestandteil der modernen Mobilität wird – insbesondere in autonomen und hochautomatisierten Systemen –, steigt der Bedarf an Sicherheit, Transparenz und forensischer Rückverfolgbarkeit rapide an. FORAIMobility ist ein Forschungsprojekt von ZF, das im Rahmen des strategischen Programms „Forensik intelligenter Systeme“ der Agentur für Innovation in der Cybersicherheit GmbH (Cyberagentur) durchgeführt wird.
Das Projekt fokussiert sich auf die Entwicklung forensischer Methoden für KI-Systeme im Mobilitätssektor, wobei Ansätze identifiziert werden, die auf andere Branchen übertragbar sind. Mobilität stellt zwar den primären Anwendungsfall dar, doch sollen die daraus resultierenden Werkzeuge die Prüfung und Untersuchung von KI-Systemen in verschiedenen Bereichen unterstützen.
FORAIMobility wurde ins Leben gerufen, um auf die zunehmende Nutzung von KI in Fahrzeugen und Mobilitätsinfrastrukturen zu reagieren. Diese Entwicklung bringt neue Sicherheitsherausforderungen und potenzielle Angriffsflächen mit sich. Das Projekt zielt darauf ab, die Betriebssicherheit, die Angriffssicherheit und die Resilienz zu verbessern. Dazu sollen Ermittlern und Systembetreibern Möglichkeiten bereitgestellt werden, KI-Entscheidungsprozesse zu verstehen, zu diagnostizieren und zu verifizieren – sowohl im Normalbetrieb als auch im Falle von Anomalien oder Angriffen.
Durch die Bündelung des Fachwissens der ZF Friedrichshafen AG, der Universität Konstanz und dem Forschungsnetzwerk der Cyberagentur unterstützt FORAIMobility die Entwicklung sicherer, transparenter und nachvollziehbarer KI-Systeme für die Mobilität der nächsten Generation.
Ziele
Entwicklung eines KI-Systems
Identifizierung potenzieller Angriffsvektoren
Identifizierung potenzieller Angriffsvektoren durch das Verständnis wie diese Systeme kompromittiert werden können.
Simulation von Angriffen
Simulation von Angriffen zur Erstellung realistischer Szenarien, um die forensische Bereitschaft des implementierten KI-Systems zu testen.
Sicherstellung der forensischen Bereitschaft
Sicherstellung der forensischen Bereitschaft durch Prozesse und Werkzeuge, die im Falle eines Angriffs auf neuronale Netze die Erhebung rechtlich zulässiger Beweise ermöglichen.
Auswirkungen
Sicherheit der Produkte
Hersteller erhalten Zugang zu fortschrittlichen forensischen Werkzeugen, die in ihre Produkte integriert werden können, und deren Sicherheitsmaßnahmen verbessern.
Betriebssicherheit von KI-Systemen
Betreiber können die entwickelten Methoden nutzen, um die fortlaufende Sicherheit und Integrität ihrer autonomen Systeme zu gewährleisten.
Effektivere Strafverfolgung
Behörden und Ermittlungsbehörden werden mit Werkzeugen und Wissen ausgestattet, um Vorfälle im Zusammenhang mit KI-Systemen zu untersuchen. Dies führt zu einer effektiveren Strafverfolgung und Einhaltung gesetzlicher Vorschriften.
Nutzen für die Gesellschaft
Die Gesellschaft insgesamt profitiert von einer erhöhten Transparenz, Sicherheit und Zuverlässigkeit autonomer Fahrzeuge, was langfristig zu einer stärkeren Akzeptanz und Verbreitung dieser Technologie beitragen kann.
