The World of Smart ID Solutions
Berlin I 22. – 24. Januar 2024
Fabian Woitschek, Studium der Naturwissenschaften (Computer Engineering, M. Sc.) an der Universität Paderborn, seit 2019 Tätigkeit als Algorithmenentwickler im AI Lab der ZF Friedrichshafen AG in Saarbrücken. Das Forschungsgebiet umfasst die Anwendung von Algorithmen des maschinellen Lernens für Funktionen des automatisierten oder autonomen Fahrens. Ein spezieller Fokus liegt auf der Security und Robustheit von neuronalen Netzen gegen gezielte Angriffe, sowie Verteidigungsstrategien zur Ermöglichung der sicheren Nutzung.
Der Einsatz der Schlüsseltechnologie KI in sicherheitskritischen Anwendungen, wie z.B. Biometrie und Automotive, bietet einerseits enorme Chancen bzw. ist Voraussetzung für geforderte Funktionalitäten. Andererseits sind die Mehrzahl der (perspektivisch) im Einsatz befindlichen KI-Systeme nicht formal zu verifizieren und dadurch ergeben sich neue Herausforderungen für deren Prüfung. So sind neben dem Lebenszyklus eines KI-Systems und dessen Einbettung in den Anwendungskontext neben dem Aspekt IT-Sicherheit auch weitere Vertrauenswürdigkeitsaspekte wie Zuverlässigkeit und Interpretierbarkeit zu betrachten. In dieser Session sollen zunächst der aktuelle Stand der Prüfbarkeit von KI-Systemen, die Herausforderungen und erste Lösungsansätze zu deren Bewältigung vorgestellt werden.
The World of Smart ID Solutions