VIKING: Vertrauenswürdige Künstliche Intelligenz für polizeiliche Anwendungen

Abgeschlossenes FÖPS-Teilvorhaben an der HWR Berlin: Rechtliche Anforderungen an vertrauenswürdige künstliche Intelligenz für polizeiliche Anwendungen

Künstliche Intelligenz (KI) und deren vielfältige Nutzungsmöglichkeiten dringen immer weiter in das gesellschaftliche Leben vor. KI-Anwendungen werfen dabei zahlreiche, zumeist komplexe Rechtsfragen auf. Der Einsatz von KI-basierten-Anwendungen im Rahmen polizeilicher Anwendungen und der Strafverfolgung stellt dabei eine besondere Herausforderung dar. Diesem Untersuchungsgegenstand widmete sich das Forschungsprojekt VIKING.

Bestehende Regelungsstrukturen wie das Strafverfahrens- und Datenschutzrecht bieten zwar Anknüpfungspunkte. Zusätzlich sind aber auch neue Regelungsansätze erforderlich und teils bereits im Entstehen. Maßgeblich ist in diesem Bereich die Verordnung (EU) 2024/1689 des Europäischen Parlaments und des Rates vom 13. Juni 2024 zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz (EU-KI-VO). Weitere konkretisierende Gesetze und Richtlinien werden dieser Regelung folgen. Die rechtswissenschaftliche Forschung konzentriert sich bisher auf einzelne polizeiliche KI-Anwendungsfelder, insbesondere bei der Gesichts-, Sprecher- und Objekterkennung sowie der Textauswertung. Im VIKING-Projekt wurden die KI-spezifischen Fragestellungen im Hinblick auf die rechtliche Bewertung polizeilicher KI-Anwendungen und deren Grenzen mit dem bereits etablierten und vertiefter erforschten Rechtsrahmen des Datenschutz-, Polizei- und Strafverfahrensrechts zusammengeführt. Dies gilt etwa für die Transparenzanforderungen, die 2016 auch im EU-Datenschutzrecht verankert wurden. VIKING leistete damit einen Beitrag zur interdisziplinären Konkretisierung und zur (technischen) Implementierung hoher rechtlicher Anforderungen für die polizeiliche Datenauswertung mit KI-Anwendungen.

Das vom Forschungsinstitut für Öffentliche und Private Sicherheit (FÖPS Berlin) der Hochschule für Wirtschaft und Recht Berlin betreute VIKING-Teilvorhaben Rechtliche Anforderungen an vertrauenswürdige künstliche Intelligenz für polizeiliche Anwendungen war ein zentrales Element des im VIKING-Projekt verfolgten integrierten, interdisziplinären Ansatzes. Das Teilvorhaben erarbeitete die rechtlichen Elemente eines Anforderungskatalogs, der konkret operationalisierbare ethische und rechtliche Voraussetzungen und Grenzen für die Entwicklung und den Einsatz von KI-Verfahren in polizeilichen Anwendungen darlegt. Das rechtswissenschaftliche Teilvorhaben war daher mit den ethischen und technischen Teilvorhaben eng verknüpft. Die rechtlich-ethischen Anforderungen floßen in die Technikgestaltung ein, um die Einhaltung dieser Anforderungen möglichst unabhängig von den späteren Anwenderinnen und Anwendern zu machen.

Dem VIKING-Konsortium gehörten neben der HWR Berlin die IDEMIA Identity & Security Germany AG (Konsortialführer), die Universität Konstanz (UKON), die Universität Tübingen (IZEW), die Universität der Bundeswehr München (FI CODE), das Deutsche Institut für Normung (DIN), das Fraunhofer Institut für digitale Medientechnologie (IDMT), die Zentrale Stelle für Informationstechnik im Sicherheitsbereich (ZITiS), das Landeskriminalamt Nordrhein-Westfalen (LKA NRW) und das Polizeipräsidium München (PPM) an. Assoziierte Partnerschaften bestanden mit dem Bundeskriminalamt (BKA), dem Landeskriminalamt Baden-Württemberg (LKA BW) und dem Bundesamt für Sicherheit in der Informationstechnik (BSI).

Das Gesamtvorhaben wurde vom BMBF im Rahmen des Themenfelds „Künstliche Intelligenz in der zivilen Sicherheitsforschung“ gefördert. Das rechtliche Teilprojekt wurde von Prof. Dr. Hartmut Aden und Prof.in Dr. Sabrina Schönrock geleitet und von Steven Kleemann, Milan Tahraoui und Anna Louban bearbeitet.

Projektlaufzeit: Januar 2022 – März 2025

Keywords: Vertrauenswürdige Künstliche Intelligenz, Nachvollziehbarkeit, Angriffsfestigkeit, Debiasing, Transparenz, (Grund-)Rechtskonformität, ethische Bewertung, Standardisierung