In Sachen #Künstliche #Intelligenz im Einsatz: Vielen Dank für die virtuelle Einladung nach #Brüssel – und die ganzen spannenden Fragen! Gestern war ich aus den #USA bei der Vertretung des Landes #Brandenburg bei der #Europäischen #Union in Brüssel zugeschaltet, um über das Thema Künstliche Intelligenz im #Polizeieinsatz zu sprechen. Die Bedarfe sind gestiegen, und #KI kann an der einen oder anderen Stelle die #Polizeiarbeit sicherlich unterstützen – braucht dafür aber klare #Leitplanken in verschiedenster Hinsicht, und die habe ich gestern erklärt:
- KI-Anwendungen im Polizeieinsatz sind aufgrund ihrer Sensibilität oftmals als #Hochrisiko-Systeme zu qualifizieren, da sie biometrische Daten erfassen oder kritische Funktionen wie #Profiling betreffen.
- Die #Compliance Anforderungen sind vielschichtig: Ja, es geht auch um den neuen Artificial Intelligence Act, aber eben auch um die #DSGVO, das #BDSG, #NIS2 und den #CRA – KI ist ein #Querschnittsthema.
- Man kann die geltenden Standards der #Informationssicherheit definitiv nicht 1:1 auch auf die KI Security übertragen, auch wenn #Risikomanagementprozesse für KI Überschneidungen zum #ISMS haben. Interessant ist hier vor allem die neue internationale Norm ISO 42001.
- Besonderheit bei KI: #Security und #Safety gehen sehr deutlich und fließend ineinander über, so zum Beispiel bei der Bestimmung einer validen #Datengrundlage zum KI-Training.
- Der Einsatz von KI im sicherheitsbehördlichen Umfeld stellt den Staat vor besondere datenschutzrechtliche Herausforderungen, denn der #Zweckbindungsgrundsatz gilt natürlich auch für unsere Polizeibehörden.
- Der KI-Einsatz ist umfassend zu protokollieren. Das meint: Informationen zum KI-#System, Informationen zum #Datensatz, Informationen zum #Trainingsprozess, Informationen zur Nutzung der KI, die #Dokumentation von Sicherheitsvorfällen und #Veränderungen an der KI.
- Last but not least: Im Regelfall sind auch Sicherheitsbehörden „#Anbieter“ von KI, selbst wenn sie diese nur einsetzen. Die datenschutzrechtliche Verantwortlichkeit stellt besondere Anforderungen an #Datensparsamkeit und #Datensicherheit. #Datenschutzfolgenabschätzung und KI-#Risikoabschätzung sind inhaltlich nicht deckungsgleich.
#cyberintelligence #cyberintelligenceinstitute #denniskenjikipker #frankfurt #bremen