Ist #Palantir eine Gefahr für die digitalen #Bürgerrechte? Zum Thema habe ich in der Wissenschaftssendung „Galileo“ bei #ProSieben meine Einschätzung gegeben. Vorstellen muss man sich die Software #Gotham von Palantir wie eine Raster-Suchmaschine, die sehr große Datenmengen aus unterschiedlichen Quellen mittels #KI und maschinellem Lernen automatisiert miteinander verknüpft und visualisiert. Ziel ist die Erkennung von ermittlungstaktischen Zusammenhängen und Mustern, die ansonsten verloren gingen. Man erhofft sich neben dem Erkennen solcher bislang unentdeckter Zusammenhänge vor allem schnellere Ermittlungen und eine bessere Entscheidungsfindung, teilweise aber auch sog. „Predictive Policing“, also die Vorhersage kriminellen Verhaltens in bestimmten Situationen oder bei bestimmten Personengruppen.
Problematisch kann das unter verschiedenen Aspekten sein: Generell stellt sich bei allen automatisiert agierenden Systemen die Frage, wie transparent und nachvollziehbar deren Entscheidungen sind und welche Daten für deren Training zugrunde gelegt werden – beides Aspekte, die nicht selten dem Geschäftsgeheimnis des Herstellers unterliegen. Doch nicht nur das: Von einer vorwiegend technischen Debatte sind wir mittlerweile längst bei einer gesamtgesellschaftlichen Auseinandersetzung zum Umgang mit Überwachungstools angelangt. Denn geht es nicht mehr nur um eine bloße Software oder um die Rasteranalyse von Daten, die Cybersicherheit oder den Datenschutz, sondern vor allem um die Frage, ob ein Hersteller, der die Daten von Millionen von Bürger:innen auswertet, als vertrauenswürdig angesehen werden kann – gerade in Zeiten, in denen die digitale Souveränität von Technologie von mehr als entscheidender Bedeutung ist. Und damit ist natürlich auch verbunden die Frage, warum keine digitalsouveränen Alternativen verwendet werden können und sollen, wenn es um zentrale staatliche Beschaffungsentscheidungen geht.
Im Ergebnis dürften Tools wie von Palantir erst der Anfang einer Entwicklung sein, in der Polizei-Software immer datengetriebener und intelligenter wird. Künftige Systeme werden noch stärker auf KI setzen, um Muster zu erkennen, Vorhersagen zu treffen und Entscheidungsprozesse zu unterstützen. Gesichtserkennung, Sprachanalyse und Verhaltensprognosen könnten tiefer integriert werden, indem zugleich auch immer mehr persönliche Daten über uns alle mit verhältnismäßig geringen Aufwänden abrufbar sind. Damit stehen wir vor einem Zeitalter zunehmend automatisierter Polizeiarbeit, in der menschliche Entscheidungen immer stärker von Algorithmen beeinflusst oder sogar ersetzt werden. Palantir ist damit weniger ein Endpunkt, sondern eher ein Türöffner für eine ganze Generation von Polizei-Software, deren gesellschaftliche Folgen heute noch kaum absehbar sind, die aber schon jetzt verwendet wird.
#denniskenjikipker #cyberresilience #cyberintelligence #cyberintelligenceinstitute #frankfurt #bremen