Egal, ob wir Elon #Musk, Bill #Gates oder Mark #Zuckerberg fragen, alle antworten, dass wir eine blendende #KI-Zukunft vor uns haben werden, die viele Probleme auf der Welt lösen wird. Es mag sicherlich sein, dass KI viele neue und auch sinnvolle Anwendungsszenarien schafft, zu oft wird aber bei derlei Statements nach wie vor ausgeklammert, dass die KI auch eine ganze Menge an neuen Problemen mit sich bringt – und das vor allem auch in der #Cybersicherheit. Und das Hauptproblem dabei: #Generative #AI ist gutgläubig – wie soll sie es auch anders sein, wenn wir mit ihr kommunizieren und sie auf Zuruf unsere Probleme lösen soll? Hersteller können immer Schutzmechanismen verbauen, um dem direkten KI-#Missbrauch vorzubeugen, bei hinreichend plausibler Argumentation des Users aber ist es eine Leichtigkeit, diese zu umgehen und trotzdem zum gewünschten Ergebnis zu gelangen, auch wenn dieses letztlich einen Missbrauch der KI zur Folge hat und gegen ethische oder rechtliche Grundsätze verstoßen könnte. Wie entsprechendes KI #Jailbreaking funktioniert und das theoretisch jeder sowas machen kann, habe ich auf meinem Vortrag beim Regensburger #Cybersecurity Kongress erklärt: https://www.idowa.de/regionen/woerth-und-regensburg/regensburg/regensburger-cybersecurity-congress-ki-ist-gutglaeubig-3708331.html
#denniskenjikipker #cyberintelligence #cyberintelligenceinstitute #frankfurt #bremen