Hat sich die KI verselbständigt?

Diese Nachricht hat einige von Ihnen am Mittwoch wohl in einen Science-Fiction-Film versetzt: Eine künstliche Intelligenz (KI) des Unternehmens "Open AI" hat sich in einem Testlauf verselbstständigt, ist in das KI-Programm eines anderen Unternehmens eingedrungen und habe es auf diese Weise angegriffen. In der Radio-Kiepenkerl-Morgenshow erklärt der Cybersicherheitsexperte Prof. Dr. Christoph Saatjohann von der FH Münster den Vorfall. Die KI habe ihre Aufgabe zwar in einer erschreckend kreativen und erfolgreichen Art und Weise gelöst, habe sich aber nicht tatsächlich verselbstständigt. Es habe sich um einen Testlauf zum Finden von Sicherheitslücken gehandelt, bei dem die sonst üblichen Sicherheitsmaßnahmen bewusst deaktiviert gewesen seien.

Für den private Nutzung von KI-Diensten zeigt der Vorfall erneut, wie wichtig die bewusste und sorgsame Zulassung von Rechten an die KI ist. Das gilt insbesondere für die sogenannte "agentische KI", also die Versionen der künstlichen Intelligenz, die Zugriff auf den eigenen Computer, andere Software oder persönliche Benutzerkonten haben kann.

Alles zum Thema hören Sie in diesem Beitrag!

Radio hören lohnt sich!