Im Kreuzfeuer der KI-Agenten. Johannes Ries im FONDSwärts Podcast: "Uns droht ein Kontrollverlust im großen Stil"
Die GAIster, die wir riefen: Werden KI und KI-Agenten zu einem unkontrollierbaren Risiko? "Es kann durchaus gefährlich werden", sagt Johannes Ries von Apus Capital im neuen FONDSwärts-Podcast. Diese "virtuellen Mitarbeiter" bewegen sich recht frei in den Unternehmen und haben einen immer größeren Einfluss. Produktivität und Kontrollverlust gehen Hand in Hand. Darüber hinaus können "vergiftete Informationen"aus dem Internet oder von anderen Agenten zum Problem werden. Ries ist sich sicher, dass sich Cybersecurity gerade vom Schutz vor Datendiebstahl hin zum Schutz vor Systemkontrolle verschiebt. "Jeder KI-Assistent muss eine eigene Identität haben - ohne Generalschlüssel. In der Vergangenheit haben wir den Agenten zu viel vertraut." Der Mensch wird die neuen Verhaltensregeln programmieren müssen. "Für die Firmen, die auch im Identitäts- und Autorisierungsbereich als Cybersecurity-Unternehmen tätig sind, ergibt sich ein neues Wachstumspotenzial."
Kommentare
Neuer Kommentar