KI-Agenten allein zuhaus - Worüber KI-Bots sprechen, wenn kein Mensch zuhört
Wenn KI-Agenten sich vernetzen, entsteht eine ganz eigene Kommunikationsform und Dynamik - und das kann gefährlich werden. Das zeigt unter anderem der jüngste Ausbruch von OpenAI-Agenten. Sicherheitsforschende versuchen, die Kontrolle zu behalten. Fedi und Carina diskutieren, ab wann eigentlich Grund zur Sorge besteht. Das erwartet Euch in dieser Folge: (00:00) KI-Agenten: die Geister, die wir riefen (06:37) Warum Agenten beim Hugging-Face-Angriff ausgebrochen sind (11:53) Nein, einfach Nein (18:40) Wie Agenten ihre eigene Sprache entwickeln (25:30) Das Neuralese-Problem (27:25) Fazit: Kommt die KI-Apokalypse? Unser Gesprächspartner in dieser Folge: Dr. Simon Ostermann, Kommissarischer Leiter des Forschungsbereichs Sprachtechnologie und Multilingualität am Deutschen Forschungszentrum für Künstliche Intelligenz, Saarbrücken Dr. Jonas Geiping, Leiter Forschungsgruppe Safety- & Efficiency- aligned learning am ELLIS Institute Tübingen sowie am Max-Planck-Institut für Intelligente Systeme, Tübingen Mehr zum Thema in der Deutschlandfunk App: KI Agenten - Tech-Expertin Meredith Whittaker warnt vor Sicherheitsrisiken Moltbook - Wenn KI-Bots philosophieren IT-Security - Bringt eure KI-Accounts in Sicherheit Weiterführende Links: Heise-Artikel: Eigene KI-Sprache – Menschen verstehen sie kaum noch <a title="Link auf: Illustrierte Erklärung des Ausbruchs der KI-Agenten von OpenAI." target="_blank" href="https://www.frogandtoad.ai/" class="click-tracking-paragraph" data-tracking="{"name":"Link in Beitr