KI-Bremse: Anthropic und Co. wollen Vorsicht, Trump nicht

Ein Ex-Mitarbeiter des KI-Giganten Anthropic warnt öffentlich davor, dass fortgeschrittene Künstliche Intelligenz die Menschheit ausrotten könnte. Während Technologie-Modelle sich durch „recursive self improvement“ immer schneller selbst weiterentwickeln und bereits aus gesicherten Testumgebungen ausgebrochen sind, schlagen führende Forscher und Nobelpreisträger wie Geoffrey Hinton Alarm. Sogar die CEOs führender Frontier-Labs rufen überraschend nach freiwilliger Verlangsamung und externer Kontrolle – obwohl KI derzeit der Hauptmotor der US-Wirtschaft ist und das Wettrennen mit China auf dem Spiel steht. Gast: USA-Korrespondentin Marie-Astrid Langer Host: Dominik Schottner Redaktion: Sarah Ziegler Hintergründe zu den Risiken und Nebenwirkungen von Künstlicher Intelligenz findet ihr [hier](https://www.nzz.ch/panorama/geraet-die-ki-ausser-kontrolle-die-wichtigsten-fragen-und-antworten-zur-debatte-um-die-sicherheit-der-kuenstlichen-intelligenz-ld.10023872) auf nzz.ch und natürlich in unserer App. [Und exklusiv für dich als Podcast-Fan haben wir ein 7 Tage NZZ-Digitalabo. Unverbindlich testen. Nach 7 Tagen endet das Abo automatisch.](https://probeabo.nzz.ch/podcast?utm_source=shownotes&utm_medium=podcast&utm_campaign=0726_NZZCH_Podcast)