Tech-Bros warnen vor Killer-KI: Aber wo liegt das echte Risiko?

Künstliche Intelligenz entwickelt sich immer schneller. Überlegungen zu ihrer Kontrolle halten da kaum Schritt, weswegen die Branche jetzt eindringlich warnt und vorschlägt, auf die Bremse zu treten. Was können wir als Userinnen und User machen? Droht uns die KI-Apokalypse? Führende Tech-Köpfe wie Anthropic-Chef Dario Amodei oder OpenAI-Gründer Sam Altman machen auf die Gefahr einer unkontrollierbaren Künstlichen Intelligenz (KI) aufmerksam. Doch wie realistisch ist das Szenario, dass sich Systeme durch Recursive Self-Improvement (RSI) unendlich selbst optimieren und verselbstständigen? SRF-Digitalredaktor Guido Berger stellt Fragezeichen hinter diese Warnung, sagt aber: Gefahr gehe eher von autonomen KI-Agenten aus - ihnen solle man niemals sensible Daten anvertrauen, wie zum Beispiel Kreditkartendetails. ____________________ Habt Ihr Fragen oder Themen-Inputs? Schreibt uns gerne per Mail an [email protected] oder sendet uns eine Sprachnachricht an 076 320 10 37. ____________________ In dieser Episode zu hören: - Guido Berger, SRF-Digitalredaktion ___________________ Team: - Moderation: Susanne Stöckl - Produktion: Peter Hanselmann - Mitarbeit: Katrin Hiss ____________________ Links: - Warum der Anthropic-Chef die KI-Entwicklung bremsen will https://www.srf.ch/news/wirtschaft/sicherheit-statt-tempo-warum-der-anthropic-chef-die-ki-entwicklung-bremsen-will - «Dass ein Modell ausbricht, ist keine autonome Handlung» https://www.srf.ch/news/gesellschaft/ki-ausser-kontrolle-dass-ein-modell-ausbricht-ist-keine-autonome-handlung ____________________ Das ist «News Plus»: In einer Viertelstunde die Welt besser verstehen – ein Thema, neue Perspektiven und Antworten auf eure Fragen. Unsere Korrespondenten und Expertinnen aus der Schweiz und der Welt erklären, analysieren und erzählen, was sie bewegt. «News Plus» von SRF erscheint immer von Montag bis Freitag um 16 Uhr rechtzeitig zum Feierabend.