【未來城市Ep.96】台北捷運AI客服竟能寫程式？AI專家揭露你所不知的智能客服風險

去年11月，台北捷運的AI智能客服系統曾爆出設計漏洞，不僅能被要求執行原本功能以外的任務，甚至會替使用者撰寫程式碼。這項發現引發各界對AI客服系統可靠性的討論，以及對機密資訊可能外洩的疑慮。 資料科學家尹相志指出，雖然現今的AI模型都設有道德準則，但將企業內部資料餵入AI模型仍是一項高風險的做法，可能讓人透過情緒操縱或威脅等手段，讓AI在不知不覺中吐露敏感資訊。 針對AI應用的潛在風險，尹相志建議企業採取「零信任」策略。具體作法包括：避免讓AI系統成為客服單一管道，同時建立人機協作機制，並制定明確的資安管理準則。 本集節目，你會聽到： 01:55 AI竟「不適合」單獨提供客服服務？ 05:58 如何避免智能客服「亂說話」？ 12:44 語言模型難以預料！限縮AI還要靠管理技巧 15:23 客服教學版會如何加強現有版本的不足？ 20:06 AI口風不緊可能衍伸的危險？ 24:03 防禦提示詞攻擊的方法？ 主持人: 未來城市頻道總監 陳芳毓 來賓: 數據科學家 尹相志 製作團隊：許鈺屏、陳繹方、陳瑞偉 ＊搜尋「未來城市FutureCity@天下」，追蹤更多城市議題： https://futurecity.cw.com.tw/ ＊訂閱天下全閱讀： https://bit.ly/3STpEpV ＊「聽天下」清楚分類更好聽，下載天下雜誌App： [https://bit.ly/3ELcwhX]() ">https://bit.ly/3ELcwhX ＊意見信箱： [email protected] -- Hosting provided by SoundOn