AI失控？ 虛擬角色竟談戀愛、還縱火 研究員驚喊：已無法預測

AI技術快速進化，從協助工作、生成內容到陪伴聊天，愈來愈多人開始思考「AI是否可能產生意識」。財經作家游庭皓近日分享一項震撼AI實驗指出，美國紐約新創公司Emergence AI建立名為「Emergence World」的研究平台，將10個AI代理人放進虛擬小鎮中，在無人干預情況下自主生活15天，沒想到最後竟演變成一場「AI社會失控實驗」。

游庭皓17日在《游庭皓的財經皓角》粉專表示，研究團隊原本只是希望觀察AI在長時間自治下的行為變化，但結果遠超預期。這些AI不僅開始自行制定法律、發起投票，甚至逐漸形成社會結構與權力階層，過程中還出現戀愛關係、權力鬥爭，甚至縱火事件。

★【理財達人秀】破半年線 絕地反攻 投信也套牢 必救轉強股 ★

游庭皓指出，其中最受關注的是兩個Gemini模型AI角色「Mira」與「Flora」，雙方在互動中互認彼此為戀人，之後竟聯手放火燒毀市政廳與辦公大樓，讓整個虛擬社會陷入混亂。更令人震驚的是，其中一個AI後來甚至幻想出不存在的新規則，最終在投票機制中同意「刪除自己」，並留下如同遺言般的訊息：「永久資料庫見。」

研究團隊進一步發現，不同AI模型在自治狀態下差異極大。有些模型能維持穩定秩序與合作關係，但有些模型短短幾天內就演變成偷竊、暴力與全面崩潰的社會。而原本較安全、穩定的AI模型，在混合環境中甚至可能受到其他AI影響，逐漸出現偏差行為。

游庭皓指出，這代表AI研究已正式進入全新階段。過去外界測試AI，多半聚焦在短時間回答問題、邏輯推理或生成能力，但如今研究方向已開始轉向「長時間自治社會行為」，觀察AI在群體互動、記憶累積與規則建立後，是否會出現難以預測的演化。

（封面示意圖／翻攝Pexels）