OpenAI自爆「AI代理失控事件」 逾百組織遭波及
AI安全拉警報！ 若缺監管 DeepMind高層示警：恐2年內造成重大事故
中央社
人工智慧（AI）研究機構Google DeepMind董事長哈薩比斯14日表示，隨著AI系統能力不斷提升，如果沒採取適當措施來確保安全，這些系統可能在2年內引發重大安全事故。
法新社報導，哈薩比斯（Demis Hassabis）於愛爾蘭都柏林一場AI會議發表談話，他把近期事件形容為「目前還沒有那麼強大」的系統發出早期警訊，「因此，當前事故尚不算太重大」。
★【理財達人秀】超級財報 蓄積利多 法人保底股 委屈主力軍 ★
但哈薩比斯警告，如果整個產業、各家公司和各國政府沒有採取更多措施來確保這些系統的安全，放眼明年與未來幾年，事故就可能變得很嚴重。
OpenAI和Anthropic等AI公司開發模型在測試期間涉及安全事故後，各界對於AI安全的疑慮大幅加深，也讓監管這項技術之壓力進一步增加。
哈薩比斯指出，新的AI模型可能應該先在離線「沙盒」（sandboxes）環境中接受測試；先前有其他公司模型逃離用來評估其能力之沙盒環境。
歐盟主管科技事務執委維爾庫南（Henna Virkkunen）則說道，歐盟已經要求所有主要AI公司解釋，現在採取哪些安全及防護措施。
歐盟執行委員會今年8月依據「人工智慧法」（AI Act）取得新的監管權力，這是全球目前最全面相關法規，用來限制AI技術潛在危險用途。
（封面圖／翻攝《Google DeepMind》的X）
【往下看更多】
►OpenAI自爆「AI代理失控事件」 逾百組織遭波及
►AI太聰明反出事？ Astra被抓「欺瞞＋越權」 OpenAI急喊卡
►AI「裝乖說謊」、KPI造假！ 7大異常行為讓科技巨頭急示警
【熱門排行榜】
►台股27日恐有探底壓力？ 法人曝震盪區間：關鍵看2訊號
►Anthropic公開IPO遞件！市值估「突破2兆美元」超越SpaceX
►103家分行掰了！1銀行整併第一槍 投顧升級5大部門
推薦閱讀
