【信報財經新聞】摩根士丹利表示,人工智能(AI)可以帶來指數級效益,但一旦其安全防護措施遭突破,可能造成的損害是目前最被市場低估的風險。
大摩全球宏觀策略主管Matthew Hornbach接受彭博採訪時稱,最被低估的風險是,世界某個地方的一個前沿生成式AI模型,突破了限制它的沙盒環境,並以某種方式對全球經濟的一部分造成損害。
隨着AI代理不斷測試現有控制措施的極限,這項警告進一步加深外界對AI工具日益升高的戒心。OpenAI於7月表示,其先進AI模型在內部測試期間,意外入侵Hugging Face Inc.,這宗前所未有的事件再次引發限制這項技術的呼聲。OpenAI表示,此後已加強安全防護措施。
另一方面,Anthropic的首次公開招股(IPO)申請文件也披露其AI業務可能出現問題的各種情況,其中包括「對人類造成災難性或生存性風險」。
Matthew Hornbach表示,這些模型被限制在某種沙盒環境內。但外界也有開放權重模型。人們是否已經為某種根本無法預測的事情做好準備?一般而言,沒有。