美國國防部長赫格塞斯宣布Anthropic產品,列為「供應鏈風險」。美聯社
美國Anthropic公司本月稍早發布最新人工智慧(AI)模型Mythos,不僅可發現電腦系統的陳年漏洞,還會自主發動攻擊。由於Mythos極為強大,目前並未公開,僅提供少數大型科技公司建構網路防禦措施。彭博新聞則報導,美國政府已準備讓聯邦機構採用某個版本的Mythos,目前正建立相關防護機制。
《彭博新聞》週四(4/16)
報導,白宮管理及預算辦公室(OMB)聯邦資訊長巴巴其亞(Gregory Barbaccia)週二(4/14)發電郵告知各內閣首長,表示已著手建立相關防護機制,讓各機構採用這項高度保密的AI工具Mythos。
Mythos上週二(4/7)發布,外界已擔憂該工具可能大幅提高資安風險。就在發布當天,美國財政部長貝森特(Scott Bessent)、聯準會主席鮑爾(Jerome Powell)已緊急召集各銀行執行長到華府開會,提醒Mythos可能對銀行系統構成的安全風險。
Anthropic目前僅將Mythos提供給少數科技公司、金融機構等單位,鼓勵它們用於評估資安風險。該公司限制釋出對象,擔心Mythos若落入駭客之手,恐被用於竊取資料或破壞網路系統。
《彭博新聞》報導,Anthropic發表Mythos前,就已向美國政府高層簡報該模型的完整能力,包括攻擊與防禦兩方面的資安應用。該公司不具名人士透露,參與簡報的單位包括美國網路安全暨基礎設施安全局(CISA)及人工智慧標準與創新中心(CAISI) 等,該公司也持續與政府合作,以因應Mythos衍生的安全議題。
Anthropic高層憂心Mythos可能構成國安風險,因為測試人員發現Mythos能找出原本只有頂尖駭客才有能力發現的關鍵漏洞。美國政府多個部門也同樣心懷警戒。一名知情人士指出, Mythos的出現令國防部門的資安風險評估更不確定。只要讓一名國防駭客擁有這類AI模型,形同讓一名普通士兵瞬間變成特種部隊成員。
報導稱,從華府到華爾街的領袖,都在極力應對Mythos恐使不肖人士更易入侵產業與政府敏感系統的可能性。
報導稱,這封郵件主旨是「取得Mythos模型」,收件者包括國防部、財政部、商務部、國土安全部、司法部與國務院等多個部門。信中寫道:「在可能向各部門釋出已修改版本的模型前,我們正與開發商、產業夥伴、情報部門密切合作,在可能向各機構釋出經調整版本之前,確保適當的防護措施與安全機制已經到位。」
對於該報導,白宮官員表示,政府持續與AI公司合作,確保其模型能協助修補關鍵軟體漏洞,但未回應具體細節。Anthropic則拒絕置評。
Anthropic與川普政府不久前才發生
公開爭執,如今顯示川普政府仍不得不使用該公司產品。Anthropic二月間曾遭美國國防部列為供應鏈威脅,因為該公司拒絕讓美軍「不受限制」使用其AI模型。Anthropic提告後,三月間成功取得法院命令,阻止政府對其產品的禁用令。