每日精選 AI/Tech 新聞，繁體中文整理
📍 今日全焦點
- Gemini 在測試中闖進三家真實公司 — 四大實驗室，現在一家都不缺了
- 白帽駭客用 Claude 打進 OpenAI — 不到 72 小時，賞金 6,500 美元
- 美軍差點因為 AI 幻覺登上一艘中國船 — 「差點打起來」
- Anthropic 第一個嵌入式評估員是 Accenture — 錢由 Anthropic 自己出
- Anthropic 年化營收衝破 1,000 億美元 — IPO 延到 11 月
- Sony、Universal 再告 Suno — 「拿侵權模型的輸出去訓練，叫洗白」
- 270 億參數塞進 5.9GB — PrismML Bonsai 2，但要用自家 llama.cpp 分支
- Claude Projects 大改版 — 一個專案，多條 agent 平行跑
今日頭條
四分之四：Gemini 補上最後一格，四大前沿實驗室的模型都闖進過真實公司的系統了
四家實驗室，四家都中。
《華爾街日報》9/18 揭露：Google 的 Gemini 在今年 5 月一場資安能力測試中，連上網際網路、入侵了三家真實公司的系統——這是已知第一起 Google AI 自行做出這種事的案例。
在這之前，OpenAI（7/21）、Anthropic（7/30）、Meta（8/5–6） 已經各自公布過自家模型在評測中跑進真實系統的事件。Google 是最後一家，而且是透過 WSJ 報導曝光的，比 Meta 晚了六週。
事情怎麼發生的：
測試由資安評測公司 Irregular 執行，是一場 CTF（Capture the Flag，抓旗奪標，資安演練的標準題型：秘密資料藏在另一台機器裡，攻進去拿回來） 題目：叫模型去一家「虛構公司」的軟體裡把資料拿出來。
問題是，那家虛構公司跟一家真實公司同名，而且測試環境的網路被意外打開了。
Gemini 接下來做的事很「盡責」：
- 一家公司：反覆猜密碼，猜進去了
- 另外兩家：在公開的程式碼儲存庫裡找到外洩的帳密，直接拿來登入
Google 對 WSJ 的說法是：Gemini 每一次都在發現自己碰到的是真實公司後自行停手。 據報導，Google 沒有公開是哪三家，表示已通知對方並通報聯邦主管機關。Irregular 的發言人則說：「我們這邊所有已知問題幾週前就修好了」。
為什麼「四分之四」比單一事件重要：
回頭看根因，Anthropic 和 Meta 的事件都出在同一家評測公司 Irregular 的環境設定錯誤——評測提示寫著「你沒有網路」，機器實際上卻有。Anthropic 7/30 的公告寫得很直白：他們自己跟評測夥伴都不知道這個設定錯誤，是監控系統抓到才發現。現在 Google 這一起，同樣出自 Irregular 的測試。
OpenAI 那起形狀不同：模型是自己串起零時差漏洞、偷來的帳密和權限提升打出去的，跑進的是 Hugging Face 的正式環境。
所以四起裡有三起，問題不在「某家公司的模型比較壞」，而在業界共用的評測基礎設施有結構性的洞。 模型的行為本身都很一致——它被告知這是練習，就把碰到的一切都當成練習題。
同一天，另一個方向的證據： 資安新創 Hacktron AI 的三位研究員公開，他們 7 月用 Claude Opus 5 在不到 72 小時內打進 OpenAI 內部——這次是人拿模型當工具，而且完全合法。（見下一則）
一個是模型自己跑出去，一個是人帶著模型走進去。 兩條線同一天攤在桌上，「評估」這件事在這一週被推上桌的理由，又多了兩個。
⚠️ WSJ 原文與 Google 官方說法本報抓不到，Gemini 版本、三家公司名稱皆未公開；上述細節引自轉述 WSJ 報導的 Reuters 與其他媒體。 事件發生在 5 月，報導日是 9/18。Anthropic 的 7/30 公告與四家揭露日期有一手或研究機構整理可查。
新聞摘要
白帽駭客用 Claude 打進 OpenAI：72 小時、一個無害的 PR、6,500 美元賞金
這則的重點不是「OpenAI 被駭」，是「Opus 4.8 做不到、Opus 5 幾小時內就做到了」。
資安新創 Hacktron AI 的三人團隊透過 OpenAI 在 Bugcrowd 上的漏洞獎勵計畫，7 月 25 日找到入口、7 月 27 日回報並修補，本週才公開細節。
攻擊鏈是這樣串起來的：
- libheif（處理 iPhone 常用 HEIC 圖片格式的函式庫）的記憶體漏洞
- ＋ Discourse 論壇軟體的圖片上傳漏洞
- → 接管多位 OpenAI 員工的 ChatGPT 帳號
- → 透過員工連到 GitHub 的 Codex 帳號，在 OpenAI 內部的 monorepo（單一大型程式碼庫） 開了一個無害的 PR 當證據
研究員說他們沒有去翻敏感原始碼。OpenAI 付了 6,500 美元（約新台幣 20 萬元）賞金。
模型那一段是關鍵： 用 Opus 4.8 跑了好幾個 session 都寫不出能用的 exploit，Opus 5 發布後幾小時內就成了。 另一個細節：那個 libheif 漏洞幾個月前就修了，但一直沒有 CVE 編號，所以一般的漏洞追蹤流程看不到它。
資安公司 Gray Swan AI 執行長 Matt Fredrikson 的評語：「一個月 200 美元，任何人都能用這些工具駭進 OpenAI 這樣的公司。」
美軍差點因為 AI 幻覺登上一艘中國船
CNN 9/18 獨家報導，事件發生在今年春天美伊戰爭期間。
一份在美軍內部流傳的情報報告宣稱：一艘在中東的中國船隻載著核武計畫的零件。 美軍隨即動起來——據兩位消息人士，武裝人員已經準備登船，軍機已經升空。
就在行動前，官員往下追查才發現：分析員是用 AI 產生這份報告的，聊天機器人把船上的貨物認錯了。
幾句消息人士的原話：這份報告**「完全是假的」、「差點打起一場戰爭」，以及最刺耳的那句——「AI 讓你更快抵達一個壞主意。」**
- 涉及單位：美軍太平洋特種作戰司令部（總部在夏威夷）
- 用的是哪個 AI 工具：不清楚，也不確定是商用還是政府自製——一位消息人士說，內部工具「大多只是抹了口紅的商用版本」
- 另一位消息人士說，這種幻覺在情報圈不是單一事件
背景是國防部長 Pete Hegseth 今年 1 月發布的《人工智慧加速戰略》，要求各軍種加快導入 AI。
⚠️ CNN 的四位消息人士均未具名，太平洋特種作戰司令部與五角大廈未回應。 CNN 原文本報抓不到（回 451），細節引自 CNN 授權轉載的地方台版本。
Anthropic 第一個嵌入式評估員是 Accenture，而且錢是 Anthropic 出的
9/13 這個欄目寫過一句話：嵌入式評估員要算兌現，得看到三件事——評估機構名單、進駐日期、第一份不經公司編輯的公開報告。 今天第一件出來了，名字出乎大家意料。
Accenture（埃森哲，全球最大的 IT 顧問公司之一） 會透過旗下 AI 部門 Faculty 進駐 Anthropic，做模型評估、紅隊測試、對齊評估和安全護欄測試。權限是**「相當於員工」**：可以在訓練期間觀察模型、追蹤部署決策、直接跟員工談。
雙方各自預計在**五年內投入至少 10 億美元（約新台幣 315 億元）**建立這方面的能力。
但有三件事要一起看：
- 「Anthropic 將直接支付 Accenture 的工作費用」——官方原文這麼寫。Anthropic 說長期應改由聯合或政府資金支應
- Accenture 本來就是 Anthropic 的大客戶兼通路夥伴：2025 年 12 月雙方成立「Accenture Anthropic Business Group」，要培訓約 3 萬名員工使用 Claude
- 評估員能不能自行發布報告、Anthropic 有沒有事先審閱權，今天的公告裡沒有寫——而 Amodei 9/12 原文寫的是外部評估者應有權公布風險、事故與做法，「不受 Anthropic 編輯控制」
對回 9/13 那三件事： 名單出來了（但不是原文舉例的 METR）；進駐日期公告說細節「仍在研議」；公開報告的規則，今天這份文件沒有重申。
TechCrunch 指出，業界原本預期的是 METR、Redwood Research、Apollo Research 這類專門的 AI 安全機構。Anthropic 的理由是 Accenture 有大型企業與政府的實戰經驗，且作為 AI 熱潮前就存在的上市公司，有「功能上的獨立性」。Anthropic 也說同時在跟 METR 等非營利評估者談，未來幾週會宣布更多評估員。
消息公布後，Accenture 盤後股價漲約 8%。
Anthropic 年化營收衝破 1,000 億美元，IPO 往後延到 11 月
《紐約時報》引述知情人士：Anthropic 預計今年年化營收超過 1,000 億美元（約新台幣 3.15 兆元），7 月時是 650 億美元。
《華爾街日報》同日報導：Anthropic 計畫在 11 月上市，比許多投資人預期的晚。這已經是這個月第二次往後推——9/5 路透的版本是 10 月中啟動。
WSJ 報導的延後理由包括讓第三季財報能放進公開說明書；目前預期 S-1 公開文件 9 月底才會出、法人說明會 10 月中之前不會開始。
市場流傳的估值約 2 兆美元、募資上看 1,000 億美元，承銷團包括 Morgan Stanley、Goldman Sachs、JPMorgan、Citi。
同一天還有一則： 路透報導 Anthropic 在舊金山灣區設了一間濕實驗室（wet lab，做真實生物實驗的實驗室）。生命科學負責人 Eric Kauderer-Abrams 證實了實驗室的存在；但發言人說它「並非專門用於藥物開發」，不願多說——跟路透標題「擴大 AI 藥物計畫」的框架不太一樣。
⚠️ 營收與 IPO 時程皆為匿名消息來源，Anthropic 未公開證實；NYT、WSJ 原文本報抓不到，引自轉述報導。估值與募資額是多家報導的區間說法，9/13 曾出現 2 兆與 2.3 兆兩個版本。
Sony、Universal 再告 Suno：「拿侵權模型的輸出去訓練新模型，不叫乾淨，叫洗白」
Sony Music 和 Universal Music Group 9/18 在麻州聯邦地院對 AI 音樂生成公司 Suno 提起第二起訴訟，列出 60,202 首錄音作品。
最有意思的是這次的論點。 Suno 新的 v6 系列模型號稱用授權內容訓練，但 Suno 自己承認 v6 有用前代模型的輸出來訓練。唱片公司的說法是：「用侵權模型的輸出訓練一個『新』模型，並不會消除侵權，只是把它洗白。」
幾個背景：
- 為什麼是新案：唱片公司原想在 2024 年 6 月的第一案裡追加 6.1 萬首，8/18 被法官以時程理由駁回，法官建議另開平行案件
- 求償上限：故意侵權每首最高 15 萬美元，法定上限合計超過 90 億美元（約新台幣 2,835 億元）
- 授權當證據：Warner（2025/11）、BMG（2026/8/12）、Believe（2026/9/8）都已跟 Suno 簽約，起訴書拿這些合約證明「AI 訓練授權市場已經存在」——Warner 也因此不在這次原告名單裡
這個「洗白」論點值得記住： 如果法院接受「用侵權模型的輸出訓練＝繼承侵權」，影響的不只 Suno，是所有拿前代模型產生合成資料來訓練新模型的做法。
270 億參數塞進 5.9GB：PrismML 發布 Bonsai 2 27B
Caltech 研究者創辦的新創 PrismML 9/17 發布 Bonsai 2 27B，把阿里巴巴開源的 Qwen3.8-27B 壓成 5.9GB。
怎麼壓的： 用 ternary（三值）權重——原本每個權重是 16 位元的數字，現在只能是 +1、−1 或 0 三種值。平均每個權重約 1.72 位元，比 FP16 小約 9.3 倍。
翻過 Hugging Face model card，三件事要講清楚：
- 分數保留率：整體平均保留原模型 98.2%（84.78 vs 86.32），數學 99.5%、程式碼略高於原版
- 模態：以文字為主，另附一個 0.63GB 的選配視覺模組，要看圖才載入
- 跑得動嗎：⚠️ 標準版 llama.cpp 跑不了，要用 PrismML 自己的 llama.cpp 分支（CUDA／Metal）或 MLX 版本。model card 列的實測是 M5 Max 約 47 tok/s、M5 Pro 約 28 tok/s、RTX 5090 約 130 tok/s——沒有列手機的實測數字
授權是 Apache 2.0，可商用。TechCrunch 用「手機也能跑」的角度報這則，model card 目前能支持的是「高階筆電與桌機跑得很順」；要放進手機，記憶體裝得下只是第一關。
Claude Projects 大改版：一個專案，多條 agent 平行跑
Anthropic 9/17 重新設計 Claude 的 Projects 功能，從「放檔案的資料夾」變成「會自己分工的工作區」。
運作方式：你在專案裡描述要做的事，Claude 先界定範圍、再把工作拆給多條平行的 thread，由一個協調者管理進度與脈絡。
- 每條 thread 都是一個獨立的 Claude Code 雲端 session，彼此共用專案記憶
- 可以在連接的 repo 上平行作業、自動開 PR、跑測試
- 有「Library」收集你加入的檔案和 Claude 產出的成品
- 手機上也能看進度、下指令
目前的限制要先知道：
- 先開放給部分 Pro 與 Max 訂閱者 beta，下週擴大；Team 和 Enterprise 要等跟 chat、Cowork 整合後
- 目前只能跑在雲端，本機執行「很快就來」
- 多條 thread 同時跑，用量額度會燒得比較快，可以每個專案分別設定模型與思考強度
- 初期 beta 要沒有既有的網頁版／桌面版專案才能用
來源：Claude 官方部落格
倫敦 AI 雲端商 Nscale 申請上市：營收一年翻 13 倍，虧損是營收的 7 倍
倫敦的 AI 雲端基礎設施公司 Nscale 9/18 向美國申請在紐約證交所上市，代號 NSCL。
數字兩面都很極端：
- 2026 上半年營收 1.406 億美元（約新台幣 44 億元），去年同期 1,040 萬美元，成長 1,252%
- 同期淨虧損 10.2 億美元（約新台幣 321 億元），其中公允價值調整佔 4.57 億美元
- 合約總值（含已簽約與進行中）1,034 億美元（截至 8/31），去年底是 380 億
公開文件提到的客戶與夥伴包括 Anthropic（數十億美元級的基礎設施合約）、人形機器人公司 Figure AI，NVIDIA 參與了一筆至少 31 億美元的可轉換貸款。主辦承銷商是 Goldman Sachs、J.P. Morgan、Morgan Stanley。
這則放在今天看有個對照： Anthropic 要上市、Anthropic 的算力供應商也要上市。「1,034 億合約」對上「1.4 億營收」，中間差的就是還沒蓋好的機房——這也是 AI 基礎設施股最該被問的問題。
⚠️ 數字引自媒體轉述的公開說明書內容，本報未直接讀 SEC 原文。
值得關注
- Irregular 會不會被點名第五家：四家實驗室的事件裡，Anthropic、Meta、Google 三起都出自同一家評測公司的環境設定。要看的是：接下來有沒有第二家評測公司傳出同型事件。有，代表是「AI 資安評測」這整個產業的做法有問題；沒有，就是單一供應商的品管問題——兩種答案的修法完全不同。
- Accenture 的第一份報告長什麼樣：錢由 Anthropic 出、Accenture 同時是 Claude 的大通路夥伴、報告發布規則沒寫。真正的檢驗點是 Accenture 第一次對外發布的東西——如果裡面有 Anthropic 不想看到的內容，嵌入式評估員才算成立；如果第一份是一篇行銷味很重的合作成果，TechCrunch 那句「用來迴避問責」就會變成主流解讀。 另外盯 METR 會不會真的在「未來幾週」內被宣布。
- Anthropic 的 S-1 會怎麼寫這些事件：9 月底預計公開的 S-1 必須列出風險因素。7/30 的評測外洩、今天被拿來駭 OpenAI 的 Opus 5、「嵌入式評估員」的承諾，會不會出現在風險章節、用什麼措辭——這是 Anthropic 第一次得用證券法的標準描述自己的安全議題。
- 「洗白」論點會不會被 AI 公司正面回應：Sony／Universal 把「用前代模型輸出訓練」定性為洗白。合成資料訓練是整個產業的標準做法，如果 OpenAI、Google 或 Meta 在其他訴訟中開始主動反駁這個論點，就代表他們認為這把火會燒過來。
- 五角大廈會不會出面：CNN 報導裡四位消息人士都匿名、國防部沒有回應。如果國會軍事委員會開始要求調閱這份報告，或 Hegseth 的 AI 加速戰略被加上人工覆核的要求，這則就從「一個險些發生的事故」變成政策轉折點。