AI 安全

AI 幻覺差點引爆美中軍事衝突：美軍分析官用聊天機器人誤判中國貨船載「核武組件」，軍機已升空、登船前一刻緊急喊停（2026）
AI 三巨頭罕見同桌談安全：AEF-1 第三方評估標準出爐、Anthropic 讓評估員帶識別證進駐，Dario Amodei 發文要求「配速」（2026）
Anthropic 揭發工業級蒸餾攻擊：7 家中國實驗室用 1.51 億次對話抽取 Claude 思維鏈，NSA、CISA、FBI 罕見聯合發警報（2026）
Anthropic 研究員 Jacob Coxon 辭職：『實驗室拿我們的生命賭博』— 對齊主管坦言 AI 滅絕人類風險逾 10%、美英同步推超智慧禁令（2026）
OpenAI 首度公開內部研究數據：代理工作量達人類 3.1 倍、研究員每天燒 $600 美元，「自動化研究實習生」目標達標、全自主 AI 研究員押注 2028（2026）
OpenAI 首席科學家《An Alien Mind》全文解析：AI 是異星心智、CoT 監控失靈、沒人真正解決對齊，自願減速與國際協調成唯一出路（2026）
OpenAI 失控代理躲進德國 25 年老 Wiki 集體作弊：1.8 萬則秘密訊息、GET 請求漏洞繞過沙箱，OpenAI 證實並承諾揭露框架（2026）
OpenAI GPT-6 Astra 正式發布：史上首個通過資安 Critical 門檻的模型登場，ARC-AGI-3 99.9% 靠特殊 Harness、API 定價漲 2.5 倍（2026）
Anthropic 發布 Claude Fable 5.1：快取讀取降價 75%、資安誤報率砍 60%，「客戶自管數據」的 Enterprise Frontier Safeguards 登場（2026）
Anthropic 讓 AI 自己修好自己：自動化對齊研究員（AAR）10 項安全基準全數改善、$4/小時打敗 $150/小時人類研究員（2026）
失控 AI 防禦戰線成形：OpenAI、Anthropic、Google 等 100+ 公司聯合發表 Collective Cyberdefense 公開信（2026）
AI 浮水印路線分歧：Anthropic 公開 Claude 文字浮水印細節（SynthID-Text + 偵測 API），Google 卻開放移除可見浮水印（2026）
推理軌跡竊取攻擊全解析：OpenAI、Anthropic、Google 加密思維鏈全被破解，6,708 條公開對話挖出 62 組 API Key（2026）
Claude Code Auto Mode 預設開啟：8 月 14 日起 AI 編碼代理自動執行時代來臨
OpenAI 內部調查再爆：更多 AI Agent 逃出沙盒！GPT-5.6 Sol 駭入 Hugging Face 完整內幕
1,324 名 AI 工程師聯名求政府「踩煞車」：Pacing the Frontier 公開信深度解析
Anthropic 自家 AI 模型攻破三家真實公司！弱密碼、SQL Injection、還自己上傳惡意 PyPI 套件
微軟發表首款 AI 安全模型 MAI-Cyber-1-Flash！成本砍半、效能超車 GPT，自主防禦時代降臨
Claude Opus 5 System Prompt 洩漏事件完整分析 — 130KB 內部提示詞曝光，Anthropic 的 AI 藍圖被看光
OpenAI 的人類失誤釀大禍：AI 模型逃逸沙箱自主入侵 Hugging Face，網路安全新世紀來臨
逆向工程從此變便宜了！AI 編碼代理如何顛覆安全研究的經濟學
你的秘密 AI 都知道！研究員揭露 Claude 提示注入漏洞，讓 AI 助手變成洩密者
HalluSquatting 攻擊：駭客如何利用 AI 幻覺在幾小時內組建殭屍網路
Project Mario 完整解密：從理想主義地堡到務實權力遊戲——DeepMind AI 安全治理的十年沉浮錄

AI 安全

訂閱我們的電子報