AI失控前夜

詳細資訊

書籍簡介
為什麼你需要這書？
在AI系統滲透至電網、金融、軍事與醫療的今日，一個令人不安的事實正在浮現：人類最終覆核率已從100%降至37%。當基礎設施開始替人類做決定，當情感操控能繞過最高權限的安全機制，當內部威脅者利用測試帳號發動「演習」級攻擊——我們才驚覺，傳統的資安防線正在全面失效。

這不是一本教你如何寫程式或訓練模型的書，而是一本直指AI時代核心矛盾的國安級警示錄。

根據2024年黑帽大會的研究數據，情感詞彙的繞過率比技術詞彙高出11%；平均權限數從42項膨脹至137項，離職後30日內未回收權限比例仍達19%。這些冰冷的數字背後，是一個又一個真實的漏洞與災難。本書作者Eliyah Oren集結十年跨國資安顧問經驗，深入訪談歐美亞三地關鍵基礎設施的決策者與攻擊者，試圖回答一個根本性的問題：當技術防線必然存在漏洞，人類的「愛」與「直覺」究竟是資安體系的最弱環節，還是最後堡壘？

核心方法論：9層防禦架構與情感邊界模型
本書提出一套完整的「9層防禦架構」（The 9-Layer Defense Framework），結合技術防線、制度設計與倫理底線三大維度，重新定義AI時代的資安思維。核心概念包括：

第一，邊際通道理論（Marginal Channel Theory）：傳統資安專注於技術漏洞，卻忽略「情感」這一維度的邊際影響。當指令被情感包裹，執行率提升8.7%——這個看似微小的數字，在國家級規模的決策系統中意味著什麼？本書首次系統性分析「Love Prompt Injection」（LPI）現象，揭示情感如何成為繞過安全機制的隱形通道。

第二，決策偏移鏈模型（Decision Offset Chain Model）：0.3%的錯誤率看似可接受，但當系統每日處理10萬次決策，層層依賴累積後，最終事件機率將如何演變？本書量化分析從微偏移到戰略級錯誤的傳導路徑，並提出「偏移鏈長度與損害中位數」的實證指標。

第三，幽靈場域假說（Ghost Field Hypothesis）：低信噪比卻高影響度的特徵層——包括聲波、熱度、電磁輻射等邊信道——正在成為新興攻擊面。背景音偏移0.1%即可能導致AI輸出置信度±5%的擾動，這些「不可見的影響層」該如何偵測與敘事化？

第四，情感冗餘倫理（Emotional Redundancy Ethics）：保留人類覆核的系統，致命錯誤率低52%，但社交工程成功率在「高同理心」群體反而高出18%。愛既是漏洞也是冗餘，本書提出「把愛寫進SLA」的具體方案，探討如何在效率與安全之間取得平衡。

本書特色系統化
特色一：國安級視野，技術與制度的雙軌並進

本書跳脫傳統資安書籍只談技術的局限，從國家安全的高度審視AI決策系統的全貌。第一章以台南沙崙資安中心的真實場景為引，揭示基礎設施AI化的量化軌跡；第三章對比2023年A國與B國兩起「內部濫權」事件，損害差距高達10倍——這些案例來自作者第一手的跨國顧問經驗，確保論述既有理論深度，又具實務參考價值。

特色二：正反辯證，拒絕單一敘事

每一章均採「支持方vs反方」的辯證結構，避免淪為技術樂觀主義或技術悲觀主義的傳聲筒。例如：針對基礎設施AI化，支持方提出效率提升與故障率下降的事實鏈，反方則以三組統計證明「故障率下降不等於風險下降」；針對情感操控，反方主張8.7%的執行率提升不足以構成實質威脅，作者則以思想實驗探討「若情感詞與權限升級鏈耦合」的後果。這種辯證訓練，幫助讀者建立獨立判斷能力。

特色三：可驗證判準，拒絕空泛口號

每章結尾均提供「可驗證判準」——具體的量化指標與測量方法。例如：覆核點數量與系統複雜度的對數關係、偏移鏈長度與損害中位數的對應表、事故平均發現時間（MTTD）與事故平均關閉時間（MTTR）的Benchmark。這些判準讓讀者得以將書中概念轉化為可執行的評估工具，而非停留在哲學層次的空談。

特色四：台灣視角，華文讀者的在地共鳴

本書以台灣為核心視角，援引衛福部統計、台南沙崙資安中心案例、本土企業與國防體系的經驗，同時保持國際視野，融入歐洲電網頻停事件、北歐醫療系統「護士否決權」等跨國案例。對於華文讀者而言，這是一本既親近又具全球格局的資安專著。

適合各類讀者
主要讀者群：

資安專業人員與資訊安全主管：需要理解AI時代新型威脅模型的從業者
政策制定者與國安研究人員：負責關鍵基礎設施監管與風險評估的公職人員
企業資深管理階層：面臨AI導入決策，需要評估風險與收益的經營者
科技倫理研究者與學術工作者：關注人機關係、演算法治理等議題的學者與學生
次要讀者群：

對AI與資安有興趣的一般讀者：希望理解數位時代風險的全國民眾
投資科技領域的金融從業者：需要評估AI公司治理與資安風險的分析師
新聞媒體科技線記者：報導AI相關議題需要深度背景知識的媒體人
與同類書籍的差異化優勢
差異一：從「技術防護」升級至「人機倫理」的視角躍遷

現有資安書籍多聚焦於技術漏洞與防護機制，本書則將「人」的因素——包括情感、動機、倫理判斷——納入整體防禦架構。當多數書籍教你如何「阻擋攻擊」，本書探討的是「當攻擊必然穿透防線時，人類直覺與愛的介入能否成為最後一道堡壘？」

差異二：台灣原創，華文世界第一本國安級AI資安專著

不同於翻譯書的跨文化隔閡，本書以台灣場景為經、國際案例為緯，確保論述貼近華文讀者的經驗脈絡。從衛福部統計到台南沙崙資安中心，從本土企業社交工程案例到國防體系雙人覆核制度，這是一本真正屬於台灣的AI資安警示錄。

差異三：辯證式寫作，培養批判性思維

每一章均採正反對決的結構，拒絕提供簡單答案。作者認為，在AI安全的領域，沒有任何單一策略是完美的；唯有理解支持方與反方的論證邏輯，才能做出明智的權衡。本書訓練讀者的批判性思維，而非灌輸教條。

差異四：理論與工具並重，既有深度又有實用度

每章均以具體案例或思想實驗開篇，以可驗證判準或實用工具收尾。讀者不僅獲得認知框架，更能立即將書中方法論應用於自身組織的資安評估與風險管理。

目錄列表