多數企業以為，跟 AI 供應商簽了「不得用我們的資料訓練模型」的合約，就萬事大吉了。哈佛商業評論(HBR)最新一篇文章指出，這種安心感是錯覺。真正的新風險不是數據外洩，而是企業最寶貴的東西——「解題邏輯」——正在被 AI 平台悄悄吸收。
作者 William Marks 把這種現象稱為「AI Sherlocking」。這個詞來自 2000 年代初期的一段舊事：蘋果開發了一款搜尋工具 Sherlock，逐一複製了一款熱門插件 Watson 的功能，幾乎一夜之間把這家小公司擠出市場。從此「被 Sherlock」就代表「眼睜睜看著大平台吸走你的創意，然後用來對付你」。AI 版本的 Sherlocking 複製的不是看得見的按鈕和畫面，而是看不見的「推理過程」——你的資深工程師怎麼拆解問題、你的研究員怎麼一步步引導 AI 找到正確答案，這些互動模式本身就是最有價值的資產。
這不只是軟體業的事。特斯拉車主每次在自駕模式中接手方向盤、踩下煞車，就等於替自駕系統按了一次「倒讚」——每一次人類介入修正，都成為 Autopilot 的訓練訊號，訓練成果則惠及所有特斯拉車主。AI 工具的使用者面對的是完全相同的結構：你的修正在教模型變聰明，而變聰明之後的模型，競爭對手也在用。
據哈佛商業評論(HBR)報導，這種邏輯外洩透過三條具體管道發生，每條需要不同的應對方式。
大綱
一、三條洩漏管道
1.1 回饋訊號：你的修改意見正在教模型
第一條管道最常見，卻最容易被忽略。每次團隊成員對 AI 工具按讚、按倒讚、打出「不太對，再試一次」、或手動修改草稿，他們做的遠不止「拿到一個更好的答案」——他們提供的正是 AI 公司用來重新訓練模型的訊號。簡單說：你的修正意見在教模型。
問題出在合約的細節。據 HBR 報導，標準的 OpenAI 企業服務協定保護了 prompt（輸入）和 output（輸出）不被用於訓練，但把「feedback」列為獨立類別：只要客戶提供回饋，OpenAI 有權不受限地使用，且不必付費。Anthropic 的 Claude 商業服務條款包含幾乎相同的條款。這代表回饋豁免並非個別供應商的特例，而是整個產業的合約標準結構。
更值得注意的是，回饋的影響不只是自動化的：現代聊天機器人背後的強化學習流程（RLHF），依賴合約標註員閱讀真實使用者的 prompt，然後對模型的多個回應進行排序。這套做法最早在 OpenAI 2022 年的 InstructGPT 研究中被大規模描述，現已成為產業通行做法。換句話說，負責標註的人員也在從你的專有修正中學習。
企業的對策：談合約時，不要停在「不訓練我們的資料」。要具體將追問回饋、評分、修正紀錄、互動日誌等類別的資料納入保護範圍。據 HBR 報導，Anthropic 在 2026 年 3 月新增了在 Team 和 Enterprise 方案中管理使用者回饋設定的功能——但文章提醒，這是一項新功能，並非經過驗證的成熟方案。此外，也應對團隊進行簡報：一旦他們修正了 AI 的產出，就可能正在訓練競爭對手也在使用的系統。
1.2 產出變訓練料：高品質人類數據即將耗盡
第二條管道是供需問題。AI 公司持續改進模型需要高品質的人類生成數據，但這種資源正在枯竭。
根據追蹤 AI 訓練資源的非營利組織 Epoch AI 估計，公開可用的高品質文本將在 2026 年至 2032 年間基本耗盡。供應商的因應之道是用自家模型的最佳產出作為下一代的訓練材料——所謂的合成數據（synthetic data）。這已非特例，而是產業標準做法：微軟 2024 年 12 月發布的 Phi-4 模型，就是專門用 50 個合成數據集、約 4,000 億個詞元（token）訓練而成。
如果企業用的是合約完善的企業版 AI，特定產出通常被隔離在訓練流程之外。但風險仍透過兩個路徑觸及企業：第一是任何超出合約範圍的使用——消費者帳號、免費帳號、影子 AI、或缺乏明確產出保護的舊合約；第二更隱蔽——即使你的產出沒被動用，但其他所有人解決類似問題的共享產出仍在訓練模型，模型因此更擅長你這類問題，然後這種改進的能力被賣給所有人。
「影子 AI」（shadow AI）的規模令人吃驚。根據MIT 2025 年的一項企業生成式 AI 研究發現，雖然只有約 40% 的企業購買了官方 AI 訂閱，但超過 90% 的受訪企業員工經常使用個人 AI 工具處理工作。IBM 2025 年的《資料外洩成本報告》則指出，涉及影子 AI 的資料外洩事件，平均比不涉及影子 AI 的事件多出約 67 萬美元的損失。
三星的案例是最經典的警示。2023 年，三星工程師在使用個人 ChatGPT 帳號時，不慎將專有半導體原始碼上傳，促使三星在內部全面停用該工具。每次員工使用個人 AI 帳號，貼上的內容就直接進入免費工具的訓練流程，不受任何企業合約約束。
企業的對策：對於與核心競爭優勢直接相關的高價值應用，應優先選擇私有雲或地端部署的客製模型，確保產出不會回傳供應商。通用版本的 AI 工具則保留給低敏感工作。
1.3 平台飛輪：最聰明的使用者讓所有人受益
第三條管道不是個人互動的問題，而是結構性的。AI 平台透過向最資深的使用者學習而不斷改進。如果你的公司大力推動一個 AI 工具去解決真正棘手的高價值問題——例如優化複雜的供應鏈——你同時也在教這個工具如何解決這類問題。平台因此變得更強大，然後把改進的能力賣給市場上的所有人，包括你的直接競爭對手。
這造成一種違反直覺的局面：你對 AI 工具的使用愈創新，就愈可能在提升競爭對手未來的能力。這與傳統競爭優勢的運作方式相反——通常，最聰明地使用工具應該讓你保持領先，而不是侵蝕你的領先優勢。
蒸餾攻擊（distillation）是這個飛輪效應的極端案例。2026 年 2 月，Anthropic 揭露三家中國 AI 實驗室——DeepSeek、Moonshot AI 和 MiniMax——透過約 24,000 個詐欺帳戶，對 Claude 模型發動了超過 1,600 萬次查詢，系統性地利用 Claude 的回應來訓練各自的競爭模型。蒸餾的原理是用較強模型的產出來教較弱的模型；Anthropic 是透過異常的查詢模式識別出這些攻擊——查詢高度集中在 Claude 最顯著的能力，例如推理和編碼。這是涉及詐欺的對抗性案例，但它指向的底層動態在合法形態下同樣存在：模型被用來解決某類問題的次數愈多，它在該類問題上的表現就愈好。
企業的對策：對於策略敏感度最高的工作，不要一次把整個問題丟給通用 AI 工具。
- 應將任務拆解，只發送不會洩漏整體思路的片段，把串聯所有環節的核心方法保留在公司內部。
- 另一種做法是先用大型公共模型產生粗略的初步構想，再於公司自有的小型模型上進行微調，讓最有價值的最後一步不離開公司。
二、垂直行業攻勢：AI 供應商深入你的工作流
上述三條管道已經令人不安，但真正讓問題加速惡化的是另一個趨勢：AI 供應商不再只賣通用模型，而是主動深入特定行業的工作流程。2026 年以來，Anthropic 與 OpenAI 都大舉切入金融、法律、醫療等受監管行業，推出行業專屬的 plugins 和 agent。以下是兩家目前的垂直行業佈局：
Anthropic（Claude）
| 垂直領域 | 產品 | 時間 | 內容 |
|---|---|---|---|
| 金融 | Claude for Financial Services | 2026/2 首發，5 月擴充為 10 個 agent | 投行 pitchbook、股票研究、私募、財富管理、KYC 篩查、月結關帳、GL 對帳等；串接 FactSet、MSCI、S&P Global、LSEG、Morningstar、PitchBook、Moody’s |
| 法律 | Claude for Legal | 2026/2 首發，5 月擴充 | 12 個執業領域 plugins（商務、公司/M&A、訴訟、勞動、隱私、監理、AI 治理、智財等）；20+ MCP connectors 串接 Westlaw、iManage、DocuSign、Harvey |
| 醫療 | Claude for Healthcare / Life Sciences | 2026/1（JPM 大會） | CMS 資料庫 connector、EHR 整合（HealthEx）、HIPAA 合規 |
OpenAI（ChatGPT / Codex）
| 垂直領域 | 產品 | 時間 | 內容 |
|---|---|---|---|
| 金融 | Codex plugins | 2026/6 | 公開市場投資、投資銀行 2 個 plugins；串接 Moody’s、FactSet、LSEG、S&P、PitchBook；預告中：企業財務、私募 |
| 法律 | 預告中 | — | 已列入 pipeline，尚未正式推出 |
| 醫療 | ChatGPT Health + ChatGPT for Healthcare + ChatGPT for Clinicians | 2026/1–4 | 三層架構：消費者端串接 Apple Health / EHR、企業端 HIPAA 合規工作區、臨床端免費供醫師使用 |
值得注意的是，這些行業 plugins 並非泛泛的「聊天機器人加強版」，而是直接嵌入該行業最具專業性的工作環節：替投行做 pitchbook、替銀行審 KYC、替律師寫訴狀、替醫師處理理賠前審查。當 AI 深入到這個程度，它從行業使用者身上吸收的就不只是「通用語言能力」，而是該行業的專業判斷模式——怎麼挑可比公司、怎麼判讀合約風險、怎麼評估理賠案。這讓前述三條管道的洩漏速度大幅加快。
三、合作夥伴：第二道汲取管道
AI 供應商自己不可能逐一進駐數千家企業，於是透過合作夥伴把模型「嵌入」客戶的核心業務流程。這些合作夥伴分為兩類：
第一類：系統整合商與顧問公司——負責「施工」
Anthropic 與 PwC 合作設計行業專屬 plugins，與 TCS 建立全球首席合作夥伴關係（TCS 為此設立專責事業部、5 萬員工使用 Claude，涵蓋金融、醫療、公共服務、航空等行業的客戶部署）。OpenAI 則與四大（Deloitte、PwC、EY、KPMG）合作，並自建子公司 DeployCo（40 億美元以上投資），派駐「前線部署工程師」（Forward Deployed Engineer, FDE）直接進入客戶現場，把 AI 模型接上客戶的資料、工具、權限與業務流程。
第二類：資產管理與私募基金——負責「帶客戶」
Anthropic 與 Goldman Sachs、Blackstone、Hellman & Friedman 合資成立 AI 服務公司（由 Apollo、General Atlantic、Sequoia 等跟投）。這些 PE 旗下管理數百家被投公司，多為缺乏自建 AI 工程能力的中型企業。合資公司的做法是把 Anthropic 的應用工程師嵌入這些被投企業，等於把整個投資組合變成 Claude 的部署通路。OpenAI 的 DeployCo 同樣以 TPG、Advent、Bain Capital、Brookfield 為共同創始合作夥伴，背後的投資與顧問合作夥伴涵蓋全球超過 2,000 家企業。
第二道汲取管道的關鍵差異
表面上，這些合作夥伴是在幫企業部署 AI。但在這個過程中，顧問公司和系統整合商也在深入接觸客戶最敏感的業務流程——做 pitchbook (投資銀行爭取客戶委託時製作的分析與估值資料) 用什麼模型假設、KYC 審查的篩選標準、月結流程的關鍵檢核點。這些行業 know-how 不受企業跟 AI 供應商簽的合約約束，因為合約的對象是 Anthropic 或 OpenAI，不是 PwC 或 TCS。顧問公司完全有動機、也有能力把這些跨客戶累積的行業經驗，重新包裝成方法論、最佳實踐、導入框架，賣給同行業的其他企業——包括你的競爭對手。
換句話說，企業的專業知識實際上被兩道管道同時汲取：一道是 AI 供應商透過回饋、產出與平台飛輪吸收你的解題邏輯；另一道是合作夥伴透過駐點部署吸收你的行業 know-how。前者受合約約束（即便合約有漏洞），後者甚至連合約的約束都未必到位。
四、從「數據是新石油」到「邏輯主權」
過去 20 年，企業被教導「數據是新石油」——收集數據、保護數據，就能擁有優勢。但這已經不夠了。數據正在商品化：數據量龐大，AI 模型也擅長利用任何品質的數據。真正稀缺且有價值的，是高品質數據以及企業拿數據做什麼——將原始資訊轉化為正確決策的具體判斷、工作流程與推理。HBR 稱之為「邏輯主權」（logic sovereignty）：不只擁有數據的所有權，更擁有運用數據的思考方式的所有權。
未來幾年，這個議題預計將從 AI 安全團隊的小眾關注，像十年前的數據隱私一樣，成為董事會的常規議題。多數企業的安全審查還在問：「我們的資料安全嗎？」但更該問的是：「誰在從我們的成功中學習？」
資料來源：
來源報導
- William Marks（2026/9/8），Is Your AI Training the Competition?，Harvard Business Review
來源報導引用之參考資料
- Anthropic（2026/2），Detecting and preventing distillation attacks
- Bloomberg（2023/5/2），Samsung Bans Staff’s AI Use After Spotting ChatGPT Data Leak
- MIT（2025），State of AI in Business 2025
- IBM（2025），Cost of a Data Breach Report 2025
- Anthropic（2026/3），Manage user feedback settings on Team and Enterprise plans
- Ouyang et al.（2022），Training language models to follow instructions with human feedback（InstructGPT）
- Shumailov et al.（2024），AI models collapse when trained on recursively generated data
補充查證資料
- Anthropic（2026/5/5），Agents for financial services
- Anthropic（2026/5/4），Building a new enterprise AI services company with Blackstone, Hellman & Friedman, and Goldman Sachs
- Anthropic（2026/6/12），TCS and Anthropic bring Claude to regulated industries
- OpenAI（2026/5/11），OpenAI launches the OpenAI Deployment Company
- OpenAI（2026/1），Introducing OpenAI for Healthcare
- Bloomberg（2026/5/12），Anthropic Expands Push Into Legal Industry With New AI Tools
- Bloomberg（2026/6/2），OpenAI Plans AI Tools for Finance, Legal in Race With Anthropic
- CNBC（2026/5/4），Anthropic teams with Goldman, Blackstone and others on $1.5 billion AI venture
