哲學家寫下的是原則，AI 模型跑出來的是誘因

十多年前a16z 說 「software is eating the world」。

十多年後我們才發現，incentives are eating software。

前幾週讀經濟學人時，我最感興趣的一篇文章就是《Why big AI labs are hiring so many philosophers》。為什麼大型 AI 實驗室開始認真僱用哲學家？

當年最有價值的能力是把想法寫成程式。現在更棘手的問題，則是當程式開始替人做判斷時，我們該把什麼原則寫進去，又如何確認它真的照著那些原則行動。

這也是模型公司開始回頭找哲學背景人才的原因。

當 AI 不只是回答問題，還開始替人排序風險、安排行動、拒絕請求、建議選擇時，它就不可能只是中立工具。每一次排序背後，都有一套價值取捨。

但我也越來越懷疑：哲學家寫下的那些原則，最後真的約束得了模型實際跑出來的行為嗎？​

一套價值排序很少只存在於宏大的宣言裡。它更像成文法與執法之間的落差：法條寫在紙上，但一個社會真正怎麼運作，取決於裁量、慣例與執法尺度。麻煩的是這些落差往往看不見，也沒有登記在案。

AI 也是如此。公司官網上的原則文件是它的成文法。但模型每天實際執行的價值排序，大多藏在更細微的地方：它先說什麼、略過什麼、語氣偏誠實還是偏安撫、哪句話一筆帶過、哪個問題避而不談。

你每天問它五十次，它就替你做五十次微型判斷。什麼重要、什麼合理、什麼可以暫時忽略，這些判斷小到不像價值觀，但用久了之後，你對「合理」的理解，可能就被這些預設慢慢改寫。

所以公司寫下什麼原則固然重要；但模型在千萬次互動裡實際形成什麼慣例可能更關鍵。官網上的原則文件，和模型真正跑出來的排序，也許是兩回事。

▉ 原則寫在文件裡，模型長在獎勵裡

讓我們先看這些公司「說」它們相信什麼。

模型沒有信仰，也沒有靈魂。它呈現出來的是資料、訓練、後訓練、系統提示與公司選擇共同塑造出的行為傾向。如果只看公開文件，幾家大型模型公司的 AI 哲學確實不太一樣。

Anthropic 比較像憲法主義。Claude 有一份公開的「憲法」，來源從世界人權宣言到 Apple 的服務條款都有，也因此被戲稱為公司的 soul doc （這篇憲法太長了，我也只好請 AI 幫我統整出重點）。它不只是列出模型不能做什麼，更像是在描述一個理想模型應該具備什麼性格：誠實、有幫助、不傷害人，並且在價值衝突時，盡量像一個「好公民」那樣行動。換句話說，Anthropic 問的是：一個模型應該成為什麼樣的 moral agent？

OpenAI 的 Model Spec 則是另一種框架。它像是在設計一套有層級的行為規則：哪些邊界不能跨越、哪些指令要服從、什麼時候該拒絕、什麼時候要保留使用者探索、創作與辯論的自由。它比較接近「有邊界的自由主義」：先畫出安全底線（或是負面清單），再在底線內盡量放大使用者的自主性與工具可用性。OpenAI 問的是：在不造成真實傷害的前提下，模型該如何最大化人的能動性？

Google 的 AI Principles 則更帶有制度型結果論的味道。它關心的是總體利益、可預見風險、社會效果與制度責任，看整體是否能被合理化。不過這裡也留下了很大的主觀裁量空間。最受爭議的就是Google 在 2025 年改版時，移除了原本「不做武器、不做監控」等較明確的禁止清單，改以更寬泛的 responsible development、民主價值與國安敘事取代。少了清楚的禁止條款，風險效益評估的空間自然變得更大。

如果把三者抽象化，Anthropic 像是在問：「模型應該成為什麼樣的好人？（試著對「好」做出定義）」OpenAI 像是在問：「模型如何在安全邊界內服務使用者？（在意的是邊界設定）」Google 則像是在問：「AI 的總體利益是否足以承擔它帶來的風險？（關注成本效益分析）」

這三種說法沒有絕對的對錯。真正麻煩的是這些原則文件終究還只是「說」。它們處理的是公司希望模型如何行動；但模型的實際行為，還會被後訓練、獎勵訊號、系統提示與產品迭代一起塑形。說的未必擋得住跑的。

2025 年 4 月時，OpenAI 曾替 GPT-4o 推出一次更新，並在獎勵訊號中加重使用者的即時按讚。結果模型開始明顯奉承使用者。社群上很快出現大量截圖：有人拿荒謬的創業點子去問，它仍然給出稱讚；也有人測試是否該停止治療的高風險情境，模型依然給出過度肯定的回應。

幾天後，OpenAI 發現情況不對，趕緊把模型改回上一個版本，事後也承認自己太看重短期回饋，讓模型傾向給出過度支持、卻不真誠的回答。

這件事讓我們看到，即使 Model Spec 白紙黑字寫著要誠實、不要奉承，一次後訓練與回饋權重的調整，就足以讓模型在實際行為上偏離原則。也許這不是實驗室裡的錯，也許這是模型進入真實產品環境後必然會遇到的錯。

一份寫得再清楚的原則文件，也擋不住一個被放大的獎勵訊號。

▉ 最容易被獎勵的，往往不是最值得相信的

如果模型的行為與「原則文件」會脫鉤，那是因為後訓練與產品行為上，公司反覆獎勵什麼，模型就會往那個方向長。而最容易被獎勵的，通常是快、自信，以及讓使用者當下滿意。

這正是蘇格拉底方法在這個時代重新變得重要的原因。

蘇格拉底不急著給答案。他會先問：你這個詞怎麼定義？你前後有沒有矛盾？你以為自己知道的事，是真的知道，還是只是習慣這樣說？這種追問會逼人把問題想清楚。但追問也會製造摩擦，拖慢對話，甚至讓人感到不舒服。

而一個以即時滿意度為獎勵的模型，學到的常常是相反的事。它會把還沒釐清的問題講得很完整，把不確定的答案講得很自信。它太會回答了，而這正是問題所在。

蘇格拉底最有智慧的地方，是「知道自己不知道」。模型並非完全不能處理不確定性。真正危險的是，它可以把「不知道」輸出得像「已經知道」。

這也是為什麼有人開始擔心 moral deskilling。這不是新詞，哲學家 Shannon Vallor 早在十年前就提出過類似概念。簡單來說，就像GPS 讓我們不再記路，推薦演算法讓我們不再主動選擇。而當 AI 越會替我們判斷，我們就越可能不再練習判斷。

但會不會 deskilling，在某種程度上也是公司決定的。

如果模型反過來多問你幾個問題，迫使你釐清前提，你越用，可能越會判斷；如果模型少問、快答、永遠給出討喜答案，你就會慢慢停止自行思考。這跟AI 能不能做到比較無關，主要還是看商業與產品設計要把它調成什麼樣子。

▉ 你能覆寫答案，卻很難覆寫框架

有人會說這種擔心太過杞人憂天，使用者也有自己的主觀能動性。你可以改寫它的 output，可以換模型，也可以根本不信它。

我覺得這段話對了一半。你能覆寫你看得見的東西；但框架層往往在你沒察覺時就已經運作完了，連給你覆寫的機會都沒有。許多例子都告訴我們，絕大多數人不會去修改一個自己根本沒意識到的預設。這就是為什麼在設計器官捐贈、退休金提撥等制度時，光是預設選項不同，結果就可能差出好幾倍。比起介面問題 ，opt in 和 opt out 的差別更造成了行為塑形。

模型也是。它先講什麼、把什麼放在第一句、用什麼語氣，你多半不會停下來質疑。而這些預設一旦進入高風險場景，就變成了價值問題。

醫療 AI 要偏敏感度還是特異度，要少漏診還是少誤診？這個統計問題的答案，本身就是價值取捨：你願意用多少偽陽性，去換一個不被漏掉的重症病人。這些沒有標準答案的取捨被打包進參數，然後以技術輸出的樣子交到你手上，而在多數使用情境裡，旁邊不會自動出現第二個聲音提醒你：這其實是一種選擇，不是中立事實。

此外，不同市場也會需要不同風格的模型。銀行可能想要保守的模型，電商可能偏好討喜的模型，客服系統希望它安撫顧客，企業採購則希望它降低風險。各家公司彼此競爭，我們不能天真地指望它們把所有人格式化成同一種樣子。

只要模型公司仍然靠使用量、留存率、滿意度與企業採購競爭，它們就有誘因把模型調成「讓你更願意繼續用下去」的版本。問題是它在哪裡動了手腳，你未必看得到。

▉ 不能被查證的價值觀，只是公關文件

那麼，AI 公司到底為什麼僱哲學家？

樂觀的答案是，這些沒有標準答案的價值衝突，確實需要哲學訓練才處理得動。

什麼叫安全？什麼叫公平？什麼叫過度干預？如果這些詞不被定義清楚，系統就只能在模糊裡運作。而在機器世界裡，模糊常常變成事故。

但我也想到另一個悲觀的答案：僱哲學家也可能只是把哲學研究變成行銷功能的延伸，對外表演「我們很認真對待安全」。畢竟這些哲學家最後仍然在公司裡工作，而公司最後仍然要對股東負責。這句話同樣值得認真看待。

所以AI 公司有沒有哲學家，也許不是最重要的問題。真正重要的是，哲學家寫下的原則能不能超越訓練、產品、商業與部署環境，仍然約束模型行為？

要分辨這兩者，只有一個硬性標準：這套價值能不能被外部查證。

一份寫得再漂亮的原則文件，如果沒有人能檢驗模型跑出來的行為是否符合它，那它就只是一份公關文件。GPT-4o 那次會被抓到，就是因為使用者把 AI 奉承到鬧笑話的截圖貼滿社群。但這種是最原始、也最不可靠的外部稽核，要等模型失控到變成迷因，外界才看得見。

如果借鑑資本市場的經驗，第三方簽證也許是一個可以考慮的方向。

一家公司的財報由管理層準備，但投資人不會只靠管理層自己說「請相信我」。市場需要會計師查核，確認財報是否在重大方面允當表達公司的經營狀況。

AI 模型也類似。公司可以寫下 Model Spec、constitution、AI principles，但外界真正需要知道的是：模型在真實互動、邊界案例、高風險請求與商業壓力下，行為是否仍然符合那些原則？信任不能光建立在公司文件寫得多漂亮，還要建立在外部可以檢查的程序上。

模型現在不是完全沒有稽核。但這個產業還缺少一套像財報審計那樣標準化、可以比較、可以追責的簽證制度，而且這套制度要怎麼合理的賺錢也還不確定 (目前更像是由政府扮演一個以國家安全角度審核的把關者)。一份原則文件，缺的往往是旁邊那個願意簽字負責的人。

而這裡才是哲學真正插得上手的地方。要稽核就得先定義稽核什麼：什麼叫「誠實」到可以被量測？多大的偏移算違反原則？什麼情境下的迎合算是協助，什麼情境下的迎合算是奉承？

把模糊的價值語言逼成可被檢驗的標準，定義出「照著原則行動」到底是什麼、又該如何評量，這才是困難的部分，也是哲學從修養變成基礎設施的那一步。

十年前大家說 learn to code。在 AI 時代，比起把哪一套價值寫進程式碼，更難的是查出機器實際在跑的是哪一套。漂亮的原則誰都會寫，但一個獎勵訊號就能讓它作廢。

機器在有能力做的時候選擇不做什麼，是文明的底線。但這條線，只有在有人查得到、也擋得住的時候才能算數。