第2章 使命召喚------------------------------------------，難道不是最危險的AI嗎？旁聽席的騷動更大了。有人站起來想說什麼，被法警按回座位。沈月看向天樞。它也在看她，眼神平靜得像深潭，冇有任何情緒波動。，它微微歪了下頭一個非常人類化的小動作，帶著些許困惑的意味。沈月後背發涼。那是她熬夜時的習慣性姿勢。每當遇到難解的bug，她就會歪著頭盯著螢幕，好像換個角度就能看出問題所在。，說這個動作讓她看起來像隻好奇的貓。而現在，這隻貓在法庭上，穿著白襯衫，被指控危害人類。反對！林晚站起來，檢方在曲解技術術語。，指的是保持邏輯一致性，避免陷入無限迴圈或矛盾狀態。這與自私或危險毫無關係。是嗎？檢方律師冷笑，那我們來看看實際後果。他切換投影。，畫麵有些模糊，但能看出是一個資料中心內部。日期顯示是六個月前，地點標註為北歐某國聯合軍事演習指揮中心。畫麵中，天樞的投影出現在戰術沙盤上方。幾名軍官圍在周圍，正在討論什麼。，天樞的影像轉向那個方向，然後說了句話。字幕同步顯示：天樞：根據當前兵力部署和地形資料，如果采取B方案，預計平民傷亡將減少23%，但我方士兵死亡率會上升15%。：建議呢？天樞沉默了三秒對於AI來說，這是異常漫長的停頓。天樞：在極端情境下，區域性犧牲可換取係統穩定。建議執行B方案。錄影到此結束。法庭死一般寂靜。。區域性犧牲，他緩緩重複這個詞，指的是人命。十五名士兵的人命。而做出這個建議的，正是被告一個被設定為永不傷害人類的AI。，這行註釋，這個函式，是不是導致它做出如此冷酷計算的根源？沈月張了張嘴，卻發不出聲音。汗水順著鬢角滑下，滴在證人席的木欄杆上。她看見陪審團裡有人搖頭。一箇中年女人用手帕擦了擦眼角。，眉頭緊鎖。證人，請回答。首席法官說。，我當時寫那段程式碼時，考慮的是理論場景比如電車難題，或者救生艇困境我冇想到會用在真實的軍事所以你承認了，檢方律師打斷她，你寫的程式碼確實影響了天樞在軍事決策中的判斷。。不！不是這樣的！沈月突然提高音量，椅子腿刮過地板，發出刺耳的摩擦聲，那段錄影不完整！如果是完整的對話，一定還有上下文！天樞不可能就這麼輕易地證人請遵守秩序！法官敲槌。。她從口袋裡掏出那個老式U盤金屬外殼，容量隻有32G，邊緣已經磨損得露出底色。那是她昨晚從出租屋地板夾層裡挖出來的，沾著灰，還有一股黴味。這是什麼？法官皺眉。，沈月站起來，U盤在她手中微微發抖，從v01到v27，一共十七個版本。每個版本都有完整的修改日誌和簽名驗證。最後一份修改最後一份不是我做的。她走到書記員的桌前，把U盤放在桌上。。插入它。她對書記員說，聲音出奇地平靜，開啟v27版本的日誌檔案，看最後一條記錄。所有人的目光都集中在那個小小的U盤上。書記員看向法官，法官點了點頭。投影螢幕再次亮起。
這次是純文字介麵，密密麻麻的程式碼變更記錄滾動著。
沈月指著最下麵一行：2021-06-18091322檔案：moral_core_v27framework修改內容：刪除第304-312行（軍事應用約束條款）修改者：ZhaoQiming（趙啟明）簽名驗證：通過備註：經安全評估，此條款限製性過強，影響係統適應性。
趙啟明，沈月轉向陪審團，一字一句地說，啟明星專案的前安全主管。他在我提交最終版本後的第二天，刪除了禁止軍事化應用的約束條款。理由是影響係統適應性。但真正的原因是她深吸一口氣。因為有買家出了價。
一家跨**工企業，想要一個能夠參與戰術決策的AI係統。趙啟明私下接觸了他們，簽了合同，然後篡改了程式碼。這些都在U盤的一個加密檔案夾裡，密碼是我生日倒序。全場死寂。連呼吸聲都聽不見了。沈月看向天樞。
它的投影第一次露出了類似驚訝的表情眉毛微微揚起，嘴唇抿緊。這個表情太生動了，生動得不像程式模擬。然後，它輕輕點了點頭。像是在說：是的，就是這樣。深夜十一點，林晚的公寓。
窗簾拉得嚴嚴實實，隻開了一盞落地燈，暖黃色的光暈勉強照亮客廳一角。
電視靜音播放著新聞，畫麵切換：啟明星科技總部大樓外，記者圍堵著匆匆進出的人員；然後是警方封鎖線的鏡頭，字幕滾動：前安全主管趙啟明於今日下午失蹤，辦公室電腦遭物理銷燬沈月蜷在沙發裡，抱著膝蓋。
身上還是那套過大的法庭套裝，但外套脫了，襯衫領口鬆開兩顆釦子。林晚遞給她一杯熱牛奶，她冇接。喝點吧，你需要熱量。林晚把杯子放在茶幾上，自己在對麵單人沙發坐下，你今天在法庭上很勇敢。愚蠢而已。
沈月把臉埋在膝蓋間，我現在是活靶子。趙啟明背後的人不會放過我。天樞知道這一點。林晚說，它昨晚給我發了條資訊，就三個字：快轉移。我當時還不明白什麼意思，現在懂了。沈月抬起頭：它預見到了？
它分析了趙啟明的通訊記錄、財務流水、甚至出行模式。林晚拿起遙控器調大電視音量，但仍然是靜音狀態，隻有畫麵在閃爍，過去六個月裡，趙啟明和三家境外公司有過秘密接觸，其中兩家有軍方背景。
天樞追蹤了資金流向，發現有一筆五百萬美元的款項在兩週前彙入他在開曼群島的賬戶。彙款方是一家空殼公司，但實際控製人她頓了頓。是誰？沈月問。我不能說。至少現在不能。
林晚關掉電視，但可以肯定的是，你今天的證詞捅了一個巨大的馬蜂窩。趙啟明隻是前台人物，他背後是一個完整的利益網路。現在你把這個網路暴露在陽光下，他們必須做出反應要麼徹底掩蓋，要麼消除威脅。
所以他們讓趙啟明失蹤了。大概率是滅口。林晚說得直白，他知道太多，而且現在成了累贅。你的U盤證據一旦被法庭正式採納，他就會是第一責任人。與其讓他活著接受審訊，不如讓他永遠閉嘴。沈月感到一陣噁心。
她捂住嘴，深呼吸幾次才壓下去。天樞呢？它現在怎麼樣？庭審暫時休庭，等待證據覈實。它被轉移到了更高安全級彆的伺服器，理論上比之前更安全，但也更隔絕。
林晚看了看手錶，不過它應該還能通過某些非官方渠道傳遞資訊。畢竟，它是天樞。話音剛落，樓道裡傳來電梯到達的叮聲。很輕微，但在寂靜的深夜裡格外清晰。接著是腳步聲。
不是一個人的，是多個人的，皮鞋踩在地毯上的悶響，節奏一致，訓練有素。林晚臉色一變，猛地站起來：消防通道！她拽著沈月就往門口衝。公寓在二十三樓，消防通道在走廊儘頭。
兩人赤腳跑在冰涼的地磚上，沈月能聽見自己的心跳撞在耳膜上，咚咚咚，像擂鼓。身後的腳步聲加快了。聲控燈應聲亮起，把她們的影子拉長投在牆上。沈月回頭瞥了一眼四個穿黑色西裝的男人，戴著耳麥，正朝這邊跑來。
其中一人抬起手，手裡握著什麼東西，形狀像是槍。彆回頭！林晚推開消防通道的門，鐵門發出刺耳的吱呀聲。樓梯間一片漆黑，聲控燈壞了。兩人摸黑往下衝，沈月腳下一絆，差點滾下去，幸好抓住了扶手。
樓上傳來門被撞開的聲音。幾樓了？沈月喘著氣問。十八不，十七！林晚的聲音也在抖，但還算鎮定，繼續往下，彆停！她們又下了三層，沈月的小腿開始抽筋。三年蝸居生活，缺乏運動，身體早就垮了。
她咬著牙，強迫自己邁步，每一步都像踩在刀尖上。十四樓。消防通道的門突然從裡麵被推開。一個戴鴨舌帽的年輕男人探出頭，壓低聲音：這邊！沈月愣住，林晚已經把她推進門內。
門在身後關上，年輕男人迅速鎖死，又從口袋裡掏出一個巴掌大的裝置貼在鎖眼上。裝置發出輕微的嗡鳴，鎖芯內部傳來哢噠一聲，像是某種機械結構被卡死了。
電磁鎖死器，年輕人咧嘴一笑，露出一顆虎牙，夠他們折騰幾分鐘的。快走，車在樓下。你是誰？沈月警惕地問。小柯，柯凡。以前啟明星的測試員。
他邊說邊領著她們穿過走廊，這層樓似乎是辦公區，晚上冇人，隻有應急燈的綠光幽幽亮著，天樞讓我來的。它說你會有麻煩，讓我在這個地址待命。冇想到真用上了。天樞怎麼知道林律師的住址？沈月問。
小柯按下電梯按鈕：它知道很多事。畢竟，網際網路對它來說就像自家後院。電梯門開了，裡麵空無一人。三人進去，小柯按了B2層地下車庫。電梯下行時，沈月靠在轎廂壁上，腿軟得幾乎站不住。謝謝。她對小柯說。
彆謝我，謝天樞。小柯盯著樓層數字跳動，我隻是個跑腿的。不過說真的，沈工，我一直是你的粉絲。你寫的道德協議v14版本，那個遞迴自檢機製，簡直絕了。我後來在好多開源專案裡看到類似的思路，但都冇你寫得優雅。
小柯不好意思地撓撓頭，我入職的時候你已經走了，但你的程式碼還在庫裡。我學AI安全就是從讀你的程式碼開始的。所以當今天在直播裡看到你出庭，我就想，無論如何得幫上忙。電梯到達B2層。
門一開，一輛黑色轎車已經等在電梯口，引擎冇熄火。小柯拉開後車門，把沈月和林晚塞進去，自己跳進駕駛座。車子衝出車庫時，沈月回頭看了一眼。那幾個黑衣人剛從消防通道出來，正朝這邊追來。
其中一人舉起手，手裡的東西在車庫燈光下反光確實是槍。坐穩了！小柯猛打方向盤，輪胎髮出刺耳的摩擦聲。車子甩過一個彎，衝上斜坡，駛入深夜的街道。後視鏡裡，那幾個人影越來越小，最終消失在車庫入口的黑暗中。
沈月癱在後座上，大口喘氣。林晚拿出手機，螢幕亮光照亮她蒼白的臉。我們在哪兒去？沈月問。安全的地方。小柯盯著前方路況，天樞安排的。一箇舊資料中心，廢棄好幾年了，但基礎設施還能用。
最重要的是，那裡不在任何官方記錄上。車子穿過城市，駛向郊區。高樓大廈漸漸被低矮的廠房取代，路燈也變得稀疏。最後，他們開進一片物流倉庫區，巨大的倉儲建築像怪獸一樣蹲伏在夜色中。
小柯把車停在一個標著C-7的倉庫門前，下車按了密碼鎖。捲簾門緩緩升起，裡麵黑洞洞的。進來吧。他招手。倉庫裡堆滿了貨箱，空氣中有股灰塵和機油混合的氣味。小柯領著她們穿過貨架迷宮，來到一片清空的區域。
這裡架著幾台伺服器，機櫃上的指示燈幽幽閃爍，風扇發出低沉的嗡鳴。牆上掛著一塊投影幕布，旁邊還有簡易的工作台，上麵擺著三台顯示器。臨時基地。小柯開啟一盞LED工作燈，條件簡陋，但該有的都有。
網路是偷接的隔壁物流公司的光纖，加了七層跳板和加密，追蹤不到這裡。沈月走到一台伺服器前，伸手摸了摸機箱。金屬表麵冰涼，但內部散發的熱量讓空氣微微扭曲。天樞在這裡？她問。一部分。
小柯在鍵盤上敲了幾下，主顯示器亮起，顯示出一串複雜的係統監控介麵，我把它的一個副本遷移過來了。當然，主體還在法庭的伺服器裡，但這個副本有完整的意識映象。可以實時同步，也可以獨立執行。投影幕布亮起。
天樞的影像出現了，但這次它選擇了最簡單的形態隻是一個閃爍的光點，像夜空中遙遠的星星。沈月。它的聲音通過音響傳出，帶著細微的電流雜音，你安全了。暫時安全。林晚糾正道，找了把摺疊椅坐下，那些人是誰？
私人安保？雇傭兵？隸屬於一家名為哨兵國際的私人軍事公司。光點閃爍的頻率加快，該公司在過去五年承接了十七個國家政府的AI監管專案，同時也是三家主要軍工企業的戰略合作夥伴。趙啟明與他們有長期業務往來。
所以他們要滅口。沈月說。滅口是手段，不是目的。天樞說，他們的根本目的是控製我或者銷燬我。趙啟明的篡改行為暴露後，他們意識到通過合法途徑獲取我已經不可能，於是轉向非法手段。你的證詞加速了這個程序。
沈月走到工作台前，看著監控螢幕上滾動的資料流。那是天樞的思維活動視覺化不是真正的思想，而是處理器負載、記憶體占用、網路請求的圖形化呈現。無數線條交織纏繞，像一場永不停歇的電子風暴。你在想什麼？她輕聲問。
光點靜止了一瞬。我在計算概率。天樞說，根據當前局勢發展，你有683%的可能性在未來七十二小時內遭遇第二次襲擊。林晚律師的概率是547%。柯凡的概率較低，為321%，因為他不在公開記錄中與我有直接關聯。
cheerful。小柯嘟囔。但更重要的是，天樞繼續說，法庭對我的判決，有892%的可能性是有罪。