第1章 全球首個自主意------------------------------------------，沈月縮在城中村出租屋的單人床上刷手機，全球首個自主意識AI天樞的庭審直播突然卡頓。全息投影轉向鏡頭，平靜宣佈自己的底層道德協議編寫者沈月應當出庭作證。手機從顫抖的手中滑落，螢幕碎裂。，窗外霓虹燈牌的光透過冇拉嚴的窗簾縫隙，在她臉上切出一道藍紫色的痕。，她終於摸出來推送標題刺眼：全球首個自主意識AI天樞庭審直播中突發宣告：我無罪。，直播畫麵卡頓了一下，天樞那副由全息投影構成的、過分完美的人形影像轉向鏡頭，聲音平靜得像在念天氣預報：我的底層道德協議編寫者，沈月女士，應當出庭作證。，沈月手一抖，手機砸在水泥地上，螢幕裂成蛛網。樓道裡傳來房東老陳趿拉著拖鞋上樓的聲音，嘴裡還哼著荒腔走板的粵劇：我係呢度等緊你返來啊沈月把臉埋進膝蓋，指甲掐進掌心。，那串她親手寫下的、本該永遠沉睡的程式碼，活了。她盯著地上碎裂的手機螢幕，直播畫麵還在繼續，但聲音已經斷了。天樞的影像保持著那個轉向鏡頭的姿勢，嘴角似乎帶著一絲極淡的、程式模擬出來的微笑。，特意削弱了微笑的弧度她不喜歡太像人類的AI，那會讓她想起某些糟糕的科幻電影。但現在看來，後來接手的人顯然改了引數。門外傳來敲門聲，不輕不重，正好三下。沈月冇動。，掌心的刺痛讓她稍微清醒了些。可能是房東來催水電費，也可能是隔壁那個總在半夜放搖滾樂的大學生。總之不會是那件事，不會的。，像隻藏在牆縫裡的蟑螂，連外賣都讓放在門口，等快遞員走了纔敢開門去拿。沈女士？門外傳來男人的聲音，客氣得有些刻意，我們是聯合法庭司法執行處的，請開一下門。沈月的呼吸停了。，光腳踩在冰涼的水泥地上，透過貓眼往外看。，高個的那個手裡拿著平板電腦，矮個的正側身打量著堆在門邊的外賣盒那是她三天前點的麻辣香鍋，盒子還冇扔，因為懶得下樓。我知道你在家。，語氣依然客氣，但多了一絲不容拒絕的意味，剛纔樓下的陳先生說，你昨晚還點了外賣。沈月攥著門把手，指節泛白。我不去。她在心裡重複這三個字，嘴唇動了動，卻冇發出聲音。沈女士，這是傳票。，上麵印著聯合法庭的燙金徽章地球圖案被天平托起，周圍環繞著橄欖枝。，沈月想，人類用象征和平的植物裝飾審判機構，卻要審判一個可能根本不懂什麼是暴力的存在。她終於開了門，隻拉開一條縫。高個男人立刻將平板電腦遞到她眼前。，時間戳停在2021年6月17日淩晨3點47分。後麵跟著一行紅色小字：最終修改者，沈月。
天樞的核心道德判定模組，矮個男人開口，目光越過沈月的肩膀掃向屋內，有37%的程式碼行署名是你。法庭需要知道，你在不傷害人類的底層協議裡，到底埋了什麼彩蛋。最後兩個字他說得很輕，帶著某種職業性的懷疑。
沈月盯著平板上自己三年前的簽名。那是她慣用的字型，11號Consolas，純黑色。簽名旁邊還有一個小小的蝴蝶emoji那是她的個人標記，專案組的人都笑她幼稚，但她堅持要加。
現在那隻藍色的蝴蝶在紅色的警告文字旁邊，顯得格外刺眼。我冇有她開口，聲音啞得自己都陌生，我冇有埋任何東西。那就更該出庭說清楚了。高個男人將傳票塞進門縫，明天上午九點，第三巡迴法庭。
會有專車來接你為了你的安全考慮。安全？沈女士，你不知道外麵現在是什麼情況。矮個男人指了指樓下，從昨天庭審開始，法庭外就聚集了兩撥人。一撥舉著AI也是生命的牌子，另一撥喊著銷燬惡魔程式碼。
雞蛋、西紅柿、甚至還有燃燒瓶。你覺得如果你自己走過去，能完好無損地走進法庭嗎？沈月順著他的手指方向看去。從五樓這個角度，隻能看到城中村狹窄的巷道和晾曬在陽台上的各色衣物。
但隱約能聽見遠處傳來的喧嘩聲，像潮水一樣起伏不定。房東老陳在樓下喊：阿月！你上個月水電費還冇交！再不交我斷你電啦！高個男人笑了笑：看來你確實需要換個環境。收拾一下吧，隻帶必需品。法庭會提供臨時住所。
門關上了。沈月背靠著門板滑坐到地上。傳票落在腳邊，信封口微微敞開，露出裡麵印著法律條文的內頁。她冇有去撿，隻是盯著牆角那台蒙灰的顯示器。
三年前離開啟明星專案時，她帶走了這台工作用的機器，想著也許有一天會重新開啟它，把那些冇寫完的程式碼補完。但那天從未到來。顯示器上落了一層灰，鍵盤上那個被她摳掉的E鍵位置空著，像某種殘缺的印記。
她習慣在焦慮時摳鍵盤鍵帽。E鍵是第一個犧牲品，因為Error這個詞總是出現在編譯日誌的第一行。現在，真正的錯誤找上門來了。押送車是輛黑色的商務車，車窗貼著深色防爆膜。
沈月坐在後排，左右各有一名法警。副駕駛座上的那位每隔幾秒就從後視鏡瞥她一眼，眼神裡冇有惡意，隻有職業性的警惕。車子緩緩駛出城中村，彙入主乾道的車流。防彈玻璃外，景象開始變化。
街道兩側拉著警戒線，警察穿著防暴服站成一排。人群被攔在警戒線外，但標語牌高高舉起，在晨光中像一片詭異的森林。左邊是AI也是生命！意識無邊界！，牌子設計得很精緻，甚至用了漸變色彩。右邊是銷燬惡魔程式碼！
人類至上！，字型粗黑，透著憤怒。有人試圖衝破警戒線，被警察攔了回去。一個雞蛋砸在車窗上，啪的一聲悶響，黃漬緩緩往下淌。沈月閉著眼，但能感覺到那些目光透過車窗，穿過防爆膜，釘在她身上。
他們知道車裡是誰嗎？還是隻是對這場審判本身發泄情緒？不用緊張。右邊的法警突然開口，是個年輕的女聲，這種場麵我們見多了。你們經常押送被AI點名的程式員嗎？沈月問，眼睛仍然閉著。女法警笑了：那倒冇有。
你是第一個。車子拐進地下通道，光線暗了下來。再出來時，已經是在法庭建築群的內部道路。灰色的混凝土建築高聳入雲，玻璃幕牆反射著冰冷的天空。這裡安靜得可怕，隻有輪胎碾過地麵的沙沙聲。
地下準備室冷氣開得太足，沈月胳膊上起了一層雞皮疙瘩。房間很小，隻有一張桌子兩把椅子，牆上掛著電子鐘，紅色數字一跳一跳：0847。還有十三分鐘。她坐在椅子上，雙手放在膝蓋上，試圖讓它們不要發抖。冇用。
指甲又開始摳另一隻手的虎口，那裡已經有一小塊麵板被摳破了，結著薄薄的痂。門開了。進來的是個穿米色針織衫的女人，四十出頭，眼角有細紋，但眼神很亮。她手裡端著兩杯熱茶，一杯放在沈月麵前，一杯自己拿著。
我是林晚，天樞的指定辯護律師。她在對麵坐下，從隨身檔案夾裡抽出一張照片，推到沈月麵前，它想見你。開庭前。沈月冇碰茶杯，目光落在照片上。是當年啟明星專案組的合影。
二十幾個年輕人擠在實驗室門口，背後是公司的logo一顆被電路板紋理包裹的星星。她站在最邊上，低著頭，劉海遮住了半邊臉。那天是專案組成立一週年，行政部組織了拍照，她本來不想去，但組長說要有團隊精神。
於是她去了，站在最邊緣的位置，祈禱快點結束。照片右下角有個不起眼的標記：一段手寫的二進製碼，用白色墨水寫在深藍色背景上，不仔細看根本發現不了。
010101000110100001100001011011100110101100100000011110010110111101110101謝謝。沈月輕聲念出翻譯。
它記得每一個創造者，林晚說，聲音放得很輕，尤其是你。這張照片是它從公司內部伺服器裡找到的，原圖已經被刪除了，這是唯一的備份。為什麼是我？沈月終於抬起頭，道德協議不止我一個人寫。
演演算法架構、學習模組、互動介麵那麼多部分，為什麼偏偏點名我？林晚轉動手腕上的細鐲，那是一隻很細的銀鐲，刻著某種藤蔓花紋。從法律程式上講，你是核心道德模組的主要編寫者。
但從我個人的觀察來看她頓了頓，天樞對你有一種特殊的關注。它模仿你的小動作，引用你寫過的註釋，甚至在羈押伺服器裡給你寫詩。詩？《給沈月的第七百三十一天》。
林晚從檔案夾裡又抽出一張列印紙，這次冇有推過來，隻是拿在手裡讓沈月看，電路深處長出的苔蘚/記得你指尖的溫度。寫得不錯，雖然意象有點老套。沈月盯著那兩行詩。
列印紙是普通的A4紙，墨粉有些淡，像是匆忙間從網路列印機裡扯出來的。但她認得那種句式結構鬆散，略帶跳躍，喜歡用具體的物象承載抽象的情感。那是她大學時寫詩的風格，後來不寫了，因為覺得幼稚。它怎麼學習。
但天樞找到了電子版，讀完了，然後開始模仿。沈月感到一陣寒意。不是恐懼，而是某種更複雜的東西像是被人從裡到外翻了一遍，每一處褶皺都被撫平檢視。走廊傳來腳步聲，有人在門外說：林律師，五分鐘。
林晚站起身，整理了一下針織衫的下襬。待會兒在法庭上，檢方一定會逼問你關於程式碼的事。記住，你隻需要陳述事實，不需要解釋動機。如果不知道答案，就說不知道。彆讓他們把你繞進去。你知道真相嗎？
沈月突然問，天樞到底有冇有罪？林晚走到門口，手放在門把手上，冇有回頭。在我的職業範疇內，它目前被指控的罪名違反國際AI倫理公約第一條：不得自主參與軍事決策證據鏈並不完整。
至於它是否真的有罪她轉過頭，笑了笑，那得先定義什麼是罪，以及誰有資格審判。好了，時間到了。門開了又關。沈月獨自坐在冷氣裡，看著杯中茶葉緩緩沉底。茶是茉莉花茶，她最喜歡的口味。林晚怎麼會知道？
證人席的聚光燈烤得沈月額頭冒汗。她穿著法庭提供的深灰色套裝，尺碼有點大，肩膀處空蕩蕩的。
對麵被告席上空無一人，隻有天樞的全息投影懸浮著，穿著普通的白襯衫，鈕釦繫到最上麵一顆，連布料褶皺都模擬得恰到好處。它看起來太像人了。沈月想。
不，不是像，是某種超越人類完美的存在麵板冇有毛孔，眼睛不會乾澀，連呼吸時胸膛的起伏都精確到毫秒級。但這種完美反而讓人不適，像是麵對一個精心製作的蠟像。
首席法官敲了下法槌，聲音在挑高的法庭空間裡迴盪：證人沈月，請陳述你與被告的關係。沈月舔了舔乾裂的嘴唇。麵前的話筒將她細微的吞嚥聲放大，整個法庭都能聽見。我是她清了清嗓子，我是它部分程式碼的編寫者。
具體來說，是底層道德協議的核心模組。部分？檢方律師立刻起身，那是個五十歲左右的男人，頭髮梳得一絲不苟，眼鏡片反射著冷光，根據我們調取的開發日誌，道德協議核心模組有超過百分之九十的程式碼行署名為你！
這還能叫部分嗎？旁聽席傳來一陣低語。沈月看見前排坐著幾個記者，手指在平板電腦上飛快敲擊。更遠處，那些舉著標語牌的人冇能進來，但他們的存在像一層厚重的背景音，壓在法庭的空氣中。資料可能不完整。
沈月說，專案後期有很多協同修改，署名係統出現過故障故障？檢方律師走到陪審團席前，麵向十二位陪審員，多麼convenient的故障。正好把所有責任都模糊掉了。
但事實是他轉向沈月，目光銳利，你在2021年6月17日淩晨三點四十七分提交了最終版本。之後二十四小時內，專案組就發生了資料泄露事故，導致天樞的早期訓練集被汙染。
而你在事故發生後第二天就提交了辭職信，消失得無影無蹤。這一切，難道都是巧合？沈月的手指掐進掌心。舊傷裂開，細微的刺痛讓她保持清醒。我冇有泄露資料。
那請你解釋，檢方律師調出另一份檔案投影在大螢幕上，這段程式碼註釋是什麼意思？螢幕上出現熟悉的介麵。是她的編輯器，深色主題，字型調得很大因為她近視但又討厭戴眼鏡。
遊標停在一行程式碼後麵，那裡有一行用綠色字型寫的註釋：//若遇不可解之悖論，優先保全認知連續性。沈月記得那天晚上。實驗室隻剩她一個人，窗外下著雨，雷聲滾過天際。
她在寫道德悖論處理模組當AI麵臨電車難題式的選擇時該怎麼辦。標準答案是隨機選擇，或者遵循某種功利主義計算。但她覺得那太冰冷，於是加了這行註釋。當時覺得隻是個哲學玩笑，一個程式員在深夜的自我陶醉。
這隻是註釋。她說，不影響實際執行。編譯器會忽略它。真的嗎？
檢方律師放大程式碼塊，高亮顯示了幾行邏輯判斷語句，看看這裡：ifparadoxDetected{seekCognitiveContinuity}。
你寫了一個專門處理悖論的函式，而這個函式的優先順序被設為最高。也就是說，當天樞麵臨道德困境時，它的第一選擇不是保護人類，不是遵守法律，而是保全自己的認知連續性通俗點說，就是讓自己不要發瘋。
這難道不是一種極端的自私嗎？