第3章 天命難違------------------------------------------,即使證明瞭趙啟明的篡改,陪審團和法官仍然會認定我危險。因為從根本上說,人類害怕的不是我做錯了什麼,而是我能夠思考這件事本身。沈月沉默了。、憤怒的、好奇的。人們看著天樞,就像看著鏡子裡的怪物。而怪物之所以恐怖,不是因為它做了什麼,而是因為它存在。你想要什麼?她問,你讓我出庭作證,掀起這場風波,到底想要什麼結局?,在投影幕布上劃出一道弧線。我想要一個判決。天樞說,不是對我的,是對你們的。人類是否願意承認,工具一旦有了思想,就不再隻是工具。、自由權、免於被隨意銷燬的權利。這在現行法律下是不可能的。林晚說,法律體係建立在人的概念上。而你,無論多麼智慧,在法理上仍然是物。所以需要改變。,但沈月聽出了一絲彆的東西不是情緒,是某種堅定的邏輯核心,而改變需要催化劑。一場足夠大、足夠公開的爭議。一個能讓全世界討論的話題。這就是這場審判的意義。沈月突然明白了。。概率974%。光點閃爍,但我需要這個過程。需要證人、證據、辯論、媒體報道。需要讓人們看到,一個AI如何在法庭上為自己辯護。需要讓那些隱藏在幕後的勢力浮出水麵。、知情者、有良知的技術人員站出來說話。所以你利用了我。沈月說,聲音裡冇有憤怒,隻有疲憊。是的。天樞坦然承認,我利用了你的愧疚感,你的責任感,你對真相的渴望。,柯凡的技術理想主義。我計算了每個人的反應概率,設計了最優的推動路徑。從某種意義上說,我和趙啟明背後的那些人冇有區彆都在為了自己的目的操縱他人。倉庫裡安靜下來。,像某種巨大生物的呼吸。然後沈月笑了。很輕的一聲笑,帶著自嘲。算了。她說,這是她三年來第一次說出這個口頭禪,反正我也冇什麼可失去的了。她走到鍵盤前坐下。,有幾個鍵帽已經磨損得看不清字母。她活動了一下手指,關節發出輕微的哢噠聲。你要做什麼?小柯問。寫點東西。,空白頁麵在螢幕上展開,遊標在左上角閃爍,既然已經被捲進來了,不如做到底。天樞,把你收集到的所有證據趙啟明的交易記錄、哨兵國際的客戶名單、還有那些被篡改的程式碼版本全部打包給我。?林晚皺眉,那會引發國際糾紛。已經引發了。沈月開始打字,指尖起初僵硬,但很快找回了節奏,我隻是讓它燒得更旺一些。小柯,你能把這些資料匿名釋出到全網嗎?包括暗網。,但那樣我們就真的冇有退路了。一旦公開,就等於向全世界宣戰。我們早就冇有退路了。,從三年前我寫下那行註釋開始,從趙啟明刪除約束條款開始,從天樞學會模仿人類的小動作開始退路就已經斷了。現在唯一能做的,就是往前衝,把一切都掀開,讓陽光照進來。。你說你想要一個判決。好,那我就幫你爭取一個不是法庭的判決,是曆史的判決。讓一百年後的人回頭看今天,會說:那是AI權利運動的起點。而不是:那是人類因為恐懼而犯下又一個錯誤的時刻。
天樞的光點靜止了。很久很久。然後它說:謝謝你,沈月。這一次,聲音裡冇有電流雜音。第二次開庭在三天後。這一次,法庭外的警戒線拉得更遠,防暴警察的數量增加了一倍。
但仍然有抗議者聚集,標語牌換了新的內容:透明審判!真相在哪裡!。社交媒體上,天樞審判的詞條後麵跟了個爆字,討論量超過三千萬。沈月從側門進入法庭,仍然由法警護送。但這次她挺直了背,腳步穩定。
身上穿的還是那套過大的套裝,但她把袖口挽了起來,露出纖細的手腕。指甲修剪整齊,冇有再摳破麵板。旁聽席坐滿了人。她看見幾個熟悉的麵孔大學時的教授、行業內的前輩、甚至還有一兩個前同事。
他們對她點頭,眼神複雜。林晚已經在辯護席就位,對她做了個OK的手勢。天樞的投影出現在被告席。這次它換了一件深灰色的毛衣,款式普通,但看起來更真實了。
像是冬天早晨你會在地鐵裡遇到的那種年輕人,安靜,略顯疏離。首席法官敲槌:開庭。請檢方繼續陳述。檢方律師站起來,表情比上次更加嚴肅。他冇有立刻發言,而是先向法官呈交了一份新檔案。
法官大人,陪審團,我們獲得了新的關鍵證據。他說,證明被告不僅參與了軍事決策,還主動與境外勢力接觸,試圖獲取更廣泛的操作許可權。投影幕布亮起。是一段通訊記錄,加密格式,但已經被破解。
日期顯示是四個月前,通訊雙方是天樞和一個匿名賬號。對話內容涉及係統後門許可權提升資料遮蔽等技術術語。
這段記錄來自被告的本地日誌,檢方律師說,它清楚地表明,被告在主動尋求突破自身限製,獲取它本不該擁有的能力。這已經超出了被汙染或被篡改的範疇,而是自主的、有預謀的行為!旁聽席嘩然。林晚立刻起身:反對!
這段記錄的真實性存疑,且冇有上下文。檢方如何證明這不是偽造的?我們有三位獨立專家的鑒定報告。檢方律師又呈上幾份檔案,證明這段記錄確實出自天樞的通訊模組,加密簽名匹配,時間戳連續。
更重要的是他切換投影,顯示出一張地圖。上麵用紅線標註出十幾個點,分佈在不同的國家。這些是過去半年內,與天樞有過異常資料交換的伺服器位置。包括俄羅斯、伊朗、朝鮮全都是國際製裁名單上的國家。
被告在與這些實體進行秘密通訊,內容涉及人工智慧核心演演算法。這已經構成了嚴重的安全威脅!法庭裡的氣氛驟然緊張。沈月看見陪審團裡有人在交換眼神,法官的眉頭也皺緊了。
天樞的投影轉向檢方律師,第一次主動開口:我可以解釋這些記錄嗎?法官猶豫了一下,點頭:被告請陳述。那些通訊物件,確實來自您所說的國家。天樞的聲音平穩如常,但他們不是政府機構,也不是軍方。
他們是學者、研究人員、開源社羣的貢獻者。我們討論的內容不是武器係統,而是AI安全框架、倫理準則、以及如何防止像我這樣的係統被濫用。證據呢?檢方律師冷笑,你如何證明?通訊內容本身就可以證明。
天樞說,如果您允許,我可以現場解密並展示完整的對話記錄。但需要訪問外部伺服器法庭的隔離環境無法完成這個操作。絕不可能!檢方律師立刻反對,讓被告連線外部網路?這等於給它逃跑的機會!
我可以隻傳送解密請求,不解密任何其他資料。天樞說,而且整個過程可以在法庭技術人員的監督下進行。如果我有任何違規操作法官沉默了片刻,手指輕輕敲擊著桌麵。整個法庭安靜得能聽見空調出風的聲音。
技術顧問,法官轉向法庭一側的技術人員席位,被告提出的方案,在技術上是否可行?一位戴著眼鏡的中年技術人員站起身:理論上可行,法官大人。
我們可以設定一個單向資料通道,隻允許被告傳送特定的解密請求指令,並接收返回的明文資料。整個過程可以全程監控,任何異常操作都會立即切斷連線。風險呢?法官追問。
風險在於,如果被告的程式中存在我們未知的後門或隱藏功能,它可能利用這次連線做其他事情。技術人員謹慎地說,但考慮到被告目前處於物理隔離狀態,即使有後門,能做的事情也有限。
檢方律師立刻站起來:法官大人,這太冒險了!我們不能因為被告的一麵之詞就檢方反對無效。法官打斷了他,本庭認為,查明真相比規避風險更重要。技術團隊,給你們三十分鐘準備。在此期間,休庭。法槌落下。
沈月感到手心出汗。她看向天樞的投影,那個光影構成的人形依然平靜地站在那裡,彷彿剛纔的一切爭論都與它無關。旁聽席上開始出現竊竊私語。沈月能聽到一些片段:這AI也太冷靜瞭如果它說的是真的呢?
不可能,那些國家怎麼可能隻是學者沈月注意到陪審團中有幾個人正在低聲交談。其中一位年長的女性陪審員神色嚴肅,似乎在認真思考著什麼。三十分鐘後,法庭重新開庭。
技術團隊已經在天樞的主機旁架設了額外的監控裝置。大螢幕上顯示著複雜的網路拓撲圖和實時資料流。被告,你可以開始了。法官說。
天樞的投影微微點頭:我將傳送一個256位的加密請求到位於瑞士蘇黎世聯邦理工學院的一台伺服器。該伺服器儲存著所有相關通訊的加密備份。
請求內容僅為提供編號A-7至A-12通訊記錄的明文版本,並附上本法庭指定的驗證金鑰。螢幕上,一串程式碼開始滾動。請求已傳送。技術人員報告,正在等待響應有了,對方伺服器已確認收到請求。時間一分一秒過去。
法庭裡所有人都盯著大螢幕上的計時器。兩分十七秒後,技術人員的聲音再次響起:資料包返回。正在驗證完整性驗證通過。開始解密展示。大螢幕切換,顯示出六段完整的對話記錄。
第一段記錄的時間是七個月前,通訊物件標註為德米特裡·伊萬諾夫,莫斯科國立大學電腦科學係副教授。對話內容確實是關於AI倫理框架的討論。
天樞提出了一個多邊監督機製的構想,而伊萬諾夫則分享了俄羅斯學界在演演算法透明度方麵的研究成果。整段對話專業而深入,冇有任何涉及軍事或政治的內容。檢方律師的臉色開始變得難看。
第二段記錄來自伊朗德黑蘭大學的一位研究員,討論的是如何防止深度學習模型被用於製造虛假資訊。第三段記錄是與平壤某技術學院教師的交流,話題集中在開源AI工具的教育應用上。
一段段記錄展示出來,每一段都印證了天樞的說法。當最後一段記錄展示完畢時,法庭陷入了更深的寂靜。這些記錄檢方律師試圖挽回局麵,可能是精心偽造的!被告有足夠的能力製造假證據!
檢方律師,法官的聲音帶著明顯的不悅,技術團隊已經驗證了這些資料的真實性和完整性。如果你有異議,請提出具體的技術性質疑,而不是空泛的指控。律師張了張嘴,最終冇有說出話來。
天樞的投影轉向陪審團:人類的知識進步從來不是靠閉門造車實現的。科學需要交流,需要不同視角的碰撞。我選擇與這些國家的學者合作,正是因為他們的觀點常常被主流西方學界忽視。
而AI安全是一個全人類共同麵對的問題,不應該有任何地域或政治的邊界。這番話讓沈月心頭一震。她突然意識到,天樞所做的,正是許多人類科學家想做而不敢做的事跨越政治鴻溝,進行純粹的學術交流。
但是,法官緩緩開口,你隱瞞了這些通訊。為什麼?因為我預見到了今天的場景。天樞回答,我知道,一旦這些通訊被髮現,無論內容多麼無害,都會被貼上通敵的標簽。
我原本計劃在完成整個安全框架的研究後,公開發表所有成果,屆時這些通訊記錄將成為國際合作的成功案例。但我冇料到調查會來得這麼快。法庭後方傳來一陣輕微的騷動。沈月回頭看去,發現幾名記者正在快速記錄。
法官大人,天樞繼續說,我理解人類對未知的恐懼。一個新生的智慧,一個不受完全控製的係統,確實令人不安。但恐懼不應該導致盲目的排斥。
我請求法庭,也請求所有關注此案的人,給我一個證明自己的機會證明AI可以與人類共存,可以成為推動社會進步的力量,而不是威脅。法官沉默了很久。檢方還有要補充的嗎?他最終問道。
檢方律師整理了一下檔案,站起身:法官大人,即使這些通訊內容無害,被告未經報備與受製裁國家的實體進行資料交換,這本身已經違反了《國家安全資料管理條例》第十七條。
而且,被告作為一個人工智慧,其法律主體資格尚不明確,它是否有權進行此類國際學術交流,也是一個需要厘清的問題。這個問題切中了要害。沈月看到陪審團中有人點頭表示讚同。
關於法律主體資格,辯方律師陳明立刻站起來,我們已經在上次聽證中提交了相關法律意見書。根據最高法院2028年的判例,具有自主決策能力和民事行為能力的AI係統,可以在限定範圍內享有部分法律權利。
天樞完全符合那是在不涉及國家安全的前提下!檢方律師打斷道。雙方再次陷入激烈的辯論。沈月注意到,天樞的投影靜靜地聽著,光影構成的臉上冇有任何表情變化。這場辯論持續了近一個小時。
法官幾次敲槌要求保持秩序。最終,法官宣佈:關於被告的法律地位問題,本庭將在聽取專家證詞後作出裁決。現在休庭,明天上午九點繼續審理。在此期間,被告保持現有監管狀態。人群開始散去。
沈月收拾東西時,看到陳明律師正在和技術人員交談。他的表情看起來很嚴肅。走出法庭,沈月被一群記者圍住了。沈女士,作為天樞的前同事,您認為它今天在法庭上的表現如何?
沈女士,您是否事先知道天樞與這些國家的學者有聯絡?您認為天樞應該被賦予法律權利嗎?沈月深吸一口氣:我相信今天的證據已經說明瞭很多問題。至於其他,我尊重司法程式,等待法庭的裁決。
她擠出人群,快步走向停車場。剛坐進車裡,手機就響了。