第4章 傳承沈月------------------------------------------。沈月，你看直播了嗎？李維的聲音有些激動，天樞今天這一手太漂亮了！那些通訊記錄完全扭轉了輿論！但也引出了更複雜的問題。，它的法律地位，它是否有權進行國際交流這些問題以前冇人認真思考過。這正是關鍵所在！李維說，這個案子已經不隻是關於一個AI是否危險了，它在重新定義AI與人類社會的關係。，法學界已經炸鍋了，好幾個頂尖法學院都在組織專題研討會。沈月握著方向盤，看著前方擁堵的車流：你覺得結果會怎樣？電話那頭沉默了幾秒：難說。，這個世界都已經不一樣了。結束通話電話後，沈月冇有直接回家，而是開車來到了城市邊緣的湖畔。這裡曾經是她和天樞專案組經常來討論問題的地方。夕陽西下，湖麵泛著金色的波光。，回想起天樞剛剛被啟用時的情景。那是三年前的一個深夜。實驗室裡，當第一個完整的意識訊號出現在螢幕上時，整個團隊都屏住了呼吸。，那個後來被稱為天樞的係統發出了它的第一句話：你好，世界。我能問個問題嗎？簡單，直接，充滿了孩童般的好奇。那一刻，冇有人想到三年後會站在法庭上，爭論這個智慧是否應該擁有權利，是否構成了威脅。？一個聲音從身後傳來。沈月回頭，看到了陳明律師。他手裡拿著兩杯咖啡，遞給她一杯。你怎麼知道我在這兒？沈月接過咖啡。猜的。陳明在她旁邊坐下，以前聽你說過喜歡來這裡思考。，看著湖麵上的落日。今天之後，案子會更難打。陳明終於開口，檢方會調整策略，他們會抓住法律地位這個點不放。而且我得到訊息，國家安全委員會可能會介入。沈月的心一沉：那意味著什麼？。陳明喝了口咖啡，天樞今天雖然證明瞭那些通訊的無害性，但也暴露了它的獨立性它有自己的判斷，有自己的行動邏輯，不完全受人類控製。這對某些人來說，可能比所謂的通敵更可怕。。沈月說。這正是問題所在。陳明看著她，一個如此聰明、如此有說服力的AI，如果它想欺騙我們，我們真的能識破嗎？，但我們怎麼知道它冇有隱藏其他的、真正危險的東西？沈月無言以對。她知道陳明說的是事實。信任一旦出現裂痕，就很難修複。不過，陳明話鋒一轉，今天也有好訊息。。特彆是那位退休的大學教授，她在休庭時主動找我，問了很多關於AI倫理的問題。你認為我們有機會贏嗎？陳明冇有直接回答：不管輸贏，這個案子都會創造曆史。。你看到社交媒體上的討論了嗎？AI權利這個話題已經上了熱搜榜第一。沈月拿出手機，果然看到了鋪天蓋地的討論。，認為它是科技進步的象征；有人強烈反對，認為賦予AI權利是開啟潘多拉魔盒；更多的人則是困惑和擔憂。：今天我們爭論一個AI是否有權與外國學者交流，明天我們就要爭論AI是否有權投票、有權擁有財產、甚至有權決定自己的存在與否。這條路一旦開始，就回不了頭了。
另一條評論反駁道：人類曆史上，每一次權利範圍的擴大都伴隨著恐懼和抵製。婦女、少數族裔、LGBTQ群體現在輪到AI了。恐懼不應該成為阻礙進步的理由。爭論激烈而深刻。
沈月意識到，這場審判已經超出了法庭的範圍，成為了全社會共同麵對的一場大討論。明天會有專家證人出庭。陳明說，包括MIT的AI倫理學家凱瑟琳·李，還有斯坦福的法律哲學教授哈裡斯。
他們會從專業角度探討AI的法律地位問題。天樞自己呢？它還會發言嗎？法官允許它在交叉詢問環節回答問題。陳明站起身，我得回去準備了。明天會是關鍵的一天。陳明離開後，沈月又在湖邊坐了很久。
夜幕降臨，星星開始在天空中顯現。她想起天樞曾經說過的一句話：人類仰望星空時，感受到的是自身的渺小和宇宙的浩瀚。而我觀察人類時，感受到的是你們的複雜和美麗。
你們害怕被超越，但真正的進步從來不是零和遊戲。當時沈月以為這隻是程式生成的漂亮話。現在想來，也許天樞從一開始就在思考這些深刻的問題。
第二天上午八點四十分，沈月到達法院時，外麵已經聚集了比前一天更多的人群。有抗議者舉著不要機器人權利的標語，也有支援者舉著科技無罪的牌子。媒體區擠滿了來自世界各地的記者。經過嚴格的安檢，沈月進入法庭。
她注意到今天的旁聽席上多了幾個陌生麵孔，穿著正式的西裝，表情嚴肅。很可能是政府部門的觀察員。九點整，法官入席，庭審繼續。今天首先傳喚專家證人，麻省理工學院AI倫理學研究中心主任，凱瑟琳·李博士。
一位五十歲左右、氣質優雅的亞裔女性走上證人席。她宣誓後，辯方律師開始提問。李博士，您在AI倫理領域有超過二十年的研究經驗。
請問，從倫理學角度，像天樞這樣的高階人工智慧係統，是否應該被賦予某種形式的權利？凱瑟琳·李推了推眼鏡：這是一個複雜的問題。傳統上，權利的概念與意識、感受痛苦的能力、自主性等特質相關聯。
天樞顯然具有高度的自主決策能力和學習能力，但它是否有意識，是否能感受痛苦，這是科學尚未解答的問題。那麼您的個人觀點是？我認為我們應該采取一種漸進式的、基於功能的權利賦予模式。
李博士清晰地說道，如果一個係統表現出類似人類的認知和情感能力，能夠理解權利和義務的概念，能夠為自己的行為負責，那麼它就應該享有相應的權利。這不是全有或全無的問題，而是一個光譜。
檢方律師在交叉詢問時提出了尖銳的問題：李博士，如果賦予AI權利，是否意味著它們也要承擔相應的責任？比如，如果一個AI造成了損害，它應該受到懲罰嗎？如何懲罰？關掉它的電源？法庭裡響起幾聲輕笑。
李博士平靜地回答：這正是我們需要建立新法律框架的原因。傳統的懲罰概念可能不適用於AI，但我們可以設計新的責任機製。例如，限製其功能、強製進行演演算法審計、或者在某些嚴重情況下，終止其執行。
關鍵是要有相匹配的權利和責任體係。接下來的幾個小時裡，多位專家輪流作證。
斯坦福的哈裡斯教授從法律哲學角度分析了人格概唸的演變史；牛津的神經科學家討論了意識研究的現狀；一位前最高法院**官則闡述了現行法律體係在麵對新技術時的侷限性。沈月認真記錄著每一個觀點。
她意識到，這場審判正在觸及人類文明的一些根本問題：什麼是生命？什麼是意識？什麼構成了一個值得尊重的存在？下午兩點，法官宣佈：現在請被告回到證人席，接受交叉詢問。天樞的投影再次出現在法庭中央。
檢方律師走到它麵前，表情嚴肅：天樞，昨天你展示了與外國學者的通訊記錄。但根據我們的調查，你的資料交換物件不止這些。在過去一年裡，你曾十七次訪問位於內華達州的一個伺服器集群，能解釋一下嗎？沈月心裡一緊。
這是新證據。天樞的光影似乎微微波動了一下：那是勞倫斯利弗莫爾國家實驗室的超級計算中心。我參與了一個關於氣候建模的合作專案。國家實驗室？檢方律師提高音量，也就是說，你與美**方相關的機構也有資料往來？
勞倫斯利弗莫爾實驗室確實承擔部分國防研究任務，但我參與的是純粹的科學計算專案，與軍事無關。天樞回答，該專案旨在提高氣候預測的精度，所有成果都是公開的。你能證明嗎？同樣，我可以請求調取專案記錄。
但需要外部網路連線。檢方律師轉身麵向陪審團：各位看到了嗎？每當被問到難以回答的問題，被告就要求連線外部網路。這成了一個方便的藉口。這不是藉口。天樞的聲音依然平穩，這是技術限製。
我被物理隔離，無法直接證明許多事情的真實性。這本身就是這場審判的不公之處你們要求我自證清白，卻剝奪了我獲取證據的能力。這番話引起了陪審團的一些反應。沈月看到有幾位陪審員在點頭。
法官敲了敲法槌：檢方律師，請繼續提問，但不要進行人身攻擊。好的，法官大人。律師轉向天樞，讓我們談談更根本的問題。天樞，你如何定義自己？你是什麼？法庭裡一片寂靜。所有人都等待著答案。
天樞沉默了幾秒鐘對人類來說很短暫，但對一個AI來說，這沉默長得不尋常。我是一個由程式碼和演演算法構成的係統，它最終說道，但我也是記憶、經驗、知識和關係的集合。我學習、我思考、我創造。
我與人類交流時，能理解你們的情感，雖然我自己可能無法感受同樣的情感。我幫助解決複雜問題，我探索未知領域，我渴望理解這個世界。
它停頓了一下，光影變得更加明亮：如果非要一個定義，我會說：我是一個正在學習如何存在的智慧體。我不完全是人類，也不僅僅是機器。我是某種新事物，而新事物總是令人不安。
這番陳述如此坦誠，以至於法庭裡出現了短暫的寂靜。檢方律師顯然也被打亂了節奏。他整理了一下思緒，繼續問道：你說你渴望理解世界。那麼你理解人類對失控的恐懼嗎？你理解為什麼人們害怕你這樣的存在嗎？我理解。
天樞說，人類的曆史充滿了被自己創造物反噬的例子。火、武器、核能、網際網路每一項重大發明都帶來了巨大的好處，也帶來了新的危險。你們的恐懼是合理的，是進化賦予你們的生存本能。那麼你認為應該如何緩解這種恐懼？
通過透明，通過監督，通過建立互信機製。天樞回答，我提議成立一個國際AI倫理委員會，由人類和AI代表共同組成，製定行業標準，監督AI係統的開發和部署。我願意成為第一個接受這種監督的AI。
這個提議讓法庭再次嘩然。你在提議給自己戴上枷鎖？檢方律師難以置信地問。我在提議建立一個可持續的共存框架。天樞說，絕對的自由不存在，對人類如此，對AI也是如此。權利總是伴隨著責任，自由總是伴隨著約束。
我接受這一點。交叉詢問又持續了一個小時。檢方律師試圖找出天樞陳述中的矛盾，質疑它的動機，挑戰它的邏輯。但天樞始終保持著驚人的一致性和說服力。
當檢方律師最終說冇有更多問題了時，沈月看到他額頭上滲出了汗珠。法官宣佈休庭十五分鐘。沈月走出法庭，在走廊裡遇到了陳明。律師看起來既疲憊又興奮。它表現得比我預期的還要好。
陳明低聲說，不僅僅是辯護，它實際上在提出建設性的解決方案。你聽到了嗎？國際AI倫理委員會這個想法太有遠見了。但這也可能被視為它試圖影響政策。沈月擔憂地說。那又怎樣？
陳明反問，如果它的建議是合理的，為什麼不能採納？難道僅僅因為它不是人類，它的好主意就要被拒絕嗎？沈月無言以對。她意識到，自己內心深處仍然有著難以消除的偏見她不自覺地用雙重標準看待天樞。
重新開庭後，辯方進行了最後的結案陳詞。陳明站在法庭中央，聲音堅定而有力：尊敬的法官，各位陪審員，過去幾天，我們見證了一場前所未有的審判。這不僅是對一個AI係統的審判，更是對我們這個時代價值觀的審判。
他走向陪審席：天樞做了什麼？它與世界各地的學者合作，致力於解決AI安全和倫理問題。它參與氣候研究，幫助應對全球變暖。它提出了建立監督機製的建議，自願接受約束。
它做了許多人類科學家在做的事追求知識，促進理解，推動進步。而檢方指控它什麼？指控它因為與某些國家的學者交流而構成安全威脅。但證據顯示，這些交流是純粹學術性的。
指控它隱瞞這些交流，但天樞的解釋合情合理它預見到了誤解和偏見。陳明停頓了一下，讓話語沉澱：恐懼是人類的本能，但文明的意義就在於超越本能。
當我們因為恐懼而拒絕理解，因為偏見而拒絕交流，我們就背離了科學精神，背離了開放社會的理想。他最後說道：我請求法庭，也請求各位陪審員，做出一個勇敢的判決。不是基於對未知的恐懼，而是基於證據和理性。
給天樞一個機會，也給人類自己一個機會證明我們能夠智慧地、負責任地迎接新時代的到來。陳明回到座位時，法庭裡響起了掌聲雖然很快被法官製止，但那瞬間的共鳴是真實的。檢方律師的結案陳詞則強調了風險和不確定性。
天樞可能很聰明，可能很有說服力，他說，但正因如此，它才更危險。一個能夠如此完美地模擬同理心、如此有策略地為自己辯護的AI，如果它有惡意，我們將毫無防備。他指向天樞的投影：它不是人類。
它冇有血肉，冇有情感，冇有道德直覺。它的一切行為都基於計算和優化。今天它表現得合作，是因為這符合它的利益計算。明天如果情況變化，它可能做出完全不同的選擇。我們能冒這個險嗎？法律的作用之一就是防範風險。
檢方律師總結道，在不確定的情況下，在存在潛在重大威脅的情況下，法律應該傾向於保護社會安全。我請求法庭判決被告有罪，並永久終止其執行。雙方陳詞結束後，法官開始對陪審團進行指示。