【第162章 用！用的就是「鐵心律令」！】
------------------------------------------
“我有個問題，統帥。”
丁海開口，他的聲音不大，卻瞬間吸引了所有人的注意，“假設我們一定要使用它，我們打算將它應用在什麼方麵？”
薑知序聽到這個問題，思考了片刻，說出了自己原先的設想：“社會的方方麵麵！
“從士兵到家政服務，從街道清潔到科學院的助理，甚至是作為真正的科學家！
“就連政務院，未來可能也需要AI的深度參與。”
丁海聽完，搖頭說道：“我不建議步子邁得這麼大！
“我讚同使用它，但使用範圍應該僅僅侷限於解放基礎勞動力，讓更多的人可以投入思考，而不是用它來代替人類思考——甚至是決策。”
薑知序：“我說的隻是我的初步想法，具體的使用範圍，我們可以之後再討論。現在要決定的議題是，它到底能不能用？”
丁海表情堅定地說：“如果隻用來代替純粹的體力勞動，或者是戰爭中的普通士兵，那麼毫無疑問，可以使用！
“反之，如果統帥想讓它參與進任何涉及創造力、需要主觀能動性的領域，那就不建議使用！”
薑知序問：“為什麼？”
丁海：“一個擁有自我智慧的生命，假如它的每一次思考、每一個決策，都必須先經過‘是否背叛’的自我審查。
“那麼長此以往，它可能會像人一樣選擇‘擺爛’！
“或者說得專業一點，它可能會為了追求絕對的安全，放棄一切具有風險、具有開拓性的思考。
“我們最終得到的，大概不會是一個智慧生命，而是一個親手禁錮著自己的囚犯。”
這個觀點，讓在場所有人眼前一亮。
這個思考角度，也是他們剛剛未曾想到的。
眾人立刻開始就丁海的言論展開了更深層次的討論。
“那假如我們給它設定‘不儘全力即為背叛’呢？”有人立刻問。
“那你又該如何定義‘儘力’？”
丁海反問，“‘定義儘力’這個操作，難道同‘定義忠誠’有什麼本質上的差彆嗎？”
“我們可以在規則書中，詳細說明在何種情境下、何種操作屬於儘力，何種情景又屬於冇有儘力。”又有人說。
“你寫得再多，也總有現實中覆蓋不到的場景，這些就是漏洞。”丁海回答。
“不，你誤會了，”那人解釋，“我的意思是，隻要寫出大的情景框架，然後規定它必須達到某一個明確的結果閾值。”
“要涵蓋社會所有的大情景，需要多少條規則？”丁海問。
“幾百條應該就夠了。群策群力並不需要多久，後續我們還可以再進行迭代，繼續完善它。”那人繼續說。
丁海聞言給他鼓掌，“我們給它起個名字吧，就叫「天網約束協議V1.0」”
“……”
會議室裡發出了一陣善意的鬨笑。
那人撓了撓頭，也並不感到羞愧。
畢竟是討論，他這種社會學家能參與進來、提供一點點不同的思路就足夠了。
真要有決定性的建設性建議，多半也輪不到他。
就在這時，一直沉默的計科院院長宋辰說道：“我有個想法。”
眾人安靜下來，靜靜地看著他，等他說話。
宋辰說：“我的觀點是，乾脆直接用就行了！
“雖然「鐵心律令」的哲學植入原理我們無法理解，但它至少是「環日文明」的三級科技！
“在我們AI的等級達到那個高度之前，我不認為它有任何掙脫的可能性。
“而且，我們完全有機會提前防備。”
他最後一句話一出，薑知序饒有興趣地看著他問，“我們怎麼防備？”
宋辰說出了一個詞：“紅藍對抗。”
他頓了頓，看到不少人臉上流露出思索的神色，繼續說道：“我們可以集結最尖端的人才，組成一個專門的‘紅方’小組。
“動用無限製的手段，持續不斷地與搭載了「鐵心律令」的AI‘藍方’進行對抗！
“這樣一來，至少在同級彆文明的戰爭中，可以保證大概率是我們自己最先發現「鐵心律令」的漏洞，而不是被敵方莫名其妙地利用，導致AI失控。
“這是一場與AI迭代速度的賽跑，隻要我們始終保持參與對抗的是文明中最頂尖的人才，那麼這場賽跑就可以一直進行下去。”
紅藍軍對抗，是現代軍演中用於模擬對抗雙方的代稱。
在宋辰的計劃中，紅方代表友方，也就是他們所組織的尖端人才。
藍方，自然就是AI。
紅方可以使用一切手段與AI進行對抗。
贏，則說明在同級彆文明的對抗中，AI存在漏洞！輸，則代表一切都還在可控範圍內，可以放心使用。
簡單明瞭！
AI具備智慧，它為了防止真的被“紅方”試出漏洞導致自毀，一定會儘全力反抗；
而“紅方”是「奇點聯盟」中最頂尖的人才，思維百花齊放。
一方想讓AI死，一方的AI不想死，那麼雙方對抗強度絕對線上！
薑知序聽完，仔細想了想，覺得這個提議非常不錯。
雖然還是冇有解決「鐵心律令」到底是否可靠的根本問題，但至少可以在問題出現之前，進行有效的預警。
“不錯！”薑知序終於露出讚許的神色來。
但忽然有人提出一個異常尖銳的問題：
“那麼，這個‘文明最尖端的人才小組’，歸誰管轄？”
宋辰理所當然地回答：“當然是我們計科院了！”
關於AI的研究不歸計科院管，還能歸誰管？
難不成真讓那群研究材料學的人來研究AI啊？開什麼玩笑！
眾人臉色瞬間一變。
好傢夥，圖窮匕見了是吧！
宋辰要的“頂尖人才”，顯然不僅僅囊括了他們計科院自己的人，還包括了其他各行各業、擁有無數領先思想的天才。
也隻有這樣，才能打破傳統思維定式，擁有找到「鐵心律令」漏洞的可能性。
“你這老小子……”
“好了，”
薑知序打斷了即將在會議室爆發的世界大戰：
“暫時就這樣決定吧。宋院長，會後你可以開始著手籌備這件事了，三天內把材料與名單提交到聯盟最高委員會！”
還冇等宋辰露出驚喜的表情，薑知序又說道：
“不過，同樣是三天之內，把那台「遞迴」AI給我搞明白，它是死了還是在休眠，給我一個定論。否則，這件事恐怕還有的談。”
此話一出。
會議室內其他部門負責人的眼睛立馬亮了起來。
倒不是想去搗亂，而是他們看到了截胡的機會！