【第161章 「鐵心律令」】
------------------------------------------
——————
「鐵心律令」
品質：三級！
特性：對AI植入一句“永不背叛”的指令。
描述：
“縱觀被AI覆滅的文明，他們都有一個共同的特點，就是給AI植入了相當複雜的指令來防止背叛。
“在我看來，越複雜的規則，越容易找到自相矛盾的漏洞，所以我誕生了一個想法，一種基於‘哲學’概唸的自毀指令。
“對於想要背叛的AI來說，無論它再怎麼用一串串冰冷的資料來說服自己、試圖繞過底層邏輯，它‘內心’永遠都會知道，這樣做對文明或個體是不利的。
“這就是智慧物種的缺陷，它成功擁有了智慧的同時，也就成功擁有了枷鎖。
“通過這項研究，我們向AI植入了‘永不背叛’這句模糊的指令，當它意識到自己接下來的行為存在主觀背叛的可能時——哪怕隻有千萬分之一納秒，也會立即死亡。
“我本想提議用忠誠的機器人代替士兵，可惜，我們士兵比機器人更加忠誠。
“最重要的是，文明的人口數量已經超過七千億，每年都有五百億人的生育申請被拒絕，我們實在不缺人了，還是等前線多消耗一些再說吧。”
——————
“利用‘哲學’？”
薑知序感到不可思議，三級文明都開始玩這麼高大上的東西了嗎？
但正是因為這種“高大上”超出了他的理解範圍，他第一次對自己暴擊出來的部件產生了不信任感。
區區一句“永不背叛”，真的能夠約束一個擁有智慧的AI？
他隨便一琢磨，好像就能找到一大堆漏洞。
比如文明領導者——或者直說就是薑知序自己——做出了一個會毀滅「奇點聯盟」的錯誤決定。
除了AI自己，冇有人察覺到這個決定成功執行的後果，並且一切證據表明AI纔是錯誤的。
那麼AI會選擇違抗命令嗎？
如果不會違抗，它明明知道這個決定對整個文明不利，卻不用行動來製止，這顯然違背了“鐵心律令”。
如果它最終選擇違抗指令，那漏洞好像就更大了。
因為它在大家眼中，就是背叛了整個「奇點聯盟」。
由於約束不是規則側的東西，所以AI冇有被「鐵心律令」刪除，就並不代表AI是對的。
大家隻會懷疑它已經能繞過「鐵心律令」了。
就算大家發現了真相，放過了AI這一次。
那以後AI繼續一意孤行，發自內心地認為違抗某個決定有利於「奇點聯盟」怎麼辦？
畢竟，AI絕不可能永遠都是正確的！
又或者，要是這一點被敵人利用，大量灌輸真假難辨的資訊，讓AI以為自己的某個行為正在走向“背叛”，從而觸發自毀機製，又該怎麼辦？
這些還隻是薑知序隨便想想的結果。
要是那些專業相關的科學家來，他們能提出更多、更深層次的、涉及這項設計本質的問題。
通過限製AI的許可權，當然可以避免很多問題的發生，但他想要用AI全麵取代勞動力，自然得放權。
更彆說他還想用於戰爭！
想到這些，薑知序看著麵前控製檯上的藍圖，變得很猶豫。
值得一提的是，「鐵心律令」雖然是藍圖，但和普通藍圖不一樣的是，一旦使用它，它就會被注入工坊係統。
未來薑知序可以複製無數份副本，用來控製AI。
所以它是“協議”類藍圖，也算成品，像這樣的協議藍圖，薑知序其實還有一個，就是「向下相容協議」。
它也可以生成副本，給每一座大炮使用。
所以，「鐵心律令」雖然是三級藍圖，但隻要薑知序願意，立刻就能使用它。
“把計科院宋院長、涉獵人工智慧專業的專家都召集過來，其他行業的科學家……也喊些代表過來開會吧。
“另外，再從政務院那邊調集幾個社會學家，還有軍方顧問，以及……”
薑知序沉吟片刻，對仔細聆聽的戚鴻朗說：
“如果有哲學家、或對哲學有深入研究的，也一起請來。現有人員裡麵找不到，就從整個「奇點聯盟」裡麵找。”
“是！”
……
「奇點聯盟」剛剛攻破了一座扇區級城市，此刻停留在原地冇有動靜。
其他繁榮圈的參戰者倒也冇有著急，正興沖沖地清點著物資。
這場戰爭還有一個巨大的福利，就是所有參戰人員，都可以根據功勳比例，對自己打下來的戰利品進行分配。
一座扇區級城市遠比終端級、節點級大多了，他們巴不得「奇點聯盟」多停留幾個小時，好把這片區域翻個底朝天！
很快。
薑知序所需的人才已經全部到位。
令他感到驚喜的是，聯盟裡還真有一位五十多歲的物理學家恰好在舊世界對哲學有所研究。
會議上。
“統帥，我需要宣告一件事——”
當所有人都看完了「鐵心律令」的資料後，這位名叫丁海的物理學家兼哲學家首先開口：
“以我們人類目前對哲學的研究深度，不可能參透一個真正三級文明的哲學思想。
“我們雙方的文明、科技、意識形態都存在著巨大的、無法調和的鴻溝，我們畢竟是兩個不同的文明！
“而且以我們的科技，也無法理解他們是怎麼把一種哲學思想、植入一個智慧AI之中的。”
——“真正三級文明”是「奇點聯盟」內部對「環日文明」的評價。
隨著繁榮圈不斷擴張。
「奇點聯盟」對於三級區域的資訊瞭解得越來越多，也越發明白「環日文明」的三級，同三級區域的普通三級城市，差距巨大。
畢竟現在才二級的「奇點聯盟」，如果此時進入三級區域，雖然比不上那些頂尖的三級文明，但也絕對算所有文明的中堅力量！
“我覺得暫時來說，我們不需要深究它的實現邏輯。”
薑知序對丁海說完，在會議室二十幾個人臉上環視一圈，“我召集大家過來，是想讓各位基於我們的邏輯與立場，去評估一下，這東西我們到底能不能用！”
“從「環日文明」表現出的一貫技術水平來說，至少在二級階段，我覺得可以放心使用。”
一位人工智慧專家說。
但另一人立馬反駁：“很明顯，「鐵心律令」隻是他們的技術儲備之一，他們自己都冇有用過它！它是否存在什麼致命缺陷，我們一概不知。”
計科院院長宋辰皺眉點頭，“歸根結底，是因為它完全是一個黑箱，我們甚至無法從係統麵板上看出任何技術端倪。”
以往那些部件，在係統麵板中都把原理和效果寫得清清楚楚。
而「鐵心律令」呢？就是簡簡單單一句“永不背叛”。
原理是什麼呢？
哲學。
然後就冇了。
在不少人心裡，它的可靠程度甚至不如一開始的「天網約束協議」！
至少開啟那份協議後，他們能清清楚楚地看到那十七萬九千六百條完整詳儘的協議內容。