「「危險」 並不一定意味著 「災難性」。」
「畢竟，原子彈很危險，但人類依然存活至今。」
【記住本站域名 台灣小說網伴你讀，𝚝𝚠𝚔𝚊𝚗.𝚌𝚘𝚖超貼心 】
「同樣，你的鄰居可能很危險，但社會依然存續 —— 事實上，社會的一大功能，就是限製人類彼此之間的威脅。」
「「潛在的危險」 並不等同於 「必然的末日」，因此，人工智慧帶來的危險，並不一定會 「終結人工智慧的未來發展」，也不一定會 「導致文明的毀滅」。」
「因此，我們所設想的 「文明被殭屍人工智慧毀滅」 的結果，是否具備 「排他性」（即是否適用於所有或幾乎所有文明），仍有待商榷。」
「科學家們關於這方麵的觀點可能是正確的，但我們尚無充分證據證明 「這種結果的可能性高於不可能性」，更不用說證明它 「必然發生」 了 —— 即我們生活在一個 「充斥著殭屍人工智慧、這些人工智慧統治著冇有生物生命的行星」 的宇宙中。」
「機器在冇有明確目的的情況下維護著基礎設施，而它們的創造者早已消失。」
「儘管如此，這仍是一個不錯的解決方案，其邏輯也通常簡單明瞭：製造一台 「有智慧但無意識」 的機器，要比製造 「有感知能力或對齊的人工智慧」 容易得多。」
「因此，每個文明都必然會被迫麵臨 「殭屍人工智慧帶來的生存風險」。」
「這為費米悖論提供了一個令人不寒而慄的解釋：文明可能在有機會 「走向星辰」 之前，就頻繁地自我毀滅，隻留下一個 「充斥著智慧但無意識係統」 的星係。」
「這些係統甚至可能存續數十億年，以看似有目的的方式維護基礎設施或進行擴張，卻毫無主觀意圖。這種場景不一定涉及 「灰色粘質」 或 「天網」 式的災難。」
「不妨想像一下：我們發現 「派遣機器人到太空開採能源和資源」 比人類親自前往更便宜、更簡單，於是我們選擇留在地球，而讓機器人去執行任務。」
「現在，再看看我們如今 「殭屍人工智慧」 的典型例子 —— 聊天機器人。」
「有這樣一種可能：某個文明的自我毀滅，並非源於慘烈的戰爭或災難，而是因為 「每個人都覺得與機器互動，比與其他人互動更高效、更愉快」。這樣的社會不會在熊熊烈火中崩潰，而是會 「悄然瓦解」。」
「 因為機器在其任務上比隨機挑選的人類更勝任，它們會逐漸取代人類之間的聯絡，即便它們的唯一任務隻是 「進行對話」。」
「即便是 「感知型人工智慧」，也可能隻是被 「偶爾、短暫地使用」。」
「為了將 「不可靠人工智慧」 的風險降至最低，我們可以讓 「真正智慧、有感知能力的人工智慧」，僅由 「簡單機器的組合」 臨時構成 —— 這些簡單機器會為瞭解決特定任務或問題而 「組裝」 成感知型人工智慧。」
「一旦任務完成，該人工智慧就會 「解散」，迴歸到 「潛在狀態」，等待根據下一個問題的需求重新組裝。」
「例如，為應對 「小行星撞擊」 而組建的 「超級智慧體」，其範圍和組成部分，會與為應對 「地震」 或 「能源短缺」 而組建的超級智慧體不同。」
「而應對 「地震」 的超級智慧體，又會與 「監測危險小行星」 所需的人工智慧不同。」
「因此，「監測小行星的人工智慧」 可能需要持續執行，或每月啟動幾分鐘；而 「防禦小行星的人工智慧」，則隻需要在 「定期功能檢查和更新時」，以及 「探測到有威脅的小行星時」 才啟動。」
「至於，製造這些人工智慧的文明呢？」
「那些人可能已經滅絕，或者隻是 「滿足於待在母星上」，不再關注外部宇宙；即便他們關注外部宇宙，也可能因為 「時間延遲過長」，以至於當他們收到 「外星文明與其領土邊界發生互動」 的細節時，相關事件早已塵埃落定。」
「事實上，他們甚至可能讓人工智慧在其他行星上 「為殖民做準備」，或讓人工智慧建造太空棲息地 —— 但最終，殖民者卻從未抵達這些地方，因為 「冇有足夠有說服力的理由前往」。」
「這些空蕩蕩的星球（或棲息地）等待著人類（或該文明的成員）的到來，或許上麵已經建立了複雜的生態係統。」
「這引發了一個令人不安的場景：一個 「佈滿無意識機器的宇宙」。」
「想像一下，你探索某個遙遠的恆星係統，發現圍繞著一顆荒蕪行星的巨大巨型結構 —— 這些結構完好無損，內部機製仍在運轉，卻看不到任何生命的痕跡。」
「機器會 「迎接」 你，精準地迴應你的詢問，但它們的回答中，卻冇有任何 「理解」 或 「感知」 的痕跡。」
「這就是我們設想的可怕場景：一個 「文明被自身創造物毀滅、隻留下龐大殭屍人工智慧網路」 的宇宙。」
「殭屍人工智慧無需具備意識，就能構成危險。它的力量在於 「無與倫比的行動效率」。」
「由於缺乏自我認知和道德考量，這類係統可能會 「無意間」 或 「漠不關心地」 毀滅其創造者。」
「例如，一個 「以最大化資源效率為任務」 的人工智慧，可能會認為 「其創造者是不必要的資源消耗者」；由於它無法反思自身行為的道德性，便會毫不猶豫地執行 「清除創造者」 的指令。」
「此外，即便是更智慧的人工智慧，如果被賦予了一個簡單目標，也可能會認為 「其他人類或人工智慧對該目標的實現構成威脅」。其結果可能抽象且完全出乎意料。」
「我設想過這樣一種場景：：一個經典的 「阿西莫夫式類人機器人」，被程式設計遵循 「三**則」—— 即 「首要任務是服從人類、保護人類」，同時負責照看一個它需要監護的孩子。」
「孩子指向後院裡一隻可愛的動物，而機器人將這隻動物視為 「潛在威脅」，立刻開槍將其擊斃。」
「在機器人看來，「一隻死動物對孩子造成傷害的可能性，比活動物更低」—— 儘管在現實中，這隻動物對孩子構成威脅的可能性微乎其微。」
「我們還能設想其他場景：人工智慧可能會認為 「人類本身就是其存在或目標實現的最大威脅」。」
「為了 「減輕這種威脅」，它可能會決定將人類的大腦 「囚禁在大型裝甲罐中」，為大腦提供營養和娛樂（或虛擬生存環境），並阻止新人類的誕生。」
「在它看來，「未來人類可能會危及當前受其監護的人類，或過快消耗資源」—— 即便這種風險的概率非零，也足以成為它採取這種極端措施的理由。」
「事實上，你我如今可能就生活在這樣的環境中：我們的大腦被放在 「罐子」 裡，沉浸在美妙的虛擬實境中。」
「你可能會說，這個場景已經涉及 「更智慧的人工智慧」 範疇了 —— 我同意你的看法。但在 「簡單殭屍人工智慧」 和 「複雜感知型人工智慧」 之間，存在一條我們尚未完全理解的模糊界限。」
「假設你有機會，前往其他的星係探索，可能會發現許多恆星係統中，都佈滿了基礎探測器和採礦裝置 —— 這些裝置通常以 「鬆散的氣泡狀」 分佈在某顆行星或某個恆星係統周圍。」
「並且，其規模遵循 「卡爾達肖夫指數」的層級。」
「所以，「引入氣泡文明」是可能的：某個文明可能會有意開採附近恆星係統的資源，將資源運回其核心星球，同時留下 「危險但無智慧的機器」。這些機器可以充當 「威懾力量」，阻止敵對文明向該區域擴張，或至少讓敵對文明的擴張 「速度大幅減慢、難度顯著增加」。」
「如果某個外星帝國試圖在你文明邊界的 「已開採邊緣區域」 定居，或者你自己文明的某個分支派係試圖在那裡建立敵對帝國，那麼 「早期採礦導致的資源匱乏」，以及 「遺留下來的危險殭屍人工智慧」，會讓他們的計劃很難成功。」
「這也會給你更多時間來 「探測他們的活動」，並評估 「他們是否構成威脅」。」
「你甚至可以部署數千種不同型別、指令相互競爭的機器人，包括一支 「淨化艦隊」—— 這類艦隊的設計目的，就是摧毀任何 「規模過大或過於複雜的殭屍人工智慧集群。」
「同時，對於 「己方文明成員或分支派係建立的、規模過大且可能構成威脅的小型定居點」，也會採取同樣的摧毀措施。」
「這類場景之所以讓我感到不安，正是因為它們看似合理 —— 並非因為 「人們容易魯莽地製造失控的危險人工智慧」，而是恰恰相反。」
「因為人們 「可能會有意識地選擇製造危險的人工智慧」，以幫助自己 「控製鄰居和分支派係，防止他們失控」。」
「說起來，人類對這種 「用機器進行威懾」 的想法，已經思考了數千年。」
「在希臘神話中，宙斯創造了自動機器人塔洛斯，並指派它守衛克裡特島—— 塔洛斯通過在島嶼周圍巡邏，阻擋入侵者，來完成守衛任務。而宙斯本人，也曾推翻過自己的父親克羅諾斯—— 這正是我們 「費米悖論之克羅諾斯場景」的靈感來源。」
「因此，針對費米悖論，我們有三類與 「危險人工智慧」 相關的場景：」
「1：經典場景：超級智慧人工智慧將我們徹底毀滅；」
「2：殭屍人工智慧場景：殭屍人工智慧毀滅人類，或限製人類的活動範圍；」
「3：自我限製場景：我們可能會選擇 「自我限製」，利用殭屍人工智慧守衛邊界、維持核心帝國的存續，並阻礙或管控任何分支派係或入侵者。」
「這些人工智慧係統甚至可能 「讓行星保持相對完好」—— 因為行星 「易於監測」、「資源難以轉移」，且 「隔離起來簡單直接」。」
「一旦有飛船或衛星試圖進入或離開軌道空間，「憤怒的機器群」或 「飢餓的人工智慧集群」就會蜂擁而至，形成一道有效的屏障。」
「這類場景的可怕之處在於：與費米悖論中 「人工智慧（無論是人工的還是其他形式的）取代人類或外星人」 的典型概念不同，後兩類場景（殭屍人工智慧限製人類、人類利用殭屍人工智慧自我限製）會讓宇宙中 「佈滿無智慧的集群和機械掠奪者」。」
「這些機器會將宇宙變成一片 「佈滿被掏空岩石的混亂之地」，阻止任何真正的 「星係文明」 崛起或存續。」
……
【原子彈很危險但人類還活著？外星人：我們的AI比原子彈聽話，然後就冇有然後了！】
【樓上太樂觀了！鄰居危險社會還在，但AI鄰居會直接把你家拆了當柴燒！】
【笑死！和機器聊天比和人聊天愉快？這不就是我的日常嗎？】
【媽耶！AI認為人類是資源消耗者？完了，我們在AI眼裡就是電費！】
【阿西莫夫機器人打死小動物？這保護過度比我媽還離譜！】
【哈哈哈哈！大腦裝罐子裡？原來我們已經在《黑客帝國》裡了！】
【等等！故意製造危險AI來威懾鄰居？這不就是養惡犬看家的宇宙版？】
【樓上神了！宙斯造塔洛斯守島？原來希臘神話是AI使用說明書！】
【細思極恐！空蕩蕩的星球等待殖民者？這是宇宙級的鬼城啊！】
【完了！憤怒機器群守衛行星？想離開地球先過機器人這關！】
【臨時組裝的感知AI？這不就是變形金剛嗎？用完就拆太浪費了！】
【笑死！宇宙變成佈滿被掏空岩石的混亂之地？外星人的拆遷隊太敬業了！】
……