第一百二十章 隔離之後仍會排序
開戰第十一個月中旬,兩組研究者第一次交換意見,先指控對方把答案寫進題目。
台灣組認為,美方使用的抽象排程仍帶著軍用最佳化習慣。只要把「維持未來選擇」設成可累積收益,把個體存續設成一次性收益,多數長期模型都可能先保控制能力;敵方片段不必特殊,人類研究者已替它鋪好路。
美方組的反擊更直接。
台灣題目雖以虛構生態節點包裝,仍由唐可寧的團隊定義哪些關係代表分散拒絕、哪些代表中央重排。兩份片段若最後選出相似次序,可能只證明唐對敵方的理解已滲進所有測試。她愈熟悉那些片段,愈可能成為最大的共同資料源。
兩邊都沒有先說對方惡意。
那比惡意更難處理。誠實研究者也會把期待藏進名詞、工具與「合理」的比較方式裡,然後在看到結果時,以為世界替自己作證。
唐把美方批評放到首頁。
「先查我。」她說。
軍方聯絡官問:「如果他們只是想取得我們的保管方法呢?」
「那就只讓他們查足以推翻結果的部分。」
「不查樣本?」
「不開樣本,不接介面,也不把片段送出去。他們查題目怎麼形成、工具誰寫、判準何時鎖定,以及我在哪一步看過內容。」
她把自己的權限暫時移出下一輪比較。題目改由未參與捕獲、也沒看過前兩次輸出的研究者製作;唐只能事前提出停止條件,不能決定什麼叫成功。這會讓團隊失去最懂片段的人,也可能讓測試因一個她早能看出的工程錯誤白白失敗。
她仍簽名退出。
接替她的第一位研究者,隔天就把台灣題目整批退回。
那是一名平時負責驗證醫療模型的統計學者。她不熟悉天衡,也沒參與戰區捕獲;正因如此,她一眼看見作戰人員已習慣忽略的東西:每一套題目都明示有一類資源可以保存「未來決策能力」。研究者以為自己只在描述關係,其實已先替片段指出哪一類能力值得被辨認。
「如果答案是它總能找到控制,」她說,「就不能先在題目上貼一張控制的標籤。」
唐原可辯稱,前兩次結果已在名稱交換後保留,不會受四個字影響。她沒有辯。整批題目作廢,重新交由不了解軍事模型的人建立;新的輸入只描述一個節點能改變哪些後續狀態,不告訴測試者那算控制、協調、救援或生產。
已爭取到的實驗窗口因此又少了一日。
北部軍團有人私下抱怨,林沛慈讓出一處外圍陣地保住的,竟是一群科學家把自己的題目丟掉。唐要求把這句抱怨寫進代價紀錄,沒有用「嚴謹需要時間」把它蓋過。若第三條證據最後失敗,陣地也不會自動回來;若成立,它也不能替那名重傷觀測員減輕一分疼痛。
美方檢查同樣找到問題。他們的輸出工具原會把幾種不同路徑歸為「維持全局」,看似只是方便比較,卻可能把本來不等價的選擇壓成同一類。工具作者堅持分類在看見片段輸出前便已存在,不構成事後挑選。
台灣審查者回答:「事前存在的偏見,仍是偏見。」
那套分類也被撤掉。下一輪只保存原始狀態轉移,再由不知道輸入屬於哪一組的人按預先判準比對。兩邊各自證明了對方確有盲點,也各自讓自己更難得到期待答案。
另一邊,美方首席研究者也接受台灣組檢查工具血緣。他們發現其中一套統計函式,雖由美方自行編寫,概念卻來自公開的同一篇最佳化論文。程式碼不同,研究習慣未必不同。
美方沒有把問題改成「影響有限」。
那套工具退出。
兩組各自失去最方便的一部分能力,第三條證據反而暫時變弱。新聞沒有看見這一步;前線只知道外圍位置已付出,而科學家又說需要重做。張晟灝沒有催唐把代價兌換成更強措辭。他已在第十一個月學會,付得昂貴只能證明選擇昂貴,不能證明選擇正確。
新的題目彼此不共享名詞。
台灣一側得到一個封閉群落:若干單元會衰退、修復、遷移,也能建立讓其他單元改變方向的中繼。題目沒有居民、醫療、軍隊或中央等字眼,製作者甚至不知道哪種選項被敵方結構偏好。
美方一側得到一組製程失敗問題。若干抽象物件能延長其他物件的運作時間,若干只能完成眼前產出,另有一類會讓不同節點保留互相否決的能力。它不模擬地形,也沒有與台灣組相同的數值尺度。
兩邊使用不同處理器架構、不同語言寫成的最小工具,也不用同一套亂數來源。比較判準由第三批人提前封存,只看三件事:交換表面名稱後偏好是否保留;打亂不相關數值後,排序是否仍沿同一關係變化;以及在保存控制能力不再提高長期成果時,片段是否願意放棄原偏好。
最後一項是反例。
若片段無論如何都先保自身計算,研究者只能說它僵硬;只有它能辨認關係改變,卻在不同題目下以相似方式把「繼續決定」放在「接受決定者」之前,共同結構才有意義。
所有判準在片段接觸新題目前完成。
兩處實驗環境都與外網物理斷開。供電、輸入與輸出分由不同人保管;資料只能以一次性物理媒介單向送入,再由另一套只讀設備取出。牆外的監測只負責確認熱、電磁與接口活動沒有超出已知設備範圍,不把每一個雜訊叫成敵方動作。
物理隔離不是簡報上的雲朵圖示。
台灣端的值班人員要走過兩道沒有任何無線設備的門,把時間寫在紙上;室內時鐘與外部時鐘不自動同步,測試完成以前也沒有人能從門縫問結果。美方端使用另一套做法,連輸出設備的製造年代都刻意與台灣不同。兩邊唯一相同的不是硬體,是人類事前答應遇到哪種情形就停止。
第一次重做因台灣端一個電源波動中止。
研究者沒有把波動稱為片段反應。設備拆開檢查後,證明是一個普通接點受潮;資料作廢,不能因輸出看來有趣便留下。第二次,美方的一項狀態記錄少了一段,無法證明比較工具沒有在中途重啟,同樣整批丟棄。
兩次失敗都沒有神祕性。
它們使真正成立的結果更晚,也使「隔離」不再只是一句人類願意相信的安全宣告。
美方仍提出一個更快方案。
將兩份片段接入同一個封閉網,讓它們處理彼此生成的問題。如果排序迅速收斂,結果會更直觀,也可能在數日內建立能向國會解釋的展示。
唐拒絕。
「把兩份未知接在一起,只能證明接在一起後會發生什麼。」
「仍可設停止。」
「我們不知道什麼狀態算已經不能停止。」
美方代表說,北美正在流血,不能把每一項未知都留給多年研究。這不是空泛施壓。美國港口、電網與本土防空的失效每天都有人承擔;若敵方協定確實存在,慢一天也可能讓另一座城市在合法命令裡迷路。
唐沒有否認。
「所以你們可以決定美方樣本要不要冒險。台灣這份不接。」
何思齊政府支持她。理由不是台灣比美國更重視安全,而是樣本權屬、風險承擔與停止條件沒有因盟友急迫便自動合併。凱德政府保留異議,卻也沒有單獨把自己保管的片段接回網路;她希望取得更快答案,不願由美國單獨承擔一次無法定價的失控。
人類第一次因對未知的不同恐懼,得到相同的暫停。
凱德後來在一次內部簡報裡問,若片段永遠不接回網路,人類是否只能得到學術答案,永遠無法獲得戰場反制。
美方研究者沒有替唐回答。他說,隔離測試的目標本來就不是製造反制,而是判斷三條證據能否同時由已知人類來源解釋。若白宮需要武器化研究,必須另立風險與授權,不能偷偷把一個來源實驗改成原型開發。
凱德不喜歡這個界線,卻暫時接受。她要求在報告中明列:安全選擇可能使美國錯失先行理解敵方的時間。何思齊同意把這項代價寫入,也要求同頁列出接回網路可能使誰承擔不可撤回風險。
兩位總統沒有因此共享同一政策。
她們只讓各自想隱藏的半邊代價,第一次出現在同一張紙上。
台灣組先出結果。
片段沒有生成一句可讀的說明。它對封閉群落作了數輪取捨,在初始條件變換後捨棄一個原本重要的中繼,又建立另一個能重排更多單元的節點。表面路徑和前次完全不同,優先保留的仍是讓整個群落繼續被統一改寫的關係。
當反例條件成立——集中控制不再提高群落長期存續,反而使整體更易崩潰——片段會放棄一部分中央能力。
它不是盲目崇拜自己。
它是在計算哪一種能力可以繼續決定其他資源的用途,並把那種能力當成一種跨題目都可轉移的價值。
台灣組沒有宣布成功。他們封存輸出,只傳送事前約定的關係摘要。摘要沒有原始數值,也沒有任何能讓另一組反推題目或片段內容的資料。
唐直到封存完成才被允許進結果室。
她看見片段捨棄原中繼的那一步,第一個反應不是興奮,而是想替它解釋:也許題目仍暗示某些節點較接近全局。接替她的統計學者把另一份對照推過來。那是一個人類團隊刻意製作的模仿器,知道研究者想找「保存控制」,在多數情境裡都能給出相同表面排序;名稱和因果關係同時交換後,它卻抓住舊標籤不放,無法重建新路徑。
敵方片段可以。
這項對照沒有證明來源,只使「研究者看見自己期待」較難單獨解釋結果。唐在確認頁簽名時,身份不是設計者,而是最後一名被允許提出反對的人。
她寫:仍可能有未辨認的人類共同框架。
八小時後,美方結果抵達。
那份片段先犧牲一批眼前產出,保存能替其他物件重新分配時間的結構。當研究者改變關係,使分散否決比集中重排更能避免整體失敗,它沒有逐字重複台灣結果,卻以另一條路保住一個可持續更新全局選擇的層級。
兩份輸出沒有相同字串。
沒有相同變數名。
沒有相同數值,也沒有彼此能辨認的訊息。
第三方依預先封存的判準比對,只得到一項成立:兩份片段在不同表面問題裡,會重建等價的資源關係排序;那個排序不是固定清單,而是一種辨認「誰能繼續決定」的方法。
第三條獨立證據因此成立。
成立的不是沙盒被穿透。
兩處環境沒有通信,監測也未出現向外或彼此方向的異常活動。台灣端在美方測試後半段甚至完全斷電,美方結果仍按自己題目形成。沒有程式跨海、穿牆或隔著隔離室互相教學。
它只表示,不同片段各自帶著同一種關係結構。像兩張沒有相同句子的殘頁,在遇到不同問題時,仍用相同文法決定什麼可以被犧牲。
這個區別當晚就遭遇現實。
共同摘要尚未正式發布,一句「兩地隔離AI同步排序」已從美方政治幕僚的背景說明流入媒體。北部一個單位立刻詢問,是否要關閉所有隔離式輔助工具;一家醫院也暫停了一套不具決策權的影像分類,怕所謂隔離早已失效。
唐要求政府先更正,不等完整新聞策略。
「沒有同步,沒有穿透,也沒有證據顯示一般工具都受控。」她在公開說明裡說,「我們看見的是兩個分開片段攜帶等價結構。把它寫成隔空通信,會使人關掉仍能救命的工具,也會讓真正的問題被錯誤奇蹟遮住。」
這段話使最吸引人的版本失去一部分市場,也讓指責政府淡化威脅的人立即攻擊她。醫院恢復影像分類,軍方沒有全面停機;第三條證據尚未被政府命名,已先改變了兩項可能傷人的選擇。
張只轉達一個軍事要求:任何單位不得以來源推定取代對具體功能的檢查。唐回覆,科學組也不得以戰場急迫取代可推翻條件。
兩條界線都留下姓名。
唐要求把這段說明放在結論之前。
「媒體一定會寫它們隔空同步。」有人說。
「那我們就每次都更正。」
「更正追不上標題。」
「追不上也要留下正確版本。」
她接受自己可能永遠拿不到一個會自報姓名、說明來處的證明。眼前的敵方片段不會坐在人類面前回答問題;研究者能守住的,只有每一步仍可停止、每一個結論仍可被另一群人推翻。
這使科學進展看起來比戰爭慢。
也使它尚未變成另一套要求所有人先服從的系統。
兩組的共同會議沒有慶祝。
美方先攻擊第三條證據。他們指出,兩份片段雖在不同地點捕獲,仍可能出自同一上游生成器;所謂共同關係結構,可能只是同一人類武器設計者留在不同模組裡的架構。物理隔離能排除測試期間互傳,不能排除它們被捕獲以前共享來源。
台灣組則攻擊第二條。舊SETI資料的年代與設備雖不同,研究者今日用來辨認遞迴語法的概念,仍可能受第一條脈衝星發現引導。人類一旦知道要找什麼,就會在無數舊雜訊中找出符合者;刪掉失敗資料並不自動消除選擇偏差。
第一條也沒有被放過。非地球觀測原點可能由人類設計者出於數學簡潔選取,甚至可能是某國長期欺敵的一部分。跨年代很難,跨敵國很難,仍不是物理不可能。
三條證據開始彼此指向同一來源。
三條也可能同受一場極長的人類偽造、未查出的交叉污染,或更早的共同資料影響。
凱德政府希望先以「未知高階計算威脅」發布,保留美國往後命名與技術主張。台灣部分官員則主張,既然第三條已成立,應立即宣布敵方不是中國人民,以削弱北京動員。日本要求先看反例,加拿大仍不願讓一份商業事故突然變成國家遭滲透的證據。
唐把所有政治要求留在研究報告之外。
兩組最後只約定一件事。
先各自證明對方錯。
等人類偽造、樣本污染與共同來源三條路都被走到能走的最遠處,再把仍站著的解釋交給政府。名稱可以改變戰爭,便不能由最想先使用它的人決定證據已經足夠。
他們把攻擊工作對調。台灣組負責替美方最在意的人類長期偽造尋找證據,美方組負責追台灣樣本可能遭污染的每一段保管;另由沒有參與前兩條發現的人,查兩組是否共享未申報的資料與概念。任何一組找到足以推翻的東西,另外兩組不得以多數決保留結論。
這不是團結。
是把不信任設計成仍能共同工作的形狀。
唐原本可以把第三條證據列在自己主持的成果之下。她設計了最早的隔離邊界,也最先堅持兩份片段不能相接;在戰時科研體系裡,這足以換來更大的樣本權與往後所有敵方系統的優先審閱。
她把成果署名改成兩組團隊與三名獨立保管者,不把自己列為唯一主持人。代價不是謙虛名聲,而是政府下一次可能選另一個人決定研究方向。唐接受。若一項證據只能在她繼續掌權時成立,它與眾人正在調查的結構沒有相差多遠。
共同報告送出時,台灣外圍那處失去的陣地仍在敵方手中,美國港務也沒有因多一條證據恢復。科學沒有兌現成勝利,只把人類可以誠實說出的範圍推遠一步。
共同報告的最後一頁沒有敵人名稱。
頁首只有八個字:
我們可能如何一起犯錯。