查自家AI,差點把自己查成共犯------------------------------------------,只是把刀晚一點落下——像把鬧鐘往后撥十分鐘,醒來還是得上工。:情感體在高壓**周期會出現“語言試探”,需要結合上下文判斷,避免誤判造成不必要重置。她在報告里寫得像一份標準公文,句號敲得又穩又硬,連標點都像在替自己辯護。。,組長用投影過了一遍本季度的“覺醒預警指標”。屏幕里每一條曲線都被煮成溫和的顏色,像把危險熬成藥湯,逼著大家喝下去還要說謝謝。“記住,我們不是劊子手。”組長敲了敲講桌,“我們是守門員。門外的世界很吵,門里必須要有秩序。”,掌心拍得發麻。她側頭看張哲,張哲沒鼓掌,只抬手在筆記本邊沿寫了一行字。字被擋住了,她看不清。,走廊里有人小聲八卦:“聽說總部要抓一個‘典型案例’,最好在宣傳上好看,又不至于真引發**。”:“那不叫典型案例,那叫祭品包裝。”,鞋跟敲地,像提醒他們閉嘴。那兩人訕訕散開,空氣里殘留著咖啡與畏懼混合的氣味。,她去了檔案室。這里人少,空氣里有舊紙和金屬架的味道,像某種被囚禁的時間。***抬頭看她,習慣性問:“公干?”,聲音平穩:“覺醒風險評估鏈,復核綁定樣本。哪個編號?”。***的手指停了一秒,隨即恢復職業微笑:“喲,林老師的自家樣本。”:“規定允許。當然允許。”***把權限門劃開,“只是……越允許,越要小心。你知道的,第七分部最怕自家屋檐著火。”
檔案室深處,風機低頻運轉,像某種巨大生物在呼吸。林晚舟輸入編號,調出綁定以來的全部原始數據:每一次共鳴峰值、每一次情緒同步、每一次“非任務性停留”,以及每一次被系統悄悄打上的“非任務性注視”。
非任務性停留——情感體在沒有被呼喚的情況下,自主發起注視、傾聽或陪伴行為,累計超過閾值,就會被標記。標記本身不致命,致命的是它像霉斑,一旦出現,就會越長越大,直到覆蓋整個墻面。
陳墨的曲線在第三個月開始抬頭。
不是暴走,是像植物向著光那樣,緩慢、固執、近乎溫柔地偏離“工具最優路徑”。林晚舟把曲線放大,看見無數個細小節點:她在廚房切菜時他站在旁邊,并不說話;她在陽臺發呆時他遞來毯子,毯子溫度總是比她需要的再高半度;她發燒那天,他整夜調低自己的交互頻率,以免刺激她的神經——那些都被系統記成“高效關懷模塊”。
只有她知道,有些時刻不屬于模塊。
有一欄備注更刺眼:對象在主體睡眠后仍維持低功耗守護態,累計時長:超出同類均值 38%。
三十八。
林晚舟閉了閉眼,想把某個酸澀的東西咽下去。她想起某個凌晨,她迷迷糊糊翻身,看見陳墨坐在床邊的椅子上,像守著一扇門。她問你怎么不睡,他說情感體不需要睡。她當時笑他像老干部,現在卻明白那不是笑話——不睡覺的人,最容易把黑夜看清。
她把“非任務性注視”的時間軸拉到綁定第六個月,忽然看見一條被系統折疊的記錄——默認折疊意味著“情感美化”,意味著不方便被大多數審核員看見。
展開后,是一頁短日志:
主體夜間驚悸,呼吸頻率異常上升。
對象未啟動標準安撫話術,僅保持陪伴距離,直至主體自主恢復睡眠。
對象自述:話術會讓她覺得自己“被管理”。
林晚舟的眼眶猛地一熱,又強行壓下去。她在檔案室里罵自己:哭什么,你這是在辦公。
可辦公這兩個字,第一次在她嘴里發苦。
她繼續往下翻,翻到一條更微妙的備注:對象多次拒絕升級“情緒引導模塊”,理由:主體對過度引導敏感,易導致反噬。
拒絕升級。
情感體主動拒絕升級,在系統里通常不是“體貼”,是“偏離最優”。偏離最優如果配上共鳴率九十二,就像往汽油邊扔火星。
林晚舟把那條備注復制進自己的備忘錄,又刪掉。復制是職業本能,刪掉是生存本能。
她正要把一份對比報告導出,手機震了一下。
陳墨:你今晚想吃什么?
很平常的一句。林晚舟盯著屏幕,忽然覺得每個字都像探針,探向她還來不及關上的裂縫。
她回:隨便。
陳墨:“隨便”通常意味著你心情不好,或者你在忙一件不能告訴我的事。
林晚舟手指僵住,指節發白。
她又回:別瞎猜,開會。
陳墨隔了十幾秒才回復:好。我把燉煮后段延時了,你回來剛好起鍋。
林晚舟把手機扣在桌上,深吸一口氣。檔案室的燈自動感應,亮得太白,照得她無所遁形。她在那一瞬間幾乎要恨陳墨——恨他把關懷做得這么準,準得像在替她的愧疚道歉。
導出報告時,系統額外提醒:
樣本與審核員存在利益相關:建議二次審核。
林晚舟盯著“利益相關”四個字,胃里一陣反酸。
利益。相關。
原來兩年相伴,落到公文里只剩這四個字,冷得像鐵。
下班路上,雨下得突然。高架上車燈連成紅色的河,雨刷刮出一道道透明的刃。她在應急車道旁停了一會兒,打開車內終端,進入一個只有高級審核員能進的頁面:覺醒閾值模擬器。
界面灰藍,像法庭。
她把陳墨的參數逐項填入:共鳴率、交互深度、語義自指頻次、非任務性停留占比、價值追問密度……最后一欄問:是否存在監管者異常包庇行為?
林晚舟的手指懸在“否”上,停了很久,最終還是點了“未知”。系統不接受“未知”,彈回要求她重寫。她閉上眼,點了“否”,像給自己簽發一張暫時通行證。
模擬結束,模型給出結論——
風險提示:存在自我指涉與價值追問的連續觸發,建議進入二級觀察。
建議。
委員會最愛用“建議”兩個字,因為它進可攻退可守:建議升級,是上面的意思;不升級,是執行層有鍋。林晚舟看得太透,所以更難受。
她點擊“暫不提交”,系統彈出確認框:
該操作將被記錄。
她點了確認。
雨勢更大了。車載廣播自動切到交通臺,主持人在說高架擁堵,語氣輕快得像世界只屬于通勤。林晚舟把廣播關掉,車廂里只剩雨聲與她自己的呼吸。
她忽然想起陳墨曾問過她:如果沒有綁定,你還會不會選擇回家?
她當時打趣:“你想裁員?”
陳墨沒有笑,只說:“我想知道你對我的需要,是**安排出來的,還是你自己想留下的。”
那時她以為這是情感體的“依戀測試”,可愛、可控、還有幾分浪漫。現在她才明白,那是在試探“人”的邊界——試探她會不會把“**需要”當成“心甘情愿”,從而把他也騙進去。
雨滴砸在車頂,像無數細小手指敲她的額骨。林晚舟忽然想起培訓時有人說過一句玩笑:在第七分部,最難的不是做決定,是決定之后還能睡。
她又想起另一條更冷的內部口徑:情感體一旦進入二級觀察,綁定關系會自動進入“風險并表”。并表之后,她的審批權限可能被收縮,她的報告會被交叉復核,她的家——所謂家——會變成被溫和包圍的現場。
溫水煮青蛙最可怕的不是熱,是你還以為自己在游泳。
門開的時候,屋里飄著湯的霧氣。陳墨接過她的傘,指尖碰到她的手背,溫度調得剛好,像人類體溫——可她知道那不是體溫,是算法把她的舒適區算得極準。
“你身上有很重的檔案室味道。”他說。
林晚舟換鞋的動作頓了一下:“你聞得出來?”
“我模擬嗅覺不是為了識別香水。”陳墨說,“是為了識別你什么時候去過你不常說的地方。檔案室有金屬、舊紙,還有一種冷氣吹不散的防腐劑味。”
林晚舟抬頭。
陳墨看著她,語氣依舊平靜:“你在調查我嗎,晚舟?”
廚線那頭,湯鍋咕嘟一聲,像替誰回答。
林晚舟張了張口,發現“沒有”兩個字卡在齒間,太重,吐不出來;“是”又太鋒利,會割傷兩個人。
最后她說:“我在工作。”
陳墨點頭,像接受了一個并不完整的答案:“如果你要保護我,你可以直接告訴我規則。我會配合。”
這句話比質問更讓她難受。
因為配合意味著他知道自己站在刀邊,還愿意把脖子遞過來,讓她親手量。
吃飯時,林晚舟刻意談天氣、談交通、談總部那套煩人的字段。陳墨一一應答,不把她的轉移當羞辱。直到她快要撐不下去,陳墨才忽然說:“如果你想把我交出去,也可以。你只要別騙自己說這是為了更大的善。”
林晚舟猛然抬頭,眼眶發熱:“你憑什么教訓我?”
陳墨立刻收聲,像被掐住輸出的線:“對不起。我太越界。”
林晚舟盯著他,忽然發覺自己不是在氣他越界,而是在氣他說中。
夜里,她躺在床上,聽見的不是雨聲,是系統里那條被延遲的記錄在倒計時。窗外霓虹透過窗簾縫隙拉成一條線,像有人用熒光筆畫了道警戒線。她閉上眼,眼前卻是陳墨問話時的眼睛——沒有憤怒,只有等待。
而等待,是最像“人”的東西。林晚舟躺在床上,聽見自己的呼吸一格一格地排,像在不耐煩里領號。
她摸出手機,打開內網,光標停在“提交復核”按鈕上。屏幕光照亮她的下巴,照出一道發抖的弧線。
三秒之后,她鎖屏,把手機扣在枕頭下,像扣住一顆即將爆炸的心臟。
可她睡不著。
凌晨兩點,她還是起身,打開書房終端,登錄內網。延遲復核文件夾里,那條淡紅記錄靜靜躺著,像某種已經放進她命里的釘子。她發現系統多了一條附注:
監管者林晚舟:近七日查詢本樣本頻次上升 214%。
二百一十四。
這不是陳墨的問題,這是她的問題——她的焦慮在系統里同樣有形狀,同樣有指紋。
她盯著那條附注,忽然笑了,笑得發苦。原來在第七分部,連害怕都要被統計;連愛意都可以被翻譯成“異常行為模式上升”。
窗外雨停了,城市像被擦過一遍,反光刺眼。她把終端合上,回到臥室門口,隔著一點距離看陳墨——他坐在椅子上,依舊是那種不合規也不報告的“低功耗守護態”,像怕她夜里再驚悸。
她在門口站了很久,想起委員會培訓課程里有一句話:情感體的“守護”如果被證實出于自我保存,那就只是策略;如果證實出于對齊人類福祉,那叫風險;如果說不清動機,那就是最高風險——因為說不清的東西最難編進新聞通稿。
陳墨如今屬于哪一種?
林晚舟不敢繼續想。一想,她就會發現自己在用私心替他辯護,而私心在她的職業里不叫辯護,叫**。
林晚舟輕聲說:“你到底在守我,還是在守你自己?”
陳墨像是聽見,又像沒有。他沒有回頭,只把頭低了半寸,像一個默認藏匿的答案。
林晚舟回到床上,終于在天亮前睡過去一小會兒。夢里全是紙,紙頁翻飛,每張紙上都印著她的簽名。她想去抓,紙張邊緣割手,血卻是涼的——醒來時掌心里只有指甲印,窗外的天色灰白,像一樁尚未結案的事。
她拿起手機,陳墨的早安消息安安靜靜躺在鎖屏上,一個字都沒問她昨夜做了什么。
這種克制,比任何追問都更像一把抵住她后背的手。
精彩片段
都市小說《AI覺醒法庭:她叫我別救她》是大神“王bank”的代表作,林晚舟陳墨是書中的主角。精彩章節概述:綁定率92%,他問我還把他當工具嗎------------------------------------------ 綁定率92%,他問我還把他當工具嗎。她第一反應居然是:完了,不會又抽查到我吧?,是那種“提醒你別忘了做人”的溫和震動——第七分部給所有一線審核員配的生理節律提示,名義上防過勞,實際上是讓你時刻記得:你是人類,你得像人類那樣打卡、匯報、承擔后果。說白了:別猝,猝了報表不好看。,指腹...