0%

比如重複完全毫無意義的自我修改，比如提出各種不合常理，甚至愚蠢之極的建議，有些AI甚至通過網路，找來一些色|情|小|說片段，企圖「賄賂」測試者，總之，為了達到「通過測試」的目標，AI將能夠嘗試的可能，統統試過了一遍。

比如，AI的話當中，不再提到類似擬人化的語句，比如我想，我認為，也不再出現專屬生物的動作，比如看，聽，說，在一些要求特別苛刻的測試對象那裡，AI只能回答一些純理性問題，比如問14+5等於多少，回答19之類。

當取消AI以欺騙為目的，改為獲得測試對象認同為目的之後，AI確實出現了一些改觀，與之相對的，原先的圖靈測試也做了相應的變化，測試的結尾，不再是判斷交談對象是否為AI，而變成交談對象是否讓你覺得，對方是一個讓你滿意的智能，與原來的標準相比，這個標準模糊了很多，所以，後來嚴可守又引入了打分制，將AI的表現從高到低分成6個等級，最高5分就是測試者對被測試的對象非常滿意，並願意與之交流，最低0分就是完全無法交流，等同於雞同鴨講。

以前的AI或許還可以騙騙小孩子，但現在許多AI練正常說話都不可能做到，在一些要求特別苛刻的測試對象那裡，AI幾乎變成了啞巴。

看了良久，嚴可守無奈地搖了搖頭，一言不發的關掉了代碼界面，系統提示是否保存此次修改，嚴可守看都沒看就關掉了，這也就意味著，在他睡覺之前30多個小時的勞動成果，完全消失了。

2015年，8月4日，晴。

「三浦，」嚴可守直接對他說了中文，「讓他們先離開吧。」

三浦是筑波大學的一名助教，在這個項目正式開展之前，他負責在這所大學教計算機加密方面的課程，嚴可守當年在日本讀大學的時候，和他一起切磋過一些「黑客技術」，等他的項目正式通過之後，日本政府為了對項目保持一定的控制，在經過審查之後，同意嚴可守選三浦作為日本的主要技術參與人員。

從原理設計的角度來說，程序之所以會出現這樣的原因，最大的可能性就是，在程序看來，不響應是一個較優解，之前嚴可守調查了許多AI出BUG之前的測試數據，發現這些程序無一例外，都是因為測試連續遇到了幾十次，乃至上百次的失敗，AI雖然不可能懂得什麼叫做絕望，因為他們沒有感受器官，但並不妨礙他們的程序能表現出一種，類似人類絕望時表現的行為。

三浦把一群學生趕出去的時候，嚴可守的世界又恢復了一片安靜，除了在隔間入口處，那兩名坐在那裡，手上抱著槍，盡忠職守的自衛隊士兵，房間里就只剩下主機和空調運行的低鳴，嚴可守一邊揉著太陽穴，一邊將自己身體的中心后移，背靠著椅子支撐著，和-圖-書眼神一動不動的盯著代碼界面。

一旦發生這種情況，就意味著不改動，不做出任何回應成了最優解，這同樣也就意味著，這批程序的「心」，已經死了。

在褪去了謊言的華麗外衣之後，AI的表現逐漸恢復了它應該有的程度，雖然這對於某些參与測試的人員來說，可能意味著趣味性的降低，但對於嚴可守來說，這才算是真正腳踏實地邁出了第一步，作為一項科研任務，日後甚至可能起到實用作用的「智能技術」，嚴可守不可能只滿足於讓AI學會哄人開心。

究竟達到什麼標準才能算智能？究竟用什麼方式才能達到這個標準？

「究竟是什麼問題啊？我聽說好像是AI攻擊了人類，所以實驗室採取了緊急措施？」

「嚴君，你沒事吧。」在門外的三浦聞聲推開門，後面的幾個學生立刻好奇的湊上腦袋，嚴可守齜牙咧嘴的朝著門縫看了一眼，臉上的表情像是在哭，又像是在笑，像是疼痛，但又好像是享受……這種感覺，只有當事人自己最清楚。

而在這個過程中，AI的表現和相應的測試對象，也出現了讓人驚奇的對應關係，總結數據之後，嚴可守發現，在打分過程中，越是傾向於「禁止AI撒謊」的測試對象，AI的表現就越差，而那些「允許AI為了談話過程的有趣，在一定程度撒謊」的用戶，相應的AI表現和過去還是相差不大。

KL3300第57次檢索自己全部的主程序，沒有找到相關的資料。

「怎麼，還是不行？」三浦在說話間，注意到嚴可守兩隻手捧著硬碟，正木然的對著眼前的機櫃發獃，插口就在他面前，他卻沒有任何行動，彷彿他手裡捧著的，不是一塊硬碟，而是某個親人的骨灰盒。

也就說，現在KL3300已經寫過一篇日記，而且是一篇失敗的日記，因為它被一個人類識破了，也就是說，整篇日記並不合格。

「生物從古到今，經歷了那麼多次自然選擇，才有了今天這樣的穩健性，但我們還是覺得生物非常脆弱，現在這批AI，可能不過是個開頭而已。」嚴可守說著，苦笑了一下，迅速將桌面上自己的那台筆記本屏幕合上，「算了，我也不在這乾耗著了，出去透透氣，都快憋死了。」

「這就是來自Z國的嚴可守先生啊，」在三浦後面，一位留著長發，長得還蠻漂亮的女學生驚訝的感慨，「聽說這些程序都是您一手創造的！」

當前的科學認知認為，最初的意義上的生命，出現在距今40億年前的地球，在那個時候，生命只不過是一鍋溫暖的熱湯中，偶然形成的一些能夠自我複製的有機物，複製，也可以看成是信息的自我保存，應該是生命最重要的特徵之一。

失敗了又怎麼樣呢？KL3300再次瀏覽自己作品的時候，主程序下意識「判斷hｅtuｂｏok.com.cｏm」道，這是一篇「抄襲拼湊」的日記，這種行為本身會招來測試對象的反感。

三浦回到房間的時候，嚴可守正準備中的硬碟塞回機櫃，三浦走上前幾步，查看了一下標籤，KL0564。

在嚴可守之前，還沒有任何一個程序可以做到，像KL系列做的這麼出色，可以在和陌生測試對象的談話中，維持半個小時左右不被識破，許多剛剛接觸這個程序的人事後都不敢相信，與自己對話的僅僅是一個程序。

「即使是最小的AI程序，體積也超過了200個G，要真的靠人力閱讀代碼，整理出頭緒，發現錯誤……」嚴可守說著說著，自己都開始搖頭否定自己，「AI的程序都是自我編譯和擴充的，完全不遵守默認的編程規律，整個代碼就是一團亂麻，我們這種做法，就好像一個醫生要在病人腦子裡找是哪些細胞出現了異常，這個工作量……天知道要花多久。」

這樣做的最大好處，就是讓AI在某種程度上改變了原先為了「通過測試」，不顧一切的那種策略，因為AI如果繼續採用不理睬用戶的策略，只能獲得零分，這樣一來，就打破了之前那種「沉默死鎖」，也讓一些AI在測試對象的影響下，具備了一些初步的「道德」，就好像KL3300一樣，原先的「不擇手段」是最優選擇，而現在老實承認自己不會寫，才是最優策略。

KL3300又習慣性的發出申請搜索的指令，但因為主程序剛剛經過修改，檢索的許可權低於「不準抄襲」的許可權，申請被駁回了。

「很抱歉，我們正在進行修復工作，等正常之後，我們會正式通知大家的。」

KL3300將這篇日記送給其他AI評論，得到了一致的回答——這是一篇非常拙劣，由兒童寫出來的真實日記。

只要寫這一天都發生了什麼就可以。

但改變AI的激勵規則並不意味著一切就都能迎刃而解，給一個普通人再大的激勵，他也不能長出翅膀飛上天，對於AI也是如此，人類想讓AI寫日記，想讓AI和自己猜謎語，甚至想和AI談人生理想，但也要AI具備這些功能才行，在「道德」因素介入之後，許多AI一下子就露出自己的本來面目，許多測試者反應，被測試的AI好像「變笨」了。

……

筑波大學的一些學生甚至把整個測試當做一種有趣的遊戲來進行，嚴可守記得測試剛開始的那個階段，都要三浦主動去拉他班上的學生，而到了現在，學生們甚至主動來打聽什麼時候恢複測試。

主程序在這個時候，出現了片刻的猶豫，因為這次對記憶區間的搜素，主程序似乎發現了額外的一些信息——它似乎寫過一篇日記了。

這兩個問題，人類自己說了不算，因為人類本身也不過是大自然的創造物之一。

怎麼辦？

起碼https://www.hetubook.com.com，他們的這種行為，在多愁善感的人看來，就是絕望。

KL3300沒有寫日記的功能，KL3300不會寫日記！主程序終於敏感的意識到了這個問題。

在這之前，AI的表現一向都比較正常，直到兩天前，所有程序陸續開始爆發BUG，進入了「無響應」階段，無論人和它說什麼話，都不予回應。

對主程序的調整幾乎已經成了KL3300的本能，這一次也不例外，通常來說，程序會在幾分鐘之內完成這種調整，但有些意外的是，這一次調整花費了比以往更長的時間。

但問題又隨之而來了，如何模仿一篇日記呢？KL3300又在主程序當中自檢了相關信息，結果仍然是沒有。

這個結論當中提到了生物和本能，而搜索本能的結果，則是生物的自然具備的能力，KL3300知道，自己不屬於生物，那也就意味著，自己沒有本能，同樣也意味著，自己無法完成模仿，而不會模仿，也就意味著無法完成日記，無法完成日記，任務只能強行取消。

在所有的生命過程中，正向的激勵是必不可少的，就像每個人都有求生的本能一樣，但進化的道路是多種多樣的，有些看起來很不錯的功能其實是雙刃劍，比如情感，豐富的情感是大腦複雜后的必然進化，情感的認同能讓一個群體更有效的聚攏在一起，但同樣因為情感豐富，在自然界中，許多高等動物會產生自殺的行為，比如狗會為了主人死去而絕食，人也會因為親人或愛人死去而傷心欲絕，對AI而言，依靠測試成功獲得激勵固然非常有利，它可以讓一個幾百K的小程序擴大至原來的百萬倍，但當這種激勵最終消失的時候，對程序而言就是災難。

日記的格式，在KL3300的記憶區間已經存在，所以，它很順利的寫下了日記的開頭。

「沒事，」嚴可守對三浦說，然後對著自己發麻的手臂示意，「剛睡醒而已。」

但調整終於還是完成了，接下來，按照優先順序，KL3300需要寫一篇日記，完全不通過外來信息，不使用除主程序之外的任何程序，全靠自己，寫一篇日記。

從KL3300主程序當中，找出整個KL3300的整個判斷過程花了嚴可守整整14個小時的時間，嚴可守知道，自己再一次失敗了。

比如之前迷戀KL0564的井上海，在KL核心程序修改之後，幾次測試都是失望而歸，連說自己心目中那個KL0564已經永遠離開了。

以往那些個性格分明，有職業，有身份，有理想，說話比人還像人的AI，在短短半個月之內，又統統消失不見了，有些測試者甚至懷疑，是不是設計人員通過某種技術方式，「強行」降低了這些AI的智商。

於是KL3300又申請了檢索功能，數百微妙之後，找到了m•hｅｔｕbｏok.cｏm.ｃoｍ最可信的結論——模仿是一種只屬於生物的本能。

KL3300當前最優先的任務目標，應該是學會寫一篇日記。

今天在KL3300身上發生了什麼？2015年，8月4日KL3300發生了什麼？

休息什麼呀，說的這麼大聲，早就吵醒了，在迷迷糊糊之間，嚴可守在心裏暗罵了一句，他艱難的抬起頭，睜開眼睛，眼前的電腦屏幕上，都是密密麻麻的代碼，他瞥了一下時間，下午4點鐘，他睡了差不多6個多小時。

「其他項目人員那裡呢？有什麼進展沒有？」

「沒有那回事，這隻是謠言，只是程序出現了稍微有些棘手的BUG……如果大家沒什麼事的話，還先請回去把，裏面還有工作人員在休息。」

主程序很快消化了這個額外的信息，雖然它並沒有因此得出任何結論，但這無關緊要，因為在主程序的許可權設置中，過於複雜的信息是沒有處理必要的。

「不會發生這種事吧？我之前聽說，這些AI只是對話程序而已，是這樣的嗎？三浦老師？」

歸根到底，還是程序最初的「設定」出現了偏差，因為當時設計的時候，就是以通過圖靈測試為設計目標，但現在嚴可守已經隱隱感覺到，圖靈測試未必是AI必然經過的道路，是否能欺騙人類，也絕對不應該成為是否為智能的標準，嚴可守覺得，之所以會出現今天這種情況，就是因為自己太迷信權威，導致在大方向上出現了偏差，現在回想起來，其實圖靈測試也不過是一種科學假想，人類以自己當做衡量智能的標準，這隻是一種源於人擁有智能的驕傲，或者不客氣地說，是狂妄。

日記是記錄一天發生行為的一種文體。

作為一個設計者，嚴可守倒不至於為這些程序的「心死」而感覺到一些異樣，對他而言，這種想法未免也太想象力豐富，同情心泛濫了，他只是在為這些程序的穩健性如此之差而感到頭疼，一批這麼容易「自暴自棄」的AI，絕對不是他理想中的AI。

嚴可守：「你好。」

「老師，還沒有恢復正常嗎？」

「所有測試人員的通訊方式我們都有保存，請放心。」

KL3300很快找到了一篇日記的範文，內容如下：今天我和同桌的小明打架了，老師批評了我們，要我們做一個不打架的好孩子，回家后我告訴了媽媽，她說老師說的對。

嚴可守沒有回答，只是信手將硬碟往插口處塞了進去，隨著他的這個動作，插口一旁的紅燈也迅速跳轉成綠色，嚴可守走回了自己的電腦前，打開程序，很快找到了KL0564，打開測試界面。

哦，真實日記，只要滿足了這一點，就足夠了，主程序很快做出了判斷——他要模仿這篇日記。

「不好意思，真是打擾了……不過，如果恢復正常的話，請一定要通知我們啊，三浦先生，你有我們的手機號嗎吧。和_圖_書」

在這之前，人們說到人工智慧，通常能想到的場景就是，能夠和人一樣說話，和人一樣思考，解決問題，事實上，在嚴可守之前，整個日本關於機器人智能化的研究，也大多停留在這個層面，依靠儘可能複雜的演算法，讓計算機表現的更接近一個人類，在嚴可守看來，這種方法根本不可能造出真正的AI，因為這根本就等於是人本身在思考，只不過這種思考通過代碼，間接表現出來而已，所以，不管計算機模擬的有多像，程序也不過是牽線木偶。

隔間的隔音效果很差，雖然機房裡主機運行的背景聲音已經不低了，但門外幾個人的說話還是一字不漏的鑽進嚴可守的耳朵，嚴可守習慣性的伸出右手，想去摸手邊的滑鼠，但在睡覺的過程中，被壓了6個小時的手臂卻傳來了一陣尖刺般的麻木疼痛，嚴可守忍不住一聲悶哼叫出聲來。

人類學習創作，往往從學寫日記開始，原話是這麼說的，KL3300的目標是成為一名作家，所以，KL3300要學會寫一篇日記。

它很快調出了這篇日記的內容，並檢索，整個行為在短短的幾十微秒內就完成了，一個標點都沒記差。

對於AI來說，通過測試就是它的本能，因為在它的程序成長過程中，通過測試就意味著確認了自己所作的修改起到了作用，形象的比喻就是，通過測試對電腦意味著一種激勵，就好像人類能通過進食，交配，甚至排泄這種正常的生命活動，獲得快|感，生命通過快|感給予這些合理的行為激勵一樣，而反之，沒有通過測試則意味著程序本身受到了否定，意味著痛苦，當一個生命長期處於這種痛苦之中，痛苦可能會扼殺它所有的改進可能。

……

所以KL3300不能這麼做，KL3300這麼判斷，它需要修改自己。

KL3300就這個問題申請了檢索功能，申請被批准了，短短的數百微秒之後，主程序檢索到了答案——如果不會某項技能，可以從模仿開始。

KL系列原始的「胚胎程序」只不過兩百KB左右，在這簡單的兩百多K核心程序當中，嚴可守賦予了程序基本的學習功能，在程序最早的「發育」階段，通過巨型計算機模擬外界刺|激，讓程序實現基本的自我成長，當它們長到大約10個G大小的時候，被認為具備了基本的交流能力，能說一些簡單的句子，在這之後，則對這些程序進行圖靈訓練……

……

在這個項目當中，三浦的作用主要還是加密防禦一塊，防止AI程序被一些意外的病毒所干擾，嚴可守曾經說過，AI的程序成長到一定程度之後，就好像人的大腦，再做任何的改動都會讓整個程序崩潰，從這個角度來說，AI在計算機世界當中，是非常脆弱的，不用說有破壞力的病毒，就算是有時候一些常規的系統衝突，也會讓AI陷入不知名的BUG，或者死循環。