0%

然後嚴可守對井上海說：「有你想象當中的0564漂亮嗎？」

因此，即使是作為最大投資人的趙真雪，在進入這裏的時候，依然需要經過一名在場執勤的日本政府人員確認，以防止任何泄密的可能，不過在當前，趙真雪的知名度不說在全球，起碼在亞洲一帶，還是鼎鼎有名的，更何況中日美俄這四國在面對魔法問題上，都互相之間訂立了攻守同盟，在反魔法項目上，四國都互相保持信息暢通，看起來這個項目是日本的，其實本質上，是四個國家共有的，只不過各國都在各國自己的強項上，進行投入罷了。

嚴可守就在一旁，並在當下為她解釋了她辨認錯誤的原因——其實說穿了很簡單，因為在涉及類似哲學，藝術，文化之類的話題時，真正的人對回答信息真假「敏感度」其實是很低的，就比如說，最簡單的，「人生意義是什麼」，說享樂，賺錢，學習……這樣的答案都不能算錯，因為沒有相對真確的答案，所以人也自然不能根據這答案得出更準確的判斷。

「那既然明知道學撒謊沒用，你還讓他們學幹什麼。」趙真雪不解道。

在趙真雪的這幾次測試當中，她遇到的一個最讓她印象深刻的AI，是一個代號為KL3300的AI，與其他AI不同，這名AI不是通過和她聊家常來獲取她的信任，而是通過不斷把話題引向一些形而上的話題，比如說哲學，人生意義之類……他甚至還提到，自己的理想是在未來，當一名作家……

「但是如果……」趙真雪得知后，有些不敢置信地問嚴可守，「如果他剛才所說的那些，都是真的，都是他真的想說的內容，如果它是一名真正的AI，而不是你所說的模擬程序，那怎麼辦？存不存在有一種方式，可以讓你們鑒別這兩者之間的區別，鑒別程序究竟是在說謊，還是源自它真正的本源目的？」

事實上，旁人大可不比對他有過多的擔心，井上海並沒有完全失去理智，不然的話，他也不會擁有繼續測試的資格，在測試過程中，他依然嚴格遵守著圖靈測試需要遵守的要素，即使是安排到和KL0564的測試，他也會在測試的結尾，給出他認為的客觀答案。」

嚴可守告訴他，AI之所以會有當前的智能，和它的「學習」能力分不開的，其實歸根到底，這些AI不過是在計算機當中的一些演算法程序，只不過在設計的時候，可以模仿了人類的學習「記憶」習慣，讓它們能夠在一次又一次的實驗過程中，學習那些有助於讓人們相信他們的信息。

KL的演算法跟通常這樣的演算法不同的是，它是一個不斷進化，不斷膨脹的混沌演算法系統，每一個AI最早出現的時候，源程序在計算機中不過是佔用了幾百KB，但是隨著它通過圖靈測試不斷進行學習，獲得和掌握的信息越多，它的和圖書複雜度就和人類大腦發育一樣，是在不斷增長的，甚至就連我剛才所說的那些許可權值修改，修改多少，這其中的度也是AI自己掌握的。

在和他論及這些話題的時候，趙真雪還不知道對方是一名AI，在與他談天說地說了半天之後，她驚訝的發現，不知道什麼時候，話題的主導權已經完全讓對方掌控了，而在下意識之間，她也把對方真的當成了一名哲學愛好者，當她自信滿滿的結束測試，並滿心認為對方是一個人的時候，電腦出人意料的告訴她，對方只是一名AI。

「最後，再跟你說一件比較不可思議的事情。」帶趙真雪大致參觀了一下機房之後，嚴可守帶著回到了外面的測試間，在其中正在測試的人員之中，找到了一個戴著眼睛，正對著電腦打字的瘦弱青年。

一個最明顯的例子就是，在跟她進行對話的這些AI當中，每一個說話都具備它特有的風格，每一個AI都記得自己的名字，甚至會給自己取代號之外的名字，它們會給自己建立一整套「簡歷」，包括家庭住址，生活環境，甚至還有「小時候」經歷過的趣事……

井上海笑著拍了嚴可守一下，看來兩人之前應該是很熟悉的：「我知道，你是特意來取笑我的。」

「別國內了，」嚴可守說，「就算是在日本，也有不少人在聽說這件事之後，罵他是變態的，不過井上海的心理素質看起來還不錯，要不然，剛才我也不會當著他的面，開玩笑了，不過我跟你說起他，倒不是因為他的這點事，而是因為，由於他的這種行為，與之相對的KL0564也出現了很有趣的現象，就像井上海記住了它一樣，它似乎也對井上海產生了印象，以至於在後面幾次的接觸中，雙方只要一說話，就能明白對方的身份，通俗的來說，就是AI記住了他……你用這種眼神看著他幹什麼，別想多了，是記住了他，不是愛上了他，當前的AI所有行為都是基於對圖靈測試的適應，你得時刻記住這一點。」

現在你看到的這些具備編號的AI，其實只是成長中AI的滄海一粟，看到後面那個小隔間了沒，後面的面積，比現在你看到的要大得多，裏面放著的是日本當前最先進的巨型計算機，光是放著主機機房佔用了樓上和樓下同一位置整整四個實驗室，每天都會有數上百萬億個源程序拷貝同時在裏面進行『發育』，也就是通過系統不斷給予隨機的「虛擬刺|激」，讓這些智能得到最初的發育，這其中的整個過程，你可以想象成人的大腦胚層發育，無數的神經元突觸互相連接，最終形成一個有機整體……

因為使用了意識偵測，不等嚴可守開口，趙真雪就已經明白了，不過一時時間，她沒有好意思發表看法，等走出門以後，才說到：「他竟然喜歡上了AI？而且明知道這隻是一段https://www.hetubook.com.com程序的前提下？是不是動漫看多了啊？」

為了達到欺騙效果，有點電腦甚至可以和你爭論哪道菜比較好吃，它偏愛什麼味道，但你要知道，它只是程序，連基本的味覺器官都沒有，怎麼可能真的有這種感覺。

舉一個最簡單的例子，在打字對話這樣的媒介當中，一般讓別人相信自己的最好方式，就是形成特有的語言風格，從而讓被測試者對自己印象深刻，比如在常用語中刻意增加一些地方方言，有的AI甚至還學會了模擬一些人類的脾氣，比如不耐煩，連續的催促等等，用這些許許多多的小細節，讓對方相信自己是一名人，而不是AI。

「你可以使用意識偵測，這樣省得我翻譯，」嚴可守對趙真雪說，「他剛才說你長得很漂亮。」

「這裏我要先聲明一下，通常我們所說的圖靈測試，人員都是流動隨機的，都是從本校隨機遴選，再經過對方同意邀請而來，其中還要剔除掉百分之50測試是人和人說話，截止到現在，累計進行有效測試也才不到百萬次，這裏差不多有50多台電腦，平均下來，每天每台電腦進行的測試，也才一百多次，平均一次有效測試需要10多分鐘左右，而進行的測試而當前用於測試的備選AI有5000名，也就是說，即使是同一台電腦，一個人不間斷測試一天，使用超過15個小時，能和同一名AI遇到兩次的概率，差不多是50分之一。

這就好比我們能推測一個嬰兒的想法，因為模式簡單，餓了就哭，高興了就笑，幾乎沒什麼其他的東西，但要想清楚的看到一個成年人，幾乎就是不可能……不，除了魔法，但我要說，即使是伊凡站在這裏，他也不可能看清楚，這些AI的想法，這一點，也是我為什麼，在這個項目上投入這麼大精力的最大原因。

「這種學習對AI確實沒什麼意義，但對於人來說，卻意味著很多東西，」嚴可守說，「圖靈訓練，也就是讓AI通過圖靈測試的實驗，只不過是一個開始，一個驗證AI確實有實用功能的宣傳，在項目開展之初，我就說過，這個項目的最終目的，其實還是為了對抗魔法，或者說，對抗意識網，如果它日後真的能成長成獨立的智能，必將是不受意識網控制的智能，無論從什麼角度來看，這都是對意識網，還有對伊凡『獨裁』可能的一種平衡手段，在未來人類對抗卡梅爾的武器中，總是多出了一種選項。」

「你是不是還怕它們最後比我們人類聰明，最後取我們而代之？」嚴可守笑道，「科幻小說看多了吧，其實你的這種擔心大可不必，到目前為止，AI所接受的所有訓練，都是如何欺騙的訓練，也可以說，是撒謊訓練，即使他學到了極致，也不過是撒謊技能學到極致，讓人無法分辨真假，但hｔｔps://m.hｅtubｏok•cｏｍ•ｃｏｍ要說它真就有多麼聰明……我不這麼認為，也許今天他可以很你聊哲學，聊人生，但是AI本身，是無法理解這些概念的，這些概念只是他用於欺騙的工具，在程序中許可權較高而已……

「演算法和結構是我們設計的，這沒錯，」嚴可守說，「但AI程序跟一般的計算機程序不同，一般的計算機程序，你下命令，情況1，做A，情況2，做B，一條一條，程序所有的行為都被代碼鎖定，這樣的程序哪怕再複雜，也不過是一架精密的機器，在進行AI理論性設計的時候，這種機械方法是最早被我們拋棄的。

現在說AI是智能，還為時尚早，充其量，也就是「類智能」，它們是在電子世界成長的體系，與人類相比，他們永遠只是『不出門』的秀才，嘴上即使說的天花亂墜，但也掩蓋不了他們無知的本質，這裏的無知，不是說不知道，而是說，『不能知道』，就好像先天性的聾子必然也是啞巴，在沒有共同感受的前提下，也不可能存在共同的文化，即使AI最終真的產生了智能，那也必定是我們不能理解的世界，而同樣的道理，它們也不可能真正理解我們這個世界，所以，你的擔心，應該說是完全不必要的，其實很多這方面文學題材，外星人入侵，機器人叛變什麼的，都可以稱之為，藝術需要導致的被害妄想……」

嚴可守告訴趙真雪，她的投資，不過是整個項目佔比重稍大的一部分，同時，對整個項目感興趣的日本政府，也在整個項目佔有了一定的比率，比如現在需要使用到的巨型計算機，就是經過日本政府授權，才允許定製購買的，同時，日本政府還承擔了安全保衛工作，以及科研技術上的支持，當然，作為回報，整個項目如果產生了成果，日本政府也將是第一個受益人。

但說來湊巧的是，井上海在這裏進行過的數千次測試中，就曾經不可思議的和AI遇到過6次以上，從第二次開始，兩人開口不超過三句，就能準確認出對方的身份，從這個角度來說，他們兩人應該能算是認識了，人能認出電腦，這不奇怪，但電腦能認出人……這確實是這次試驗的第一例發現。」

趙真雪只是淡淡一笑。

他倒沒有和你想象的那麼瘋狂，他自己很清楚，和自己聊天的是一段程序，充其量，也不過是一段非常複雜，足以擬人的情緒，我們勸他的時候，他說過這麼一段話，愛情本來就只是一種感覺，一種非理性的衝動，他無所謂真假，也不在乎給他這種感覺的是真人還是一段程序，他知道程序在騙他，而他自己，也只是在享受這種被欺騙的感覺而已，就好像生活中，誰都知道電影內容是假的，可依然會有那麼多人享受這種虛假所帶來的欺騙。

「沒有沒有，我的這位朋友剛剛對AI很感興趣，我只是讓她多了解一下，」hｔｔps://m.hetubook.cｏm.coｍ嚴可守說，「那就不打擾你們聊天了。」

接下來，嚴可守又帶趙真雪參觀了裏面那個小隔間，在進門的時候，趙真雪注意到，隔間裏面竟然還有兩名穿著日本軍人制服的「自衛隊隊員」，整個房間比趙真雪想象的要大出不少，嚴可守給趙真雪指了指被鑿開的天花板，以及從上面聯通下來一排又一排的光纖，為了防止魔法偵查，整個房間的背景，甚至是安裝著一排又一排主板的機櫃，都被刷成了白色，房間的各個角度都有監視器存在。

嚴可守搖了搖頭：「你說的這種鑒別，我們做不到。」

這所有的一切，其實都是AI的演算法所決定的，嚴可守告訴趙真雪，每一次「測試結束」，AI都會根據這次對話的內容，總結哪裡是比較完美的表演，而哪裡又是容易被識破的破綻，這些結果會促使AI修改自己在特定概念上的許可權值，比如一個電腦，裝東北人，在打字過程中「俺們」之類的方言出現頻率過多，而大量的統計顯示，出現類似詞彙的時候，被識破的幾率也就越小，那麼AI就會在以後的對話中，下意識多用類似的詞彙，到最後，甚至可以形成和真正東北人差不多的說話模式。

現在你看到的所有AI，其實都是源於同一段源程序，這段源程序才是整個項目中，最珍貴的部分，現在你看到的所有AI，本質上都是由這段源程序「成長」而來，然而每一個AI在測試過程中接觸到的信息不同，它們也會長成完全不同的智能，而這種成長過程本身就太過複雜，根本不可能實現精確監控，計算實施了監控，我們也很難預測，它下一步會做出什麼行為，就像影響人的行為因素可能會有很多一樣，AI現在表現出來的行為雖然簡單，但也是不可捉摸的，它已經自行成長成為一個混沌整體。

而這種人工模擬『發育』的效率，其實是非常低下的，這種運算的本質，其實就是在模擬原始神經在億萬年間的發育過程，即使是當前每秒過『京』（一億億的單位）的運算速度，我們也一直花了四年多的時間，才找到一些最基礎的規律，也是就總結出從單純的神經元，進化到智能結構的模式，我和你所說的成果，也正是這一點，至於你現在看到的這些AI，其實都是在這之後，我們用於『臨時試驗』的一批，幾年年初剛剛進行『訓練』，也就是你看到的這些圖靈測試，所以嚴格來說，它們都才是只有七個月大的孩子。」

接下來，趙真雪又興緻勃勃的和許多個代號為「KL」的AI進行了一些對話，儘管趙真雪對此已經有了一些心理準備，但她還是對AI在談話過程中，表現出來的「智能」而感到驚訝不已。

人工智慧只是在這個背景下，眾多的項目之一而已，如果它成功了，可能會產生類似當年原子彈的爆炸性效果，但在沒成功之前，誰也不會明白和圖書它的重要性，在反魔法領域的研究中，還是那些主流的項目更受歡迎，在資金上也擁有更大的比例，比如之前卡梅爾在內部會議中提到的，「主動激光掃描設備」。

同樣的道理，一個連視覺都沒有的電腦，怎麼可能理解人類生活中的概念，最簡單，一台電腦要離開人類而單獨存在，最起碼的一點，就是必須有獨立的能源，以維持他們的存在，而要做到這一點，就意味著他們必須學會電力工業中的種種常識，要不然，可能普通的一顆螺母鬆了，都會導致他們整體的消失，而在他們的詞典中，是不可能了解螺母這個概念的，因為他們沒有看的眼睛，沒有人告知他們這個概念，我們控制了他們所有的信息渠道，即使他們有朝一日，在網上看到的大英百科全書，但那些信息始終還只能停留在紙面上。

「真是不可思議，」趙真雪搖了搖頭，「也就是在日本，要是在國內，一定被人認為不太正常。」

「怎麼會？不是你們設計的它嗎？」

井上海看了趙真雪一眼，笑著對她打了個招呼，又嘰里呱啦的說了一串，趙真雪對日語不熟悉，但也能聽得出來，這句話的開頭，應該是你好的意思，後面，就不得而知了。

「七個月？」趙真雪被這個數字嚇了一跳，「那你的意思是不是說，隨著這些訓練的深入，他們還會變得比現在更聰明？剛才你說騙8歲的孩子，那是不是再過一段時間，真的和人無法區分，連成人也不能將其識破？」

「KL0564使用的是比較感性的，特別針對部分男性測試者的策略，也是人類最常見的策略，那就是愛情，在他們第一次接觸的測試中，KL0564就稱自己是一名本校學生，設計專業，是家裡最小的妹妹……一整套很嚴密成熟，能夠打動年輕男性的背景身份設定，井上海在和它聊過一次之後，就把她錯做真人，徹底陷了進去，他今年剛剛畢業，雖說已經找到了工作，可總還是會回到這裏，希望跟對方談談話。

所以說，相對於這名機器人，「愛好哲學」也是它的一種欺騙策略，根絕嚴可守掌握的數據，KL3300在圖靈測試當中，過關的幾率是所有AI當中最高的，這本身就已經說明，這種策略的行之有效。

「他叫井上海，之前是這所大學的學生，也是我們最早的測試人員之一，」嚴可守拍了拍對方的肩膀，在他回頭之後，對趙真雪介紹說，然後他又對著趙真雪向井上海用日語介紹，「這是我的一位朋友，趙真雪，趙小姐。」

這些AI和趙真雪原來想象之中的，存在很大的差距，甚至，趙真雪有種感覺，從某種程度上來定義，與自己進行對話的，已經可以說是一種「類」只能，雖然通過對話AI還是會表現出很多的破綻，不過這種破綻非但沒有讓趙真雪覺得失望，反而讓她隱隱有種感覺，眼前自己面對的，正是心目中理想的人工智慧。