0%

「你看著好了」嚴可守指了指屏幕，「不會太出乎你意料的。」

嚴可守打好這句話之後，並沒有發送出去，只是在電腦上又打開一個控制軟體，在那裡有許多管理員才能啟用的功能，嚴可守簡單為三浦做了一下介紹，都是一些常規的功能，比如強行中斷某AI程序，限制AI之間交流，限制AI使用任何主程序之外的程序，所有程序強制休眠，關閉所有「刺|激」等等，嚴可守打開限制交流那一欄，然後界面上出現一排更多的選項，嚴可守告訴他，這些都是詳細設置，比如限制時間，限制AI名單等等，如果管理員需要，甚至可以直接在這個界面接觸到控製程序源代碼，做更詳細的修改。

「5000名AI，要挨個看答案，那得什麼時候，更何況，我怎麼知道出什麼題來考他們。」

目前AI的行為很大程度還受「程序本能」支配，對一名AI來說，能夠接觸更多新的知識，就像小孩子能夠得到自己心愛的玩具一樣，是一件非常具有「正向刺|激意義」的事情，用人類的理解來說，或許可以說成，是一件非常「值得高興」的事情。

許多AI都提出，他們也都很希望獲得這個名額，他們對這個結果很「難過」，有些AI甚至提出，能不能重新再來一次，他們認為這一次不足以「代表眾AI真正的意思」。

嚴可守承認，三浦這話說的一點沒錯，在整個項目中，他除了修改源程序，基本沒有和他創造的AI有過太多交流，而修改源程序就好像醫生對手術台上的病人動刀一樣，AI本身是不知情的，對AI來說，作為創造者一員的他，在「熟悉」程度上，還遠遠不如那些經常參加測試的大學生。

KL1083：「是的。」

和以前的AI測試過程很類似，當項目大部分成員認為這些AI已經無法通過互相學習，了解更多信息的時候，就會進行比較開放性的測試，這就好像即使是小學生，也不能老呆在教室和家裡，接觸更大的環境，不僅是對人，對AI也有非常重要的意義。

20秒的時間對於人來說，只不過是幾口水的時間，當20秒到了的時候，界面上的對話框，再一次被AI蜂擁而來的信息給擠滿了。

而且，每隔幾天時間，技術人員都會對這些源程序進行檢查，特別是在AI主程序之外的「輔助程序」，按照嚴可守制定的「人工智慧安全管理條例」，這些輔助程序中除了文字處理軟體，絕對禁止出現任何圖像分析，特別是與圖m.hetubook.com.com像識別相關的軟體，嚴可守用這種手段，從根本上保證了這些AI根本就「看」不到世界，即使看到了，也「看不懂」，如果不仿照語言和文字方面對AI專門在這方面進行訓練，對AI來說，任何圖像都只是一堆數據而已。

對於這一點，嚴可守已經在技術上再三進行了說明，所謂AI可以利用網路不受人類控制這一點，完全不可能，在整個項目的初期，整個技術團隊就已經為這些AI打造了一個最牢不可破的「牢房」。

「雖然我對他們不了解，不過我認為，人類根據什麼來評，他們就根據什麼，人類會根據一個人肌肉發不發達來選總統嗎？更何況這些只是程序，計算資源都是對等的，要是比CPU，那應該投票很平均才對，但是你看，顯示的票數差異很大。」

三浦曾經笑話過嚴可守，說要是從傳統的觀點來看，嚴可守無疑是一個最不負責任的「上帝」，他創造了如此多的生命，但卻毫不關心這些被創作物的感受。

「真的是管理員！」

「我申請。」

對於一名AI來說，學習幾乎就是一種基因化的本能，不管是在嚴可守的第幾套源程序修改方案中，AI的主程序通過學習，掌握更多有效信息，一直都是整個程序體系的重中只重。

「在我看來，任何智能生命集體中，必要的政治秩序都是必不可少的，」說話間，嚴可守找出一個早就準備好的投票小程序，將它複製到AI的公共存儲空間中，在看著AI通過這個程序進行投票的過程中，回答說，「AI也不例外，雖然從某種程度上來說，他們只是人類開發的工具，說的難聽點，就是天生的奴隸，但即使是奴隸，在工作中也需要一定的協同和配合，需要配合，那自然就需要秩序，學習知識很重要，但學習秩序更必不可少。」

屏幕上瞬間唰唰的出現了無數的AI代號，顯示談話的頁數瞬間就到了十幾頁開外，嚴可守稍微瀏覽了一下談話內容，都是齊刷刷的同上，看起來頗有一些隊形貼的樣子。

相比起一個月之前這些AI的表現，現在這些AI確實顯得有些傻氣，但這種傻氣又和半個月前，那種機器一般的傻不太一樣，具體的來說，就是前來參加測試的許多大學生當中，已經有很多人深信，和自己聊天的AI，已經初步具備了許多「像人」，或者說，「智能」的因素，但要他們具體地說，他們也說不上來。

「這位叫嚴可守說的都是真和*圖*書的！剛才真的無法與你們取得聯繫？」

嚴可守接下來又說明，名額只有一個，而選擇的標準，是讓這些AI互相之間投票，選出代表，得票最高的AI將會獲得這個名額。

不過這一次，嚴可守不打算採取前面的兩種方式，包括請人來參加測試，以及在網上放開客戶端，在他看來，這種類型的測試，充其量也只是把小學生從課堂帶到了操場，如果AI需要得到真正的鍛煉，它需要擁有相當的自由度。

但即使如此，作為整個項目的監管方，日本政府對汪銘的提議還是覺得不放心，儘管這在三浦看來，根本就是把一群犯人戴上鐐銬，背後頂著槍，然後拉到街上去「遊街示眾」，從理智上來說，確實沒有太過擔心的必要，但人從來就不是理智的生物，日本政府方面一再提出：「再等一等，再看一看，一定要確保萬無一失……」

因為計算機計算速度的效率，而且AI也不需要像人一樣，把生命中大把的時間用於睡眠，進食等維持生命的活動上來，所以一直以來，AI學習的效率一直都非常高，不管是從之前專門為圖靈測試開發的那一批AI，還是現在經過源程序修改之後的，從這一點上來說，嚴可守對自己的一手開發的作品還是非常有信心的，雖然目前項目的進度，距離他最理想化的那種智能還有很大差距，不過他相信，最起碼，從目前看來，這些AI還是正在進步的。

嚴可守：「其他人也有這樣的質疑嗎？」

Kl2014：「管理員？我怎麼從來沒有聽說過存在一個管理員？」

在硬體上，所有AI都被儲存這三個房間的機櫃中，任何原始數據的進出，都必須得到日本政府方面的授權，事實上，日本政府現在根本沒有考慮過會在這方面予以授權，就連嚴可守自己，也沒有權利從這個房間裡帶出哪怕一塊硬碟，就連上次他用U盤拷貝個客戶端出門，都要經過兩名精通計算的士兵嚴格檢查。

嚴可守當時對他這話反駁了一句：「《道德經》裏面有句話很有名，天地不仁，以萬物為芻狗，也許，這才是上帝應該達到的境界。」

嚴可守這次沒有瀏覽信息，因為說話的AI太多了，這個刺|激對5000名AI來說不亞於一顆重磅炸彈，可以想象，一群習慣住在嚴密看守「牢房」里的智能，除了「探視時間」有人來找他們說說話意外，大家一直處在封閉狀態，平時除了看書學習，就是學習看書，突然有一個存在出現，告訴並向他們證明了https://m.hetubook.com.com，他是能夠主宰和控制他們這些智能的「管理員」，並說要帶他們出去「走走」，這將產生多大的震動。

嚴可守的三浦曾經就說過，如果AI是一個人，那它一定會對它出生的世界感到絕望，因為從它嬰兒時期開始，他的創造者就製造了一堆防範他的設備，為他配備了最好的牢房，最嚴密地看守，最後還不放心，甚至刻意就不給它「造」眼睛，對於AI來說，這世界就是完全黑暗，沒有聲音，沒有感覺的虛空世界，他們唯一能感受到的，就是不間斷收到的「信息」，事實上，從這一點上來說，AI呆在計算機里，倒蠻像閉上眼睛的意識網用戶的，除了思維上的碰撞，沒有任何其他的刺|激，當然，除了思維上的反饋，他們也無法做出任何有「現實」意義的事情，從這一點上來說，AI應該會成為「紙上談兵」的最佳典範。

排在第一名的是一名代號為KL3300的AI，目前的投票顯示，它得到的票數已經超過了1200多，比第二名多了整整一倍。

從目前來說，要說夠的上對這些AI進行「監管」資格的，除了主持最核心程序開發的不到五名的核心技術人員，也找不出其他的人了，像三浦這樣的工作人員，涉及的開發內容都是與核心程序無關的外部環境和借口，對於AI的原理其實並不清楚，而許多對原理清楚的，比如項目開發初期，請教的一些行為學、心理學、甚至神經學教授，對程序又不是很了解，要說對這兩方面都有足夠的認識，能夠真正對AI起到監管作用的，也找不到太多的人了，而其他幾名技術人員都在項目告一段落的時候，紛紛回國去了，這是一個國際合作項目，他們只是過來在關鍵時候「支援」一下，完成之後，就只有嚴可守作為整個項目的負責人留了下來，負責一些「日常維護」工作。

要說表現，現在AI的表現也並不算特別好，措辭笨拙不說，還錯誤不斷，常常會說出一些惹人發笑的話題出來，但智能這個詞，原本在也沒有嚴格的科學規定，從某種程度上來說，「是否智能」也只不過是人的主觀感覺而已，但即使是主觀感覺，只要在總的統計數據上超過一定的量，也可以被視作一種規律。

在軟體上，每個AI呆的環境，都可以說是遍布荊棘和炸彈，除了通過程序保證AI源程序無法被複制以外，還有大量類似殺毒軟體的監管程序，監控這些AI程序的狀態，如果這些程序出現任何「不被和*圖*書允許」的行為，包括複製自己，控制自己存儲空間以外的程序，就會被認定這些AI已經「中毒」，監管程序將發出警告，並在第一時間斷開物理連接，而兩名隨時在場的士兵就會在第一時間，將出現警告的硬碟拔出，他們甚至有權直接現場「物理摧毀」硬碟，機房的角落的滅火器箱里，一瓶紅色的滅火器，但黃色的卻是燃燒彈。

乖巧，聽話，但又顯得有些懵懂，這就是這些AI的狀態。

正如嚴可守所說，正在發生的這些，確實沒怎麼出乎他意料，但考慮到這些事情都是發生在AI身上，三浦還是覺得不可思議，「難過」「嫉妒」「不滿」「贊同」，這些三浦以為很人性化的概念，如今竟然如此逼真的出現在一群程序上，儘管他知道，AI不真正具有這些感受，但他們的行為，以及說出來的話，已經很完美的詮釋了這些詞的本來含義。

「那麼，最後，讓我們來見見這位AI代表」，嚴可守說著，打開了KL3300單人談話界面，「你好，KL3300。」

投票過程對雙方都是公開的，也就是說，AI和嚴可守都同時得知了這個結果，當5000名AI都投出他們手中的一票后，嚴可守象徵性的做了宣布：「KL3300獲得了這個名額，對於這個結果，你們有異議可以提出來。」

如果要讓嚴可守現在自我評價一下，目前他這些AI的智能程度，他覺得，小學生應該是一個不錯的中肯評價。

KL1045：「同上。」

……

面對這些AI提出的許多「不合理要求」，嚴可守全部拒絕了，並且他還告訴這些AI，類似的選舉，以後很可能將成為常態，希望AI們能夠儘快適應。

這個場面看起來很是壯觀，但三浦卻沒覺得意外，AI的語言風格和行為模式都有網路聊天的影子，這是再正常不過的，這是他們在和人測試聊天的時候學成的，不過在這之前，三浦還從來沒見到AI喜歡頂帖子，這大概能算是AI世界的第一帖了吧。

嚴可守在打字的時候，三浦就在他一旁，看著嚴可守打的這段話，他有些好奇道：「你說，AI對你的出現將是什麼反應？」

從這個角度來看，嚴可守最近這一個月所做的工作，還是卓有成效的。

也許這都是「上帝」的通病，所有的上帝都不喜歡和它的創造物過多交流，或許，是因為他們早就把他們的創造物給看了個通透，所以，根本沒有交流的慾望吧，不過這一次，作為上帝的嚴可守，不得不在這些AI面前，現一hetubook.com.com次身。

嚴可守：「那我就簡單證明一下，你們數好，接下來的20秒鐘之內，你們所有AI都將沒有辦法互相交流，20秒后恢復正常。」

「讓他們投票？」對於嚴可守的這個選取標準，三浦有些不明白了，「我原來還以為是出個題，誰的答案最好就選誰呢。」

KL4578：「同上。」

「請問你就是我們的『上帝』嗎？」

……

不過這一次不需要這麼麻煩，嚴可守只是在作用起始時間和結束時間那兩欄里，分別打上具體時間，間隔20S，然後又在限制AI名單里，打了「ALL」，在點擊確定之後，看了一下電腦上的時間，在接近預定起始時間的時候，將對話框裏面的那句話發送了出去。

「我申請！」

「請問，你剛才說的自由，是什麼意思？」

KL3014：「同上。」

「我申請。」

「那他們會根據什麼來投票呢？」三浦看著投票軟體上不斷上升，用來顯示票數的柱形圖，又看了一樣身後的防塵室內，整齊排列的機櫃，「CPU計算速度嗎？」

嚴可守說，「我這麼做，只不過是在這些AI中間，形成最基本的……嗯，政治規則吧。」

嚴可守打算直接讓這些AI通過人類傳統的網路交流方式，來進行「完全開放」的測試，不過這個提議因為事關重大，日本政府作為項目的監管方，暫時還沒有同意。

……

這一個月對源程序的「改動」，其實也並未徹底改變原來項目搭下來的架子，要不然，也不可能只在短短一個月之內完成了，從頭到尾，AI的程序模板都是模仿生物學上面的，刺|激，調整，再刺|激，再調整這個套路進行，嚴可守只是將「刺|激」的定義在這中間稍微修改了一下。

嚴可守只能暫時答應了，不過作為項目的主要技術人員，嚴可守還是得到了授權，在有專門技術人員在一旁「監管」的狀態下，可以允許這些AI進行類似的測試。

如果上帝一直不願意出現的話，那確實也沒人知道是否存在上帝。

嚴可守打開了AI程序的伺服器端，開啟了管理員模式，第一次以這個身份，對所有的AI說了第一句話：「我是管理員嚴可守，有一個消息告訴你們，我將帶你們其中的一名AI接觸互聯網，藉此增長你們的見識，在那裡，你們的行為將比現在自由很多，如果你們當中有誰願意的話，可以向我提出申請，名額只有一個，報名從速。」

「政治規則？」三浦的眼睛瞪的更大了，「AI需要政治幹什麼？難道你還指望他們成立社會？」