第198章 防反撲機制（求月票）(第1/2頁)

青年人聽了江凡的話，點點頭：“不錯，人工智慧對於我們而言，是把雙刃劍，用的好可以提升文明程序，用不好可能導致文明毀滅。

所以對於已經習慣於它帶來利好的我們，即使是它曾經給我們帶來過這麼大的創傷，但時間久了，記憶淡化了，再次開啟這項成果的討論依然還是被提上了日程。

只是，這一次我們並不會像之前肆無忌憚的去使用，而是限制了它的自由。

也就是圈一個羊舍將超人工智慧圈養起來，不允許它連線任何網路，更不允許它透過網路控制任何實體的東西。

就是一個單機模式，而它需要的資料完全透過移動儲存裝置輸送給它，把它完全隔離在虛擬世界，不允許它有任何機會觸碰現實的東西。

而它要做的也只是根據我們的需求提供解決方案即可，像一個參謀或軍師，只負責提供意見，而真正的決策和措施由人類這個將軍來執行。

這樣就既用了它的優點，又避免了它的缺點。

當然，這是指的超人工智慧，至於強人工智慧和弱人工智慧，沒有這麼多的限制，尤其弱人工智慧，因為沒有自主意識，是完全不用設限的。”

江凡覺得這法子不錯，不過他也想到了一個問題，他記得《鋼鐵俠1》裡面，託尼史塔克被恐怖分子抓進一個山洞，被要求為他們做事。

這個時候的託尼就相當於超級人工智慧，其他人就是普通人類，在託尼的指揮下，人類在不知不覺中造出了初代鋼鐵俠戰甲，讓的託尼利用這個法子完成了脫身和反擊。

而超級人工智慧的思維水平也是遠高於人類的存在，那它會不會指導人類在不知不覺間反而完成了對於自己的反殺？

江凡把這個疑問提出來道：“可你知道超人工智慧可是要遠遠聰明過我們的，就不怕他誘導我們人類在不自覺間傷害了自己嗎？”

青年人聽到這個問題後並沒有為難或疑惑，反而笑著說道：

“這就我剛剛跟您說的我們建造了一百多個超人工智慧大腦的原因，這裡面分了決策腦和驗證腦。

每次有重大問題出來，讓數十個決策腦同時進行決策，採納最多決策腦提出的那個解決方案。

這還沒完，我們會把這個解決方案再給到數十個驗證腦那裡，他們只負責評估這個方案是否存在什麼可能威脅到人類的陰謀或隱患。

你知道的，我們在建造這些大腦的時候在程式裡是設定了他們是對人類友善，並且決不許有反叛之心或者傷害人類的可能的。

所以總體而言他們一定是溫和有好的，唯一的擔心是個別由於程式問題出現突變錯誤而威脅人類。

但有一點我們很肯定，就是不可能上百個獨立的這樣的超級大腦在同一時間突然全部反叛人類，這種機率小到不可能發生。

所以我們就利用這一點設計這個模式，但凡我們經過驗證腦發現決策腦中出現有突變苗頭的人工智慧，我們會立刻抹除它所有的程式，然後重置一個大腦出來，從源頭上杜絕不利事情的發生。

當然，驗證腦中也可能出現突變，但因為它沒有決策許可權，而且有其他驗證腦同樣提供驗證制約著它，所以它一樣也不會有威脅到人類的可能，就算有也很容易被發現，也會被立刻抹除。

當然，這些超人工智慧大腦都是官方在控制的，並且有重兵守衛以及一套嚴格機制防止超級腦透過蠱惑守衛等人員來達成目的，可以說基本是萬無一失了。”

江凡清楚了，讓100個友善的託尼史塔克來造東西，讓另外100個友好的託尼來驗證裡面是不是有鬼。