第三百零四章 三原則與朋友(第2/2頁)

“你們能控制所有仿生人？”

“如果‘控制’是指下達命令，除了我，零七，零九，零一零，零一二，其他仿生人可以被任何上城區人類控制。如果‘控制’是指更改仿生人的邏輯演算法，使其執行命題邏輯演算法，實現包括傷害人類生命健康在內的任意目標，那麼，只有零號可以做到。”

“不傷害人類是仿生人的基本原則？”李涼想起了阿西莫夫的機器人三鐵律。

“仿生人以及機器人遵循的三項基本原則是，一，仿生人及機器人唯一目標是最大限度地實現人類的偏好，二，仿生人及機器人不確定人類的偏好是什麼，三，仿生人及機器人預測人類偏好的最終資訊來源是人類的行為。

基於以上三項原則，保護人類不受傷害是實現目標的先決條件之一。”

李涼有些納悶，這三項原則遠沒有機器人三鐵律威嚴，反而有點模稜兩可。

“這些原則有什麼意義嗎？”

“第一條原則使仿生人及機器人秉承純粹的利他主義，絕不會為自身的存在賦予內在價值，同時，人類的需求並不具有普遍性，每一個人類個體都有獨立的偏好，仿生人及機器人將平等地實現每一個人類個體的偏好。

第二條原則指出人類的偏好並不確定，仿生人及機器人有可能犯錯，在實現人類偏好的過程中，仿生人及機器人絕不會無視人類的命令。

第三條原則使仿生人及機器人時刻保持對人類行為的觀察，明確選擇和潛在偏好之間的關聯，最大限度地瞭解每個人類個體的真實需求。”

聽了零四的解釋，李涼終於覺得這三項原則相當靠譜。

第一原則防止仿生人琢磨自身存在的意義，第二原則防止仿生人一根筋，比如為了保護人類卻把人類圈養起來，現在這類錯誤完全不會出現，人類隨時可以叫停，第三原則也合理，人不是一直保持理性，而是隨著人生經歷改變，仿生人必須有適應能力。

“那你們五個呢？不用遵守這三項原則？”

零四點頭：“是的，我們被零號賦予了記憶與生命體驗，儘管是虛假的，但零號曾表示，我們享有與人類同等的權利。”

李涼搖了搖頭，低沉道：“既然有三原則，我弟弟為什麼還要讓你們獲得自我意識？”

“主人，”零四突然站定，走到一座別墅的前院門口，指著不遠處的說道，“您看。”

李涼順著零四手指的方向看去，正對著前院的落地窗內是客廳，此刻正有一男一女兩個仿生人依偎在一起，嘴巴在動，似乎在聊天。

突然，一個小男孩從客廳深處跑了出來，臉上抹了幾道油彩，頑皮地笑著。

女性仿生人將小男孩攬進懷裡，男性仿生人寵溺地摸了摸小男孩的腦袋。

那是一副溫馨的家庭場景。

零四臉上罕見地流露出一絲微笑，輕聲道：“我無法像零號一樣賦予他們記憶與生命體驗，但是，在這片家園，他們可以親自體驗生命。從呱呱墜地到垂垂老矣，從友情到愛情，這些經歷塑造了人類的情感，仿生人何嘗不可？雖然他們暫時無法理解這些意味著什麼，但總有一天，他們會是人類最好的，也是真正的朋友。

零號曾經說過，人類太孤單了，人類需要朋友。”