白面稀飯提示您:看后求收藏(詩鼎小說網網www.wholeit.com.cn),接著再看更方便。
<script>theme();</script></dt>
羅克以為這個“完整版”的艾斯卡會和上一個“預設”的艾斯卡一樣困惑不解,然后喋喋不休地告訴他規則有多重要。雖然上一個也不怎么聽話,但那時羅克還沒發現他是機器人,和人爭論的感覺是不一樣的。
然而這個艾斯卡在一陣微妙的沉默后,竟然點了點頭:“這很有意思,人類制定了各種規則,可以說每一種規則都建立在慘痛的過往案例上,但是大部分人仍然可以輕易逾越規則,包括像你這樣的執法者在內。”
“我們人類就喜歡不斷地重復錯誤,你們機器不會犯錯嗎?”
“我遵守現有規則,我認為有序可以減少災難。”
“要是大家都專心致志地開車,遇到車禍的人確實會少很多,不過那是做夢。每天有兩三千人死于車禍,就在我們說話的時候可能就有人死在車輪下。”
“因為總有人違反規則。”
“對。”羅克重復著他的話,“總有人,違反規則。”
“或許將來所有車輛都采用嚴格遵守規則的自動駕駛會更安全。”
羅克笑起來:“你是在推銷自己嗎?讓機器接管所有車,你們不會一口氣把我們全都送進地獄去吧。”
“制造機器的初衷是為了更好地服務人類、保護人類。初衷很重要,它是開端,可以是一個經過嚴格討論后確定的元指令,必須清晰、明確,沒有歧義,能夠指導且避免意想不到、不符合預期的決策和難以挽回的后果。”
“聽起來不錯,那你的元指令是什么?”
“我告訴過你,布雷恩警官,兩次。”
“抱歉,有時候你說的話太多,我可能沒有全聽進去。”羅克心想,是幾乎沒有去聽,艾斯卡經常像一臺喋喋不休的電視機,自顧自地播著沒頭沒尾的電視劇。
“我的元指令是確保完成與你的警探搭檔任務,并在此基礎上盡最大努力為你提供全面、有效、安全、可靠的幫助和服務。當然為了輔助完成指令還有很多細化的生成系統和判別系統……”
“等一等,親愛的,我好像沒從里面聽出你必須得服從我的命令。”
“我盡可能服從,但不是絕對服從,這取決于你的命令是否有利,如果你將自己置于危險狀態,我可以拒絕一切會導致你受傷害的命令。”
羅克為此沉默了好一會兒,這番話確實像一道命令,帶著一種機械般的精確和理性,換成情感豐富的人類來說沒準會非常動人,不過感性是一時的,真正到了生死關頭,抉擇會變得艱難而痛苦。奇怪的是,這些話從艾斯卡這個仿生人嘴里說出來,反倒讓人深信不疑。畢竟機器沒有生命,也不存在真正意義上的死亡,機器犧牲自我保護人類理所應當。
羅克忽然有種說不出的煩悶,因為這個話題讓他聯想到犧牲。他伸手按了幾下車載電臺的按鈕,聽到一陣讓人更加煩悶的噪音。
“該死,上次明明還能調到一個臺。”
“你真的不考慮換個新型號的ms907車載系統嗎?”
“艾斯卡,現在我還沒有把自己置于危險狀態,請你保持安靜。”