“等等!”司妍喊住他,眼鏡男轉回頭,她定神道:“你們不能這樣消除他。”
“司小姐。”眼鏡男又推了推眼鏡,“站在游戲設計方的角度,我們理解您身為玩家,在與npc相處的過程中會產生情緒波動和相應情感。但還是想請您認識到,他其實不是一個人而是一組程序,由代碼和原畫師制定的形象為基本構成,即便您認為他是一個活人,他也并不……”
“很抱歉我要打斷您一下?!彼惧財嗔怂脑挘钗艘豢跉?,在心里提醒自己今天的妝有朝氣且能讓人看起來充滿自信。
那她最好表現(xiàn)得也自信點。
“我沒有從事過相關的專業(yè)工作,您所做的技術解釋我不懂,但我愿意相信并尊重您的說法。”她說著看了眼倒在地上依舊被藍光纏繞,臉色慘白的愈發(fā)厲害的jack,竭力不許自己亂陣腳。
她的目光從眼鏡男面上離開,看向先前與她握手的女人,聲音提高了兩分:“但我不贊同你們的做法,也不是因為技術層面的問題,而是倫理問題?!?
職業(yè)裝的女人眉心微蹙。
“你們因為人工智能發(fā)展超過預期的問題而要消除他,又解釋說他只是一組數(shù)據,而不是一個人,但在我看來這是兩個相悖的概念?!彼惧X中思緒飛轉,醞釀出了昔日在微博上與人辯論的情緒,“人會被尊重不是因為我們具有怎樣的軀體,而是因為我們有感情、有自主意識,又高于地球上其他生物的智商、情商,我們在上萬年的進化過程中脫離了動物本身的野性,在法律和道德的雙重約束下一步步構建了現(xiàn)在的社會秩序,人類社會判斷‘王者’的方法也早已不同于大多數(shù)動物采用的以肉搏決定勝負,我們拼的是大腦的力量?!?
職業(yè)裝的女人和善地笑了笑:“您依舊是把他定義為一個‘人’來與我爭辯?!?
“不,并不是,您聽我說?!彼惧α送ι碜樱拔蚁胝f的是,如果人工智能在發(fā)展到與我們一樣具有智商、情商,甚至道德感的時候,那他們除了軀體以外,就已經和我們沒有其他不同之處了。他們與我們的內在已經達到相同水準,我們甚至可以完全把他們視作同類進行平等交流時,我們再隨意對他們進行銷毀,是不是有位倫理道德?”
“……”對方被她說得滯了一會兒,道,“我們創(chuàng)造了他們?!?
“就像父母創(chuàng)造了孩子?”司妍方才就在等她這句話,如料聽到后不禁勾起一笑,“父母有權在不理會孩子個人意愿的前提下對其進行打殺嗎?您應該清楚這是違法的!”
職業(yè)裝的女人長緩了一息,而后她好似意識到自己被司妍繞進去了,便看向眼鏡男。
眼鏡男再一次做了標志性的扶眼鏡動作后,接過話茬:“我知道您認為技術層面的事情對于這件事的判斷不重要,但是還是要從技術方面來給您解釋一下。”
司妍微笑頷首:“您說?!?
“我們,是人類;他,是人工智能。”他邊打著比劃邊誠懇道,“這是最基本的區(qū)別。我們的感情是真正的感情,我們的智商情商是真正的智商情商。而他們的所謂感情與智商情商,都是程序計算的結果——換之,那其實只是一套又一套公式推進出的東西,并不是您所以為的‘與我們的內在達到相同水準’?!?
“并不是嗎?”司妍用一種“這很有趣”的目光凝視著他,“請問您有相關研究成果用以論證基因、染色體、神經、激素所促成的感情及智商情商比代碼、程序、公式推進出的更高尚、更值得尊敬嗎?”
“……”眼鏡男卡殼。
“你們看看他!”司妍伸手指向一旁跌在地上的jack,自己卻不敢再看他,“他不止有自己的情緒,他甚至和我們一樣會疼的好嗎?現(xiàn)在你們說銷毀就銷毀,這和殺人有什么區(qū)別?即便當下沒有法律會制裁這種情況,但你們良心上過得去嗎?!”
她終于有點克制不住地激動起來,職業(yè)裝的女人定氣道:“calmdown,司小姐。”
司妍再度看向她。
“我認可您說的每一句話,但是我還是希望……您能從內測玩家的角度為公司想想,或者,請從人類的角度為真正的同類想想。”她掃了眼在電光中掙扎的jack一瞬便把目光挪回司妍面上,“從人工智能開始研發(fā)的那天起,可能出現(xiàn)的風險就一直令人不敢小覷。根據現(xiàn)在業(yè)內達成的共識,我們不能讓人工智能超出控制范圍,否則那可能很危險,我們也無法預測超出控制的人工智能程序會做出什么殘酷的事情?!?
“遠了我不敢說,但一時半會兒的,大概沒有什么會比我們人類更殘酷了?!彼惧酒鹈碱^,平靜地吁了口氣,“我們能解決很多原本看似無解的問題,我們樂于探索未知領域。但當我們自認為對一樣東西擁有主宰權的時候,我們的控制欲就會壓過求知欲?!?
“您這是什么話……”
“就事論事,女士?!彼惧淙淮鬼百F司能成功地將vr與人工智能進行完美結合,開發(fā)出這樣的游戲,但在人工智能出現(xiàn)問題的時候,你們的研究時間連24小時都不到,就決定進行消除了。這大約不是因為實在沒有其他途徑解決難題,而是因為直接消除看起來更簡單,且更能體現(xiàn)游戲開發(fā)者在游戲中的絕對權力吧?”
很多時候都是這樣,對事情有絕對權力的一方會用更簡單粗暴、且更能昭示權力的方式解決問題,或許他們在主觀想法上并不這么認為,但這些因素或多或少是起了客觀作用的。
至于在消除這樣一個類人的npc的過程中,是否會讓圍觀的人類享受到快|感……司妍克制住自己不往這個層面上多想。這種享受血腥與壓制感的野性雖然是動物本能,但是太殘酷了,她寧可說服自己相信人類現(xiàn)在已經擺脫了這種“享受”。
任由氛圍僵持了一會兒之后,司妍說了自己最終的想法:“我作為玩家,不能阻擋你們消除他。但你們如果要做這件事之前,最好確定我永遠不會在現(xiàn)實世界醒過來。”
“否則我一定會把他當一條人命記住,醒來后必定發(fā)到網上。我相信這種事情會有很多人去關注、去爭論,有關部門或許也會覺得應該做些什么。”司妍微抬著下巴平靜道,“你們做決定吧?!?