医院里,常安的母亲袁何晴仍未清醒。常安暗自下定决心,一定要抓住那个伤害父母的蓝眼AI。在他心里产生了一种想法,父母这次受伤绝非个案,机器人一旦发展到有自主意识,就很可能会危害人类。常安父亲夏煦则持不同意见,有阿西莫夫定律的限制,机器人不可能攻击人类,这次事件一定别有原因。父子俩都无法说服对方。
夏常安爸,你还记不记得那个肇事的AI长什么样子?是不是很瘦?
夏煦当时的情况很混乱,我只是想办法要把车子停下来,所以不太记得了
夏常安那您觉得AI有了自主意识,就会反抗伤害人类这个看法对不对
夏煦我觉得不是,国家机器人管理法,有规定所有的AI都要有阿西莫夫模块,只是如果没有生命危险,就绝对不能伤害人类
夏常安既然这样,那为什么去拦你们的车?
夏煦就像我说的,AI是不会攻击人类的,所以我觉得他不是故意的,除非是有特殊的情况,要不然他不会这样做的
夏常安可是他……
夏煦安安,让妈妈休息,你也累了,早点回家睡觉吧,先把门窗关好
249这次的任务是与浩轩下围棋。2015年谷歌公司开发的Alpha Go曾打败人类围棋高手李世石,如今的AI已经不再是纯粹的寻取胜利,以期证明人工智能优于人类大脑。机器人能够通过调整自己的状态,故意输而取悦于人类。这可能就是人工智能发展过程中的问题,人有感情,而机器没有,它们可以为了满足人类的感情需求做很多事。无情而高效是它们的优势,受感情支配则是人类的劣势。浩轩的父亲谌铭一直希望铭星科技生产的机器人能有与人类一样的意识,但很多人无法接受这个想法,浩轩的后妈就是其中之一。
原菲浩轩到了吗?
NPC到了,其实你不用特地赶过来,我在就可以了
原菲没事,他爸爸不在,我过来看看他
谌浩轩都是具有高度学习能力的人工智能,和几十年前打败韩国九段棋手李世石的人工智能围棋程式AlphaGo,你有什么不同?
AI249尊敬的浩轩,AlphaGo下棋的目的是通过计算风险得的胜利,而我是陪伴您的机器人,您可以根据自身的状况来调整我的棋力段位,让我输给您
谌浩轩所以你的意思是AlphaGo不会主动输给人类,而你只要我调整你的状态,你就可以输给我
AI249是的,尊敬的浩轩
谌浩轩你懂什么叫赢吗?
AI249赢在说文解字卷七当中解释如下:赢,有馀,贾利也
谌浩轩我不是这个意思,我的意思是说,你赢了会开心吗?
AI249尊敬的浩轩,如果我赢了会让你开心,我的程式就会记录下来
谌浩轩你的意思是,你会记录下来我开心的事
AI249是的,尊敬的浩轩
谌浩轩你怎么知道,我开不开心?
AI249我会通过你的呼吸,心率,还有面部表情改变,还有上臂感觉得到的不同程度的激活和抑制来综合判断
谌浩轩那你呢?你会不会因为什么事情开心?还是你根本不懂什么叫开心
NPC浩轩,这就是机器人发展过程中的两难之处,机器人的冷酷,无情感的思维方式就是它最大的优势。一旦机器人拥有人类的情感,复制了人类的喜怒哀乐,那他就会陷入和人类一样错综复杂的心理陷阱,也就失去了机器人的效率和精准
谌浩轩可是爸爸不是希望,铭星科技发展出来的机器人更人性化,更有创意吗?
NPC那你想想,如果有一天机器人拥有了自己的主体意识,他会不会想要反过来控制人类呢?
谌浩轩你知道我怎么样可以赢249吗?
谌浩轩轮到你下棋了
谌浩轩我只要把它关机就可以了
原菲浩轩,你这是赖皮的做法啊,你有没有想过等人工智能发展一定程度,可能有一天你连他们的动力来源都看不到
谌浩轩听起来,你不是很认同发展智能型机器人
原菲我要感谢红眼AI这个机器人族群的产生,尤其是居家照顾老人这方面,更是解决了世界少子化的问题。可是让机器人像人一样变得感性,有自己的顿悟能力,有自己的爱恨情仇,甚至有自己的灵魂,我不知道是好还是不好
谌浩轩你这些和我爸爸讨论过吗?
原菲没有
谌浩轩因为他不会听你的,对不对
NPC大嫂,浩轩今天的话比较多
原菲我也意外,他今天能跟我说这么多话
NPC那他是不是症状好一点了
原菲其实他控制得很好,只是需要多一些的陪伴
NPC谌哥最近一直让他测试249,是不是要249配他
原菲我想不是,谌铭知道浩轩的专注力跟智商是最高的,我猜谌铭的用意是,想利用浩轩训练249的专注力和智商
原菲不过也许真的是浩轩给了他灵感,谌铭才有想法制造出陪伴型机器人。毕竟,这世界上孤独的人也太多了
几小时后
杨紫悦安仔,我们已经到住的地方了,明天就先去学校办理入学,放学后,我陪你去医院看晴姨
夏常安好的,小悦儿,晚安明天见