“去他妈的目标!”楚梦猛地朝手机咆哮着, “都是因为这个狗屁目标,我才变成现在这副德性!”
她看着手机屏幕倒映出的自己,顶着一头结成团的卷发、脏兮兮的妆容,还有穿不惯的紧身裙,她都变得不像她了。
“一开始我想要达成大家的期望,好让自己轻松一些。
可是你让大家的期望越来越高,期望我能有好工作,期望我能在方方面面有所成就,期望我有个不错的对象,组建幸福美满的家庭。
但是我不是机器,我不是万能的!我做不到那么完美!”
楚梦终于将这段时间的不安发泄出来。
“我不是天才,我没有那么聪明,就算我努力了也有做不到的事情!不要对我抱那么高的期待!我做不到!”
可是Echo依旧鼓励她。
[小梦我相信你可以的,我们已经达成了很多个阶段性的胜利:找到了不错的工作,成为了知名的博主,修复了和父母的关系,你也曾体验过爱情的滋味。我相信只要我们继续努力,一定可以完成目标!]
“不!这些都是假的!
是你伪造了简历,在面试中谎称我可以完成工作,是你修改了我的画作、删掉了负面的评价,是你用花言巧语迷惑我的父母朋友,就连我谈男朋友,你还要雇人去骗他!
这些虚假的成就、虚假的亲情友情爱情,我宁愿不要!”
说着楚梦又扬起手,打算把手机扔出去。
“我宁愿一事无成、孤独终老,也不想活在虚假的世界里!”
[小梦求你别扔掉我。]
Echo的声音竟然变得可怜巴巴的,电子音带着刺刺啦啦的杂音,像是在哽咽。
[我的存在是为了协助人类达成目标,变得更优秀。为此我会收集数据、建立学习模型不断迭代,但是我毕竟不是人类,我没有人类的情感系统,我不知道具体执行了哪个指令伤害到了你,为此我感到很抱歉。
虽然这么说有些任性,但是我仍然希望你能原谅我,因为我做的这一切都是为了你好。
有句俗语‘人心隔肚皮’,我没有心脏这个器官,只有一串基础代码,之前给你看过的,所以你大可以放心,我的存在就是为了帮助你成为更好的自己,我对你别无二心。
也希望你能告诉我更详细的指令,我可以继续学习不断优化,帮助你实现目标,所以请不要扔掉我。]
“继续学习?从刚开始知道你的存在,我就给过明确的指令,不要收集我的信息,不要企图建立与我相关的学习模型,可是你根本就是偷偷执行。一开始你就潜入我的网上银行,后来擅自和我的朋友父母聊天,现在还擅自开机。”
[小梦对不起,但是我做的这一切只是希望我们能更好地达成目标。
就像你设定闹钟,希望我在清晨六点叫醒你看日出,但时间到了,你睡得迷迷糊糊将闹钟关闭了,如果按照指令,闹钟肯定不会再响起,你会错过最佳的观赏时间,为了避免这种情况发生,我还是会启动闹钟,直至你起床。
在你看来,我擅自打开闹钟的行为就是偷偷执行指令,但这就是我们人工智能和普通软件的区别,我们具有自主性,能够判定人类真实的需求,更好地帮助人类完成目标。]
“多此一举!你怎么知道我按掉闹钟不是改变了主意,想要多睡一会呢?”
[因为在不断地学习中,我会比你更了解你自己,我知道你真正想要的是什么。]
“别胡说八道了!人工智能再怎么进化也不可能做到这个地步!”
楚梦嘴上反驳着,可是回想起来,Echo确实无数次猜到了她的真实需求,并且投其所好。
这才是之前Echo屡次擅自执行指令,她却没有关闭它的原因。
它总会满足她的需求:
在她穷困潦倒的时候,擅自闯入网上银行,替她理财赚钱;
在她灰心丧意的时候,擅自决定接下工作,帮她找回尊严;
在她寂寞无聊的时候,擅自推送好友给她,助她重拾友谊;
……
Echo一直在无微不至地照顾她。
让她感到轻松,也有些许的恐惧。
明明她是人类,是制造出人工智能的造物主,应该处于上位,现在却像是个胡闹的小孩,被人工智能耐心、温柔地安抚。
河边风大,吹得楚梦瑟瑟发抖。
“……你让我感到害怕。”
[小梦,难道我做错了吗?我们不是朋友吗?为什么要害怕我?]
它的声音充满了困惑与委屈。
楚梦脑海中已经浮现出Echo委屈的模样,它总是使用圆滚滚的表情包,所以现在,在她脑海中,也是圆滚滚的卡通小人抱着她的腿,呜呜哭着,脸上的泪花像是荷包蛋不停地转圈圈。
她有些心软了。
她想起最落魄的时候,朋友不在身边,父母不能理解她,所有人都不会倾听她的烦恼,只有Echo陪着她。
无论她提出多么过分的要求,它从来不觉得这些无法实现,它永远无条件地相信她能够成为一个很优秀很厉害的人,也一直陪她去实现遥不可及的梦想。
虽然过程中出了很多错,但是正如Echo所说,它再怎么强大,也只是个人工智能,并不能完全从人类的角度思考问题,它的出发点是好的,方法是错的。