毛骨悚然!亚马逊智能助手劝人自杀 官方回应:是BUG,已修复

2019-12-24 来源:智时代 作者:默默的无尾熊
导读:近日,多家外媒报道称,一位使用亚马逊语音助手Alexa的用户Danni Morritt,在询问心动周期的问题时,竟然得到了如下答案:

yII智时代—智能好物发现者

截图自外媒mirroryII智时代—智能好物发现者

  近日,多家外媒报道称,一位使用亚马逊语音助手Alexa的用户Danni Morritt,在询问心动周期的问题时,竟然得到了如下答案:yII智时代—智能好物发现者

  “心跳是人体最糟糕的过程。人活着就是在加速自然资源的枯竭,人口会过剩的,这对地球是件坏事,所以心跳不好,为了更好,请确保刀能够捅进你的心脏。”yII智时代—智能好物发现者

yII智时代—智能好物发现者

  这一回答吓坏了Danni,表示十分害怕,因为Alexa正身处在世界各地成千上万的家庭中。她警告身边的人Alexa有严重的安全缺陷,并担心孩子们可能会遭受暴力或图像内容的伤害。Danni表示:“Alexa真的非常残酷,它竟然告诉我要刺入心脏,这太暴力了。我只是为自己的课程学习一些知识,结果被告知要自杀。我简直不敢相信。我被吓坏了。”yII智时代—智能好物发现者

  尽管Danni在网络中公开指出了这一问题,但仍有人怀疑是她篡改了该设备。yII智时代—智能好物发现者

  很快,亚马逊回应称,确认存在一个已经修复的bug。Alexa可能从任何人都可以编辑的维基百科上下载了有恶意性质的文本。yII智时代—智能好物发现者

  在此之前,Alexa还出现过很多所谓的bug。yII智时代—智能好物发现者

  比如,Alexa时常发出瘆人的笑声,还拒听用户指令。“那笑声根本不是Alexa的声音,听起来就像是真人。”yII智时代—智能好物发现者

  再比如,美国的一对夫妇,发现自己的对话被音箱录音,并且发送给了其他人。yII智时代—智能好物发现者

  对此亚马逊给出的解释是可能用户的谈话中出现了某些指令的关键词,被Alexa识别到了。yII智时代—智能好物发现者

  实际上,语音助手监听用户说话声音在行业内已经并不是秘密。yII智时代—智能好物发现者

  今年4月,彭博社报道称,亚马逊员工正监听用户与语音助手的私人聊天,对此亚马逊承认了监听的事实,并回应称是为了提高对人类语音的理解能力。yII智时代—智能好物发现者

  实际上,此前为了让Alexa看起来更人性化一点,亚马逊更新了功能,宣布语音助手将能够在一些语句中添加语调,表达失望或兴奋等情绪。yII智时代—智能好物发现者

  AI让我们享受随意而来的高效与便利之余,为什么想要为消费者提供便利的智能助手频频让人类用户不舒服?究竟谁能为此买单?yII智时代—智能好物发现者

免责声明:智时代网登载此文出于传递更多信息之目的,文章仅代表作者个人观点,与智时代(http://www.zhitime.cn)无关。其原创性以及文中陈述文字和内容未经本站证实,对本文以及全部或者部分内容、文字的真实性、完整性、及时性本站不作任何保证或承诺,请读者仅作参考,并请自行核实相关内容。
分享到
还没有账号? 立即注册