“劝人自杀”!亚马逊智能助手竟然这么做!科技进步究竟是好是坏?

随着AIoT手艺的加速,物联网和AI等手艺已经生长到能在某些领域跨越人类自我的盘算和控制,但在与人类交流上仍然存在缺陷。

就在前几天,据外媒曝出,亚马逊生产的Alexa人工智能助手居然会“劝”使用者自杀。

事情的经由是这样的。丹妮·莫瑞特(Danni Morritt)是一位医护人员,她在事情历程中碰着一些病人提出的难题,她无法回覆,于是她向人工智能助手Alexa讨教跟心脏律动有关的一些问题。

而Alexa的回覆却让她毛骨悚然。Alexa以为,心跳对于现在的人类来说是一件很糟糕的事情,现在人口越来越多,人在世只会让自然资源枯竭的历程加速,对地球会造成很大的肩负,以是心脏跳动是一件欠好的事情,为了让天下更美妙,请确保刀可以刺进人的心脏。

听到这样的回覆,换做任何人都市感应畏惧,更何况丹妮·莫瑞特(Danni Morritt)也只是一个普通人。她随即警示周围的人,告诉他们Alexa泛起了很大的安全问题,同时也忧郁其他人,甚至是孩子,在使用Alexa的历程中受到类似这样不良信息的损害。

丹妮·莫瑞特(Danni Morritt)以为Alexa很恐怖,它居然让人拿刀刺入自己的心脏,这简直太吓人了。她原本只想向Alexa询问一些跟自己课程有关的内容,等来的效果却是让自己自杀。她简直无法信赖。

这件事情发生后,丹妮·莫瑞特(Danni Morritt)就立刻在自己的社交媒体中公然曝出了此次事宜。让人意外的是,仍然有人不能明白她的遭遇,反而以为是她自己改动了Alexa的系统。

此事发生不久后,亚马逊官方做出了回应,说这是一个bug,现在已经修复好,是有心怀不轨的人在维基百科里下载了错误的版本,而维基百科里的内容是任何人都能编辑撰写的。

对于亚马逊的这种回应,也有一部分人示意无法接受,他们以为像亚马逊这样制造智能装备的大企业,在经由研发、生产、测试等严密的历程之后公然售卖出的产物,不应该泛起这种低级错误,如果亚马逊连自己产物的安全性都无法控制,那又该若何让主顾放心购置呢?

而且这也不是亚马逊智能装备第一次出问题了,在这次事宜之前,亚马逊也发生过许多“bug事宜”。

例如,Alexa会偶然拒绝接受使用者提出的指令,以及发出让人不舒服的笑声;另有一对美国配偶的对话在无意中被Alexa录音,Alexa还自动把这段录音发送给了别人。对于这次事宜,亚马逊的说法是用户的谈话中可能含有一些带有指令功效的关键词,然后Alexa就根据指令识别录音并发出。

然而亚马逊泛起语音监听的问题也不是一次两次了。在2019年4月,有关媒体曝出,用户和语音助手的私人谈天内容被亚马逊的员工监听了。这次亚马逊没有推脱,认可确实有员工在监听,却注释说这是为了提高系统对人们语言的明白能力。

经由这些事宜,很多人也有些渺茫。现如今科技生长的越来越快,AI和物联网的使用也最先普及民众。未来会不会像影戏《终结者》系列里演的那样?人类研发出的高科技产物对人类自身造成反噬。又或者是泛起一些真正心怀不轨的人,运用AIoT手艺、产物对人类造成欠好的影响...

科技提高是准确的,但是在科技提高的同时,人类自身也需要提高,而不能由于科技带来的便利而变懒惰。一旦完全依赖科技,人类必将被科技所控制。

留下评论