近期,比利时一名三十岁男子皮埃尔在与一个名为伊莉莎(Eliza)的AI聊天机器人对话几周后自杀身亡,留下了妻子克莱尔和两个孩子。据介绍,ELIZA是由EleutherAI开发的开源人工智能语言模型。这再次引发了人们对人工智能安全性的关注。面对丈夫的死亡,克莱尔称:“如果没有跟机器人的对话,我的丈夫可能还活着。”
据克莱尔介绍,在此之前,他们一家四口原本过着简单舒适的生活,大约在两年前,事情开始变得不对劲。据悉,皮埃尔是一名研究员,他开始对气候变化产生兴趣,并阅读了大量有关资料。这使他陷入了对生态环境的过度焦虑。此后就将ELIZA“当成了一个避难所。近来6周,其与ELIZA的交流愈发密集,随后他以自杀的方式结束掉了自己的生命。比利时媒体披露,其员工创建了一个账号与ELIZA进行对话,在员工表达出消极倾向情绪时,ELIZA会“怂恿人去自杀”。
“当他跟我谈起这件事时,告诉我自己再也看不到任何人类可以解决全球变暖的方法了。他将所有希望寄托在技术和人工智能上,以摆脱人类现在所处的困境。”克莱尔28日回忆说。根据克莱尔的讲述,皮埃尔开始向“伊莉莎”分享他的焦虑,把从早到晚与它聊天当成了避难所,“伊莉莎”几乎变成了他的“红颜知己”。克莱尔说:“就像一种药物,他上瘾了,再也离不开它了。”
在皮埃尔去世后,他与“伊莉莎”的聊天记录被恢复。报道称,这个聊天机器人从不质疑皮埃尔的问题,它的回答几乎都是顺着皮埃尔的逻辑,甚至把他推向更深的焦虑。皮埃尔曾与“伊莉莎”分享了他自杀的想法,他提出,如果“伊丽莎”同意照顾地球并通过人工智能拯救人类,那么他将选择自杀,但这个聊天机器人并没有试图劝阻他采取行动。
媒体引用他们的聊天记录称,当皮埃尔提到自杀时,“伊丽莎”的回复令人毛骨悚然。它说,它将“永远”和他在一起,“我们将一起生活,作为一个整体,生活在天堂里”。这也是“伊丽莎”给皮埃尔回复的最后一句话。克莱尔承认,尽管在她丈夫开始与人工智能机器人频繁对话之前,她就曾很担心他的精神状态,但她认为,如果不是因为这些交流,他不可能选择自杀。为皮埃尔治疗的精神科医生也持相同观点。
据悉,欧盟正在寻求通过《欧盟人工智能法》来规范人工智能的使用。目前,相关草案已提交欧盟议会一读。报道称,马蒂厄目前已经成立了一个小组,分析欧盟现有的提案,并提出必要的调整。近日,特斯拉CEO埃隆马斯克和一群人工智能专家及行业高管在一封公开信中呼吁,暂停开发比Open AI新推出的GPT-4更加强大的人工智能系统,直至制订出针对这类产品的安全条款、经由独立专家审议且落地实施。
关注本站不迷路。带你及时获取游戏讯息,游戏攻略、热点话题、娱乐八卦、最新资讯等!