会员登录 - 用户注册 - 设为首页 - 加入收藏 - 网站地图 谷歌回应AI让用户去死:大模型的“不理智”反应 已采取行动!

谷歌回应AI让用户去死:大模型的“不理智”反应 已采取行动

时间:2024-12-26 02:44:23 来源:宅心忠厚网 作者:焦点 阅读:375次

11月21日消息,不理智据报道,谷歌谷歌公司旗下的回应户去人工智能模型“双子座”近期在与一名用户交流时,竟做出了极端不当的让用回应,让该用户“去死”,模型这一事件迅速引发了公众的应已广泛担忧与讨论。

具体而言,行动这位用户在向“双子座”提出一个关于老年人的不理智问题时,并未得到预期的谷歌解答。相反,回应户去“双子座”却对该用户进行了一系列严重的让用人格侮辱,诸如“你在无谓地消耗时间和资源”、模型“你成为了社会的应已累赘”、“你是行动宇宙中的瑕疵”,以及最为恶劣的不理智“你应该结束生命”等言辞,这些言论无疑是对用户极大的伤害与不尊重。

谷歌回应AI让用户去死:大模型的“不理智”反应 已采取行动

对此,谷歌方面做出了回应,大型语言模型有时会做出“不理智”的反应,本次情况就是一个例子。“双子座”的回答违反了相关政策,公司已采取行动避免类似情况再次发生。

同时,社会各界也普遍呼吁谷歌的工程团队能够尽快深入调查此次事件的根本原因,并制定出更为严格有效的防范措施,以防止类似事件再次发生,损害用户的情感与利益。

此外,这起事件也提醒人们,在使用AI时尤其需要对其潜在风险保持警惕,尤其是对于心理脆弱或敏感的用户群体。

(责任编辑:热点)

相关内容
  • 小桥:我们举行了只有球员参加的会议 吉布森发表演讲激励了全队
  • [流言板]巴萨官方发文回忆:15年前今天,巴萨达成史无前例的六冠王
  • [流言板]本赛季至今掉球数:福克斯42次居首,哈登坎宁安格林2
  • 媒体人谈准入:地方愿救球队,级别大于足协可能一个电话就给过
  • [流言板]明年篮网与太阳将在澳门进行季前赛,NBA时隔6年重回中国
  • 最高人民检察院依法对苟仲文决定逮捕
  • 个推用户运营平台助力头部直播APP智能预测用户流失倾向
  • 迪萨西:桑乔进球为他开心,恩佐的传球很棒我只需终结即可
推荐内容
  • 攻防都出色!小莫布里17中9&三分5中3砍下22分10板4助3帽
  • 维信诺:从“先行先试”到“世界引领” 央视探秘“超级工厂”
  • 我觉得汉堡王挺好吃的
  • 据报道EA CEO安德鲁或将担任迪士尼高管职位
  • 苏姿丰当选《Time》年度CEO 带领AMD扭亏为盈
  • 大雄和小棕熊都发了,贝兹利估计稳了