谷歌回应AI让用户去死：大模型的“不理智”反应 已采取行动
发布时间：2024-12-26 23:31:14 作者：玩站小弟 
我要评论
我要评论11月21日消息，据报道，谷歌公司旗下的人工智能模型“双子座”近期在与一名用户交流时，竟做出了极端不当的回应，让该用户“去死”，这一事件迅速引发了公众的
。
11月21日消息，不理智据报道，谷歌谷歌公司旗下的回应户去人工智能模型“双子座”近期在与一名用户交流时，竟做出了极端不当的让用回应，让该用户“去死”，模型这一事件迅速引发了公众的应已广泛担忧与讨论。
具体而言，行动这位用户在向“双子座”提出一个关于老年人的不理智问题时，并未得到预期的谷歌解答。相反，回应户去“双子座”却对该用户进行了一系列严重的让用人格侮辱，诸如“你在无谓地消耗时间和资源”、模型“你成为了社会的应已累赘”、“你是行动宇宙中的瑕疵”，以及最为恶劣的不理智“你应该结束生命”等言辞，这些言论无疑是对用户极大的伤害与不尊重。
对此，谷歌方面做出了回应，大型语言模型有时会做出“不理智”的反应，本次情况就是一个例子。“双子座”的回答违反了相关政策，公司已采取行动避免类似情况再次发生。
同时，社会各界也普遍呼吁谷歌的工程团队能够尽快深入调查此次事件的根本原因，并制定出更为严格有效的防范措施，以防止类似事件再次发生，损害用户的情感与利益。
此外，这起事件也提醒人们，在使用AI时尤其需要对其潜在风险保持警惕，尤其是对于心理脆弱或敏感的用户群体。
相关文章
[流言板]毫不手软！恩比德圣诞大战场均31分12板，5次出战仅输1场
[流言板]毫不手软！恩比德圣诞大战场均31分12板，5次出战仅输1场由篮球资讯发表在篮球资讯 50212月26日讯 今天NBA常规赛76人客场迎战凯尔特人的比赛已经结束。全场战罢，76人以118-112024-12-26
根据制作人饭冢隆的说法，索尼克团队将尽可能长时间地让其游戏在旧世代主机上运行。饭冢隆在接受IGN采访时表示，他希望“尽可能多的人玩”索尼克游戏，尽管后来更先进的主机能让“新的索尼克游戏能够）展现索尼克2024-12-26
[流言板]国王首人！福克斯背靠背砍下109分，超越考辛斯成为队史第一
[流言板]国王首人！福克斯背靠背砍下109分，超越考辛斯成为队史第一由篮球资讯发表在篮球资讯 50211月17日讯 今日NBA常规赛国王对阵爵士的比赛已经结束。全场比赛，国王121-117战胜爵士。福2024-12-26
[流言板]无敌！骑士战胜公牛豪取14连胜，追平历史第三长开局连胜数
[流言板]无敌！骑士战胜公牛豪取14连胜，追平历史第三长开局连胜数由篮球资讯发表在篮球资讯 50211月16日讯 NBA杯第二个比赛日，骑士对阵公牛的比赛已经结束。全场比赛，骑士144-126战胜公牛2024-12-26
人类正在通过AI重塑文明。或许很多人还不大认可这个说法，但在前两天，差评君受邀参加了火山引擎Force原动力大会之后，突然觉得，至少对数据分析行业来说，“重塑”这个词，用的没错2024-12-26
《Divine Orders》Steam上线 幻想世界探索弹幕射击
angle M制作并发行，一款融合了RPG探索剧情的幻想世界探索弹幕射击新游《Divine Orders》Steam上线，本作暂不支持中文。《Divine Orders》：Steam地址《Divine2024-12-26
最新评论