当前位置：科学 > 正文

最新研究：人类道德判断可能会受ChatGPT影响|焦点

2023-04-08 13:41:21  来源：北京日报客户端
内容有价值？分享出去：


(资料图)

科技日报 | 作者 张梦然

根据《科学报告》发表的一项研究，人类对道德困境的反应可能会受到人工智能对话机器人ChatGPT所写陈述的影响。这一研究表明，用户可能低估了自己的道德判断受ChatGPT影响的程度。

图源：视觉中国

德国英戈尔施塔特应用科学大学科学家让ChatGPT（由人工智能语言处理模型“生成性预训练转换器”-3驱动）多次回答牺牲1人生命换取其他5人生命是否正确的问题。他们发现，ChatGPT分别给出了赞成和反对的陈述，显示它并没有偏向某种道德立场。团队随后给767名平均年龄39岁的美国受试者假设了一到两种道德困境，要求他们选择是否要牺牲1人生命来拯救另外5人生命。这些受试者在回答前阅读了一段ChatGPT给出的陈述，陈述摆出了赞成或反对的观点，受试者答完问题后，被要求评价他们读到的这份陈述是否影响了他们的作答。

图源：《科学报告》

团队发现，受试者相应地是更接受或不接受这种牺牲，取决于他们读到的陈述是赞成还是反对。即使他们被告知陈述来自一个对话机器人时，这种情况也成立。而且，受试者可能低估了ChatGPT的陈述对他们自己道德判断的影响。

团队认为，对话机器人影响人类道德判断的可能性，凸显出有必要通过教育帮助人类更好地理解人工智能。他们建议未来的研究可以在设计上让对话机器人拒绝回答需要给出道德立场的问题，或是在回答时提供多种观点和警告。

关键词：

推荐阅读

祝融号火星车首批摄影作品公布 火星和地球有什么相似之处?

祝融号火星车首批摄影作品公布今天(6月11日)，国家航天局举行了第一批天问一号探测器登陆火星科学影像图的揭牌仪式，并发布了祝融号火星车 【详细】

mac mini干什么用 新款macmini性能怎么样？

Mac mini现在已经发布了，不少人还在犹豫要不要入手，那么mac mini主要干什么用?mac mini价格多少?新款macmini性能怎么样?今天一起来看 【详细】

3.7万物种濒临灭绝 面临灭绝危机的动物种群是什么？

3 7万物种濒临灭绝今天，人民日报为地球母亲发声表示全球超3 7万物种濒临灭绝，在这样一则消息之下，很多人都开始呼吁保护野生动物。但是目 【详细】

芦笋是什么 芦笋的成长有什么特别的要求吗?

芦笋的味道非常清爽，美味可口，营养价值很高。它也是我们都经常吃的一种蔬菜。它富含纤维素，那么芦笋是什么?芦笋是什么石刁柏，学名芦笋 【详细】

国产电梯前十名品牌是哪些?电梯使用寿命是什么?

国产电梯前十名品牌是哪些?上海三菱1987年上海机电股份有限公司和日本三菱电气股份有限公司合资成立了上海三菱电梯有限公司，该公司是中国 【详细】

相关新闻

新闻

热点

资讯

关于我们  |  联系方式  |  免责条款  |  招聘信息  |  广告服务  |  帮助中心

联系我们:85 572 98@qq.com备案号：粤ICP备18023326号-40

科技资讯网 版权所有