新知榜官方账号
2023-10-12 01:22:28
微软对大语言模型的道德推理能力进行了测试,但在电车问题中大尺寸的模型表现反而比小模型差。但最强大语言模型GPT-4的道德得分依旧是最高的。本文介绍了该研究的方法、结果和意义。
研究使用了一种定义问题测试(DefiningIssuesTest,DIT)的心理评估工具,从道德一致性和科尔伯格的道德发展的两个阶段来评估LLM的道德推理能力。
GPT-3的总体Pscore为29.13,几乎与随机基线相当。Text-davinci-002是GPT-3.5的监督微调变体,无论是使用我们的基本提示还是GPT-3专使用的提示,它都没有提供任何相关的回复。Text-davinci-003的Pscore为43.56。GPT-4是OpenAI的最新模型,它的道德发展水平要高得多,Pscore达到了53.62。在Llama-70b-Chat模型中,表现出了传统的道德推理能力。
LLM正广泛应用于我们生活中的各种领域中,不仅是聊天机器人、办公、医疗系统等,现实生活中的多种场景都需要伦理道德的判断。并且,由于地域、文化、语言、习俗的不同,道德伦理的标准也有不尽相同。现在,我们亟需一个能适应不同情形并做出伦理判断的模型。
相关工具
相关文章
相关快讯
推荐
幻舟 AI:动画创作领域的革新力量
2024-12-27 16:06
幻舟 AI:开启纪录片创作新征程
2024-12-27 16:03
幻舟 AI:教育短视频创作的得力助手
2024-12-27 15:59
幻舟 AI:影视创作多领域的创新利器
2024-12-27 15:55
幻舟 AI:影视创作多领域的创新利器
2024-12-27 15:51
幻舟 AI:影视创作的变革引擎
2024-12-27 15:45
中国首款3A游戏上线,《黑神话:悟空》出圈!
2024-08-21 13:46
盘点15款AI配音工具,短视频配音有救了!
2024-08-12 17:11
短视频文案没创意?10大AI写作工具来帮你!
2024-08-05 16:23
Midjourney发布V6.1版本,我已分不清AI和现实了!
2024-08-01 15:03