新知榜官方账号
2023-10-12 01:22:28
微软对大语言模型的道德推理能力进行了测试,但在电车问题中大尺寸的模型表现反而比小模型差。但最强大语言模型GPT-4的道德得分依旧是最高的。本文介绍了该研究的方法、结果和意义。
研究使用了一种定义问题测试(DefiningIssuesTest,DIT)的心理评估工具,从道德一致性和科尔伯格的道德发展的两个阶段来评估LLM的道德推理能力。
GPT-3的总体Pscore为29.13,几乎与随机基线相当。Text-davinci-002是GPT-3.5的监督微调变体,无论是使用我们的基本提示还是GPT-3专使用的提示,它都没有提供任何相关的回复。Text-davinci-003的Pscore为43.56。GPT-4是OpenAI的最新模型,它的道德发展水平要高得多,Pscore达到了53.62。在Llama-70b-Chat模型中,表现出了传统的道德推理能力。
LLM正广泛应用于我们生活中的各种领域中,不仅是聊天机器人、办公、医疗系统等,现实生活中的多种场景都需要伦理道德的判断。并且,由于地域、文化、语言、习俗的不同,道德伦理的标准也有不尽相同。现在,我们亟需一个能适应不同情形并做出伦理判断的模型。
相关工具
相关文章
相关快讯
推荐
中国首款3A游戏上线,《黑神话:悟空》出圈!
2024-08-21 13:46
盘点15款AI配音工具,短视频配音有救了!
2024-08-12 17:11
短视频文案没创意?10大AI写作工具来帮你!
2024-08-05 16:23
Midjourney发布V6.1版本,我已分不清AI和现实了!
2024-08-01 15:03
我发现了一款国产AI绘画神器,免费易上手!
2024-07-25 16:40
7位AI考生做今年高考题,能过一本线吗?
2024-07-19 17:17
世界上第一所AI学校来了,80亿人只需要1位老师?
2024-07-18 17:12
Sora首部AI广告片上线,广告从业者危险了!
2024-06-27 13:44
OpenAI与中国说拜拜,国产AI如何接棒?
2024-06-26 15:18
人与AI会产生爱情吗,专家发话了!
2024-06-17 17:28