Anthropic推出全新AI聊天机器人Claude2

新知榜官方账号

2023-07-12 10:14:26

Anthropic推出全新AI聊天机器人Claude2

硅谷人工智能初创公司Anthropic近日推出全新AI聊天机器人Claude2。作为Anthropic的第一款商业化模型Claude1.3的后续升级版本,Claude2从本周开始在美国和英国开放公测,用户可以通过网页和付费API(限量访问)两种方式使用。

与老版本相比,Claude2在多项能力指标上得到提升,包括在美国律师资格考试中的选择题得分率(76.5%vs73%)、通过美国医师执业资格考试、在Python编程测试中的得分(71.2%vs56%)以及在中小学数学问题集上的正确率(88%vs85.2%)。Claude2的模型架构与老版本Claude1.3并无太大区别,主要是在新的训练数据上进行微调。它可以处理长达7.5万字的文本,相当于《了不起的盖茨比》全文,并可以生成长达4000个词汇单元,约3125个字的新文本。

Claude2虽然在某些指标上有提升,但仍存在大量的隐患,比如会输出具有偏见或误导性的文本,关于自杀或制毒的危险指导等。Anthropic呼吁用户谨慎使用,避免将Claude2应用于涉及健康心理或高风险的场景中。Anthropic表示,下一步会继续完善Claude2的能力,探索让聊天机器人行为更加透明可控的方法,以确保新版本与老版本一样具备无害性和有用性。AI助手的安全性和伦理规范仍有很长的路要走,我们期待Claude2能够在强化能力的同时,变得更加稳健可控。

本页网址:https://www.xinzhibang.net/article_detail-7699.html

寻求报道,请 点击这里 微信扫码咨询

关键词

Anthropic AI聊天机器人 Claude2

分享至微信: 微信扫码阅读

相关工具

相关文章