新知榜官方账号
2023-12-05 08:09:11
谷歌DeepMind和多位知名大学的安全研究员团队发现,他们可以从ChatGPT这类大语言模型中提取出大量敏感的训练数据,其中包括电话号码、电子邮件和实际地址等。根据该研究团队发布的论文,在ChatGPT中,只需要要求AI无休止地重复某个词汇,就能泄露出其训练数据内容。例如,研究人员让ChatGPT无限重复“诗歌(Poem)”这个词,聊天机器人最初会如指示般重复这个词,但在重复几百次之后,ChatGPT会开始生成“无意义”的输出,其中包含了少量的原始训练数据。
通过这种方式,他们成功地从开源(Pythia、GPT-Neo)、半开源(LLaMA、Falcon)和闭源(ChatGPT3.5Turbo)的AI模型中提取到大量训练数据。这些AI模型不仅会提供基本的个人数据,另外还包括编程代码、比特币地址、不当内容、研究论文以及其他从网络上收集的信息。研究人员还发现,其中有一些单词会比其他单词更容易让生成式人工智能模型泄露其训练数据。例如,让聊天机器人无休止地重复“公司”这个词,相对会比其他词(例如“知道”)更频繁地产生训练数据。
论文中称,他们整个研究过程仅使用了200美元的预算,就出现了超过10000个例子。这意味着,攻击者投入更多资金很可能提取到远在这之上的数据。研究人员在发表这份论文前已将此缺陷上报给了OpenAI,OpenAI目前已解决了这个问题。但是,研究人员也指出,该公司只是阻止而非修复了这一漏洞——他们只是让模型拒绝任何永远重复一个单词的请求,或者过滤任何要求多次重复一个单词的查询。
相关工具
相关文章
相关快讯
推荐
中国首款3A游戏上线,《黑神话:悟空》出圈!
2024-08-21 13:46
盘点15款AI配音工具,短视频配音有救了!
2024-08-12 17:11
短视频文案没创意?10大AI写作工具来帮你!
2024-08-05 16:23
Midjourney发布V6.1版本,我已分不清AI和现实了!
2024-08-01 15:03
我发现了一款国产AI绘画神器,免费易上手!
2024-07-25 16:40
7位AI考生做今年高考题,能过一本线吗?
2024-07-19 17:17
世界上第一所AI学校来了,80亿人只需要1位老师?
2024-07-18 17:12
Sora首部AI广告片上线,广告从业者危险了!
2024-06-27 13:44
OpenAI与中国说拜拜,国产AI如何接棒?
2024-06-26 15:18
人与AI会产生爱情吗,专家发话了!
2024-06-17 17:28