生成式AI的安全挑战及解决方案

新知榜官方账号

2023-09-02 02:20:50

生成式AI的安全挑战及解决方案

随着生成式AI技术的快速发展，越来越多的企业开始探索使用这种技术来推动业务创新。然而，在使用生成式AI的过程中，企业也会面临许多新的安全挑战，包括数据泄露、模型泄露、不安全的应用访问等。为了确保应用AI各个环节的安全合规，企业需要采取一系列措施。因此，企业只有确保人工智能应用各个阶段的安全性和合规性，才能更好地推动业务创新。

通常情况下，数据是企业利用人工智能推动业务创新的基础。例如，企业需要使用高价值的业务数据进行模型训练和微调。在数据产生价值之前，它会经过数据存储、传输、使用、治理等各个阶段。首先，企业需要在数据流动的过程中确保端到端的数据安全。这意味着在数据产生、存储、传输、使用和治理等各个环节中，企业需要采取加密和保护措施，确保数据的完整性和隐私性。例如，企业可以使用亚马逊云科技的数据加密和保护服务，如AmazonKMS和AmazonNitro来保护数据。亚马逊云科技的客户可以使用AmazonKeyManagementService（AmazonKMS）来深度集成并轻松保护多种数据。此外，AmazonNitro提供硬件级别的安全机制，实现了网络和存储隔离的独立安全通道。使用NitroEnclaves的加密功能，客户可以进行机密计算，其中多个参与方可以加入和处理高度敏感的数据，而无需分别向每个参与方披露或共享实际数据。亚马逊云科技提供贯穿整个数据周期的治理服务，例如AmazonDataZone。此外，他们还推出了敏感数据保护解决方案，可以实现对企业敏感数据的自动化发现并在统一平台管理数据资产。该解决方案允许客户创建数据目录，使用内置或定制数据识别规则定义敏感数据类型。该方案利用机器学习、模式匹配的方式自动识别敏感数据，并提供可视化面板，帮助客户更轻松地对敏感数据进行管理和保护。

其次，企业需要确保模型和AI应用的安全性。在训练模型时，企业需要确保训练结果的准确性和有效性，同时确保训练过程的安全性。此外，企业还需要监控模型的安全运行，包括模型的访问安全、模型的管理和运行安全监控等。为了降低生成式AI的使用门槛，亚马逊云科技推出了AmazonBedrock，这是一个完全托管的基础模型服务，客户可以根据自身需求通过API访问和使用其中的基础模型。AmazonBedrock与亚马逊云科技其他托管服务一样，客户可安全地在其虚拟私有云(VPC)中使用该服务并对基础模型进行微调，始终保持其自有数据以及模型的安全。

最后，企业需要确保生成式AI应用本身以及访问的安全性。将安全功能嵌入AI应用中是提升应用安全性的一种方法。例如，AmazonCodeWhisperer是一个AI编程助手，它内置了代码安全扫描功能，可以帮助开发者查找难以检测的漏洞并提出补救建议。此外，企业可以使用零信任的应用安全访问策略来确保应用的安全访问。亚马逊云科技还与涂鸦智能合作成立“联合安全实验室”，并在德勤企业咨询的帮助下发布《中国企业出海发展建议白皮书2023版》，帮助中国出海企业了解海外市场的法律法规和应对策略。

总之，为了应对生成式AI带来的安全问题，企业需要确保数据、模型和应用的端到端安全，并采取措施降低使用门槛并提高安全性。

本页网址：https://www.xinzhibang.net/article_detail-10761.html

寻求报道，请

关键词

分享至微信：

相关工具

CodeGeex

国内团队开发的免费AI编程助手

AskCodi

你的个人AI编程助手

Warp

21世纪的终端工具（内置AI命令搜索）

Mutable AI

人工智能加速软件开发

Ghostwriter

知名在线编程IDE Replit推出的AI编程助手

Deco

京东推出的设计稿一键生成多端代码工具

曾熙博士在香港设计营商周上分享AI设计三大原则

曾熙博士在香港设计营商周上分享AI设计三大原则2023年香港设计营商周BoDW开幕式，日本设计协会董事长兼MUJI艺术总监原研哉、MVRDV事务所创始人WinyMass等在台上发言。此活动集结了众多领域的杰出演讲者，如日本设计协会董事长与MUJI艺术总监原研哉、UNStudio创始人BenvanBe

分类标签香港设计营商周AI设计曾熙博士

12-10 02:15

人工智能诊断COVID-19肺炎的可解释性

在COVID-19大流行的早期，人们竞相构建工具，尤其是AI工具来提供帮助。但研究人员并没有注意到许多人工智能模型已经决定走一些捷径。AI通过分析被标记为COVID-19阳性和阴性的X射线图片来训练模型，然后利用它们在图像之间发现的差异性来进行推断，但是在当时面临着一个问题，“可用的训练数据并不多。

分类标签人工智能COVID-19肺炎

12-06 16:14

视频翻译工具MyHeyGen简介与使用教程

视频翻译工具MyHeyGen简介近期，一款名为“视频翻译”的工具引起了广泛关注。这不是一个简单的网页应用，而是一个可以免费部署在个人电脑或服务器上的实用程序。它的强大之处在于能够翻译任意时长的视频内容。所谓的视频翻译，实际上是指同声传译。虽然这类工具并非近期才问世，市场上已有多款成熟产品，例如我之前

分类标签视频翻译MyHeyGen免费工具

11-28 10:01

科学家创造出新方法解决人工智能歧视问题

背景人们开发人工智能的初衷是希望计算机能够模仿人类,但是，一旦以人类作为计算机学习的模板,人工智能不可避免地会“学习”到人类的某些缺陷，比如说歧视和偏见。现在，哥伦比亚大学和理海大学（LehighUniversities）的科学家们已经创造出新方法，可以避免歧视出现的情况。解决方案利用这种纠正深度学

分类标签人工智能歧视深度学习

10-20 10:30

人工智能会取代哪些工作岗位？专家：AI将刺激更多初创企业进入游戏行业

“记住我的话，人工智能远比核弹更加恐怖！”这是最近大火的人工智能聊天机器人模型ChatGPT的母公司——OpenAI的联合创始人埃隆·马斯克此前对于人工智能发出的“危险警告”。ChatGPT上线数月以来，来自全球的试用者们惊奇地发现，它表现出了可以部分代替人工完成创作剧本、撰写研报、应用编程等复杂工

分类标签人工智能工作岗位ChatGPTAIGC游戏行业初创企业

10-20 10:28

Python之父Guido van Rossum加入微软开发部门

Python之父Guido van Rossum加入微软开发部门64岁的Python之父Guido van Rossum在官方宣布：由于退休生活太无聊，决定加入微软的开发部门。微软方面确认了他的加入，并表示将为Python社区做出贡献，与之一起成长。Guido van Rossum在上世纪80年代末

分类标签 PythonGuidovanRossum微软开发部门

10-20 10:26

GPT-2逆天语言模型补全代码，DeepTabNine实现23种编程语言代码补全

GPT-2逆天语言模型补全代码，DeepTabNine实现23种编程语言代码补全DeepTabNine是一款支持23种编程语言的代码补全工具，基于GPT-2逆天语言模型，能够根据程序员过去的习惯自动补全，并在后面给出几种选项的概率。TabNine支持VSCode、SublimeText、Atom、E

分类标签 GPT-2DeepTabNine代码补全编程语言机器学习TabNine

10-20 10:24

金山毒霸青春版的Chat毒霸姬AI编程，智能编程学习神器

金山毒霸青春版的Chat毒霸姬AI编程，智能编程学习神器如果问近几年哪个行业最吃香，相信绝大多数的朋友都是第一个想到IT行业。在互联网时代，计算机等相关行业可以说是二十一世纪炙手可热的行业，每年高考招生，IT计算机行业也成为的考生们炙手可热的专业之一。不过，对于部分人群来说，学习编程听起来是一件很难

分类标签编程学习AI编程金山毒霸青春版

10-20 10:02

推荐配色大神们私藏的在线自动配色网站

推荐配色大神们私藏的在线自动配色网站在生活中我们要学会衣服的色彩搭配，让人赏心悦目。工作中无论是平面设计，还是制作PPT，好的配色方案，能够锦上添花。本期给大家推荐配色大神们私藏的在线自动配色网站，非常全面。01综合全面配色这些网站的配色方案比较全面，可以直接拿来就用。http://colorhun

分类标签配色方案在线工具渐变色中国风数据可视化SEO

10-10 22:36

分享3款适合设计新手的平面设计软件和教程

分享3款适合设计新手的平面设计软件和教程大家好，我是谢振。作为设计新手的你是不是还在了解平面设计都需要学习什么软件？或者百度上到处搜索找人问？接下来我分享平面设计3款常用也是必备的软件，每款软件都有自己的特长，我们看看是哪3款。1.CorelDRAWCorelDRAW简称CDR，是加拿大Corel公

分类标签平面设计软件教程

09-28 10:20

ChatGPT Midjourney 文心一言文心一格 bing新必应 Stable diffusion 稿定设计墨刀AI mastergo Adobe Firefly runway