使用模型属性、本地逻辑表示和全局逻辑表示从黑盒模型生成解释快速回顾

新知榜官方账号

2023-10-20 09:26:20

使用模型属性、本地逻辑表示和全局逻辑表示从黑盒模型生成解释快速回顾

XAI和NSC可解释人工智能(XAI)致力于开发对人类（包括用户、开发人员、政策制定者和审计人员）来说本质上更容易理解的人工智能模型。神经符号计算(NSC)处理将子符号学习算法与符号推理方法相结合。因此，我们可以断言神经符号计算是可解释人工智能下的一个子领域。NSC也是最适用的方法之一，因为它依赖于结合现有的方法和模型。如果可解释性是指用人类语言有意义地描述事物的能力。那么它可以认为，它是将原始信息(数据)映射到人类有意义的符号表示(例如，英语文本)的可能性。通过从子符号中提取符号，我们可以使这些子符号具有可解释性。XAI和NSC都在努力使次符号系统更易于解释。NSC更多的是关于子符号到符号的映射，通过逻辑设计的可解释性:对子符号学习表示的符号推理。XAI没有那么具体，更多的是关于所有细微差别的可解释性，即使可解释性被包裹在无法解释的模型中。

如果从子符号中提取符号意味着可解释性，那么XAI包含了NSC。Neuro-SymbolicConceptLearnerMao等人提出了一个新的NSC模型，Neuro-SymbolicConceptLearner，它遵循以下步骤:图像分类器学习从图像或文本片段中提取亚符号(数字)表示。然后，每个次符号表征都与一个人类可以理解的符号相关联。然后，符号推理器检查符号表示的嵌入相似性训练继续进行，直到通过更新表示使推理机输出的准确性达到最大为止。

白盒和黑盒模型AI模型可以是(i)白盒或(ii)黑盒。白盒模型可以通过设计来解释。因此，它不需要额外的功能来解释。黑盒模型本身是无法解释的。因此，为了使黑盒模型具有可解释性，我们必须采用几种技术从模型的内部逻辑或输出中提取解释。黑盒模型可以使用以下内容解释模型属性:展示模型或其预测的特定属性，如(a)属性变化的敏感性，或(b)负责给定决策的模型组件(如神经元或节点)的识别。局部逻辑:单个决策或预测背后的内部逻辑的表示。全局逻辑:整个内部逻辑的表示。因此，下图显示了AI模型的可解释性的子类别:基于规则的可解释性与基于案例的可解释性除了可解释模型的逻辑区分之外，我们还确定了两种常见的解释类型，所有上述模型都可以采用它们来提供解释:基于规则的解释:基于规则的可解释性依赖于生成“一组形式化的逻辑规则，这些规则构成了给定模型的内部逻辑。”基于案例的解释:基于规则的可解释性依赖于提供有价值的输入-输出对(包括积极的和消极的)，以提供对模型内部逻辑的直观理解。基于案例的解释依赖于人类从这些配对中推断逻辑的能力。基于规则和基于案例的学习算法比较假设我们的模型需要学习如何做苹果派的食谱。我们有蓝莓派、奶酪蛋糕、牧羊人派和普通蛋糕的食谱。基于规则的学习方法试图想出一套通用的规则来制作所有类型的甜点(即急切方法)，而基于案例的学习方法则根据需要概括特定任务所需的信息。因此，它会在可用数据中寻找与苹果派最相似的甜点。然后，它会尝试在类似的食谱上进行小的变化来定制。XAI:设计白盒模型包括基于规则和基于案例的学习系统，我们有四种主要的白盒设计:手工制作的专家系统;基于规则的学习系统:从归纳逻辑规划、决策树等数据中学习逻辑规则的算法;案例学习系统:基于案例推理的算法。他们利用例子、案例、先例和/或反例子来解释系统输出;和嵌入式符号和提取系统:更多的生物启发算法，如神经符号计算。

本页网址：https://www.xinzhibang.net/article_detail-17372.html

寻求报道，请

关键词

XAI NSC 可解释人工智能神经符号计算模型属性局部逻辑全局逻辑基于规则的解释基于案例的解释

分享至微信：

相关工具

CodeSnippets

AI代码生成、补全、分析、重构和调试

Visual Studio IntelliCode

Visual Studio AI辅助开发

GitHub Copilot

GitHub AI编程工具

Tabnine

AI代码自动补全编程助手

AirOps

AI SQL语句生成和修改

JamGPT

AI Debug调试助手

常见的AI自动生成代码工具

常见的AI自动生成代码工具AI自动生成代码工具是一种利用人工智能技术来辅助或自动化软件开发过程中的编码任务的工具。这些工具使用机器学习和自然语言处理等技术，根据开发者的需求生成相应的源代码。以下是一些常见的AI自动生成代码工具：OpenAICodex(GitHubCopilot)语言：多语言支持。特

分类标签 AI自动生成代码工具OpenAICodexTabNineKiteDeepCodeCodeAISnipAwayHuggingFaceTransformers

12-09 00:57

微软新黑科技：DeepTabNine，帮助开发者自动写代码的编码自动完成器

1975年由比尔盖茨和保罗艾伦联手创建的微软公司是一家超级强大的电脑科技公司，名下产品有被广大人们所知晓的Windows操作系统与办公利器offic全家桶与游戏界熟知的Xbox游戏机和在软件开发行业非常火的语言C#也出自微软之手，这里面的每一样产品堪称经典。最近微软又推出了一项新的黑科技，也是软件开

分类标签微软DeepTabNine编码自动完成器

11-15 22:29

企业IT软件和服务市场的最新趋势

企业IT软件和服务市场的最新趋势当德勤咨询公司负责人TimPotter调查当前的企业软件和服务格局时，他看到了IT组织在促进创新和快速增长方面的潜力。他表示，“企业正在不断寻求软件和技术解决方案，以改善服务，提供更有吸引力的产品，简化内部流程，并提高生产力。新的技术进步正在不断被引入，以帮助满足企业

分类标签 IT领导者人工智能边缘计算专用无线网络数字化转型无密码认证云原生平台

11-15 22:28

ChatGPT带来的人工智能应用快速迭代

ChatGPT带来的人工智能应用快速迭代ChatGPT的出现带来了人们的恐惧和兴奋，各种套用GPT-3.5模块的服务也在迅速探索OpenAI技术的商业应用。最快被影响的是搜索引擎，接着是各类服务，如微软的365Copilot和ImageCreator、文心一格、Google的AIWorkspace等

分类标签 ChatGPT人工智能应用

11-03 22:25

Copilot：GitHub发布的AI代码提示工具

Copilot简介Copilot是Github去年发布的一款代码提示、自动补全工具。刚发布的时候还引发了程序员对未来命运的讨论，当时很多程序员担心以后只会写CRUD的程序员要被替代了。Copilot和以前所有的代码提示工具不同的地方在于，它是基于AI的。借助于OpenAI公司的CodeXAI模型系统

分类标签 CopilotAI代码提示工具

10-26 22:18

VSCode实用插件推荐

前言VSCode是一个轻量级但功能强大的源代码编辑器。本文整理了一些实用的VSCode插件，帮助开发者提升工作效率。VSCode中文（简体）语言包此中文（简体）语言包为VSCode提供本地化界面。C#开发工具包C#DevKitforVisualStudioCode是一个扩展工具，它为您的C#开发提供

分类标签 VSCode插件开发工具代码编辑器

10-20 22:24

GitHub Copilot正式版上线，是否值得购买？

概述GitHub Copilot是一款AI助手，可以帮助程序员节省时间，集中精力去解决更重大的问题。正式版定价10美元/月（人民币约67元），年付有优惠100美元/年（人民币约669元），从现在起无需排队可申请2个月免费试用，另外对认证学生和热门开源项目维护者免费。使用体验内测用户认为GitHub

分类标签 GitHubCopilotAI助手程序员代码编辑器开发者

10-08 03:14

HelloGitHub月刊：值得关注的开源项目

兴趣是最好的老师，HelloGitHub就是帮你找到兴趣！简介分享GitHub上有趣、入门级的开源项目。这是一个面向编程新手、热爱编程、对开源社区感兴趣人群的月刊，月刊的内容包括：各种编程语言的项目、让生活变得更美好的工具、书籍、学习笔记、教程等，这些开源项目大多都是非常容易上手，而且非常Cool。

分类标签开源项目GitHub编程语言

10-08 03:12

Top 27 Visual Studio Code扩展

Top 27 Visual Studio Code扩展本文介绍了27个顶级的Visual Studio Code扩展，这些扩展可以帮助开发人员提高效率、增强生产力。一、以下是针对提高生产力的VSCode扩展GraphQL：GraphQL Visual Studio Code扩展提供了一系列工具，帮助

分类标签 VisualStudioCodeVSCode扩展生产力代码编辑器

10-08 03:08

GitHubCopilot：AI程序员的编写伙伴

GitHubCopilot是一个AI配对程序员，可帮助您以更少的工作更快地编写代码。GitHubCopilot从评论和代码中提取上下文，并立即建议单个行和整个函数。GitHubCopilot由OpenAICodex提供支持，OpenAICodex是OpenAI创建的新AI系统。GitHubCopil

分类标签 GitHubCopilotAI程序员编写伙伴

10-08 03:06

ChatGPT Midjourney 文心一言文心一格 bing新必应 Stable diffusion 稿定设计墨刀AI mastergo Adobe Firefly runway