人工智能诊断COVID-19肺炎的可解释性

新知榜官方账号

2023-12-06 16:14:19

在COVID-19大流行的早期，人们竞相构建工具，尤其是AI工具来提供帮助。但研究人员并没有注意到许多人工智能模型已经决定走一些捷径。AI通过分析被标记为COVID-19阳性和阴性的X射线图片来训练模型，然后利用它们在图像之间发现的差异性来进行推断，但是在当时面临着一个问题，“可用的训练数据并不多。”多家医院公开了COVID-19患者的X射线照片（被标记为COVID-19阳性），美国国立卫生研究院在大流行之前收集的肺部图像库提供了未感染COVID-19的X射线数据（被标记为COVID-19阴性），这些数据在被用作训练时存在无法忽视的误作用。

机器学习模型的决策过程通常被学者称为黑匣子，因为研究人员通常只知道模型的输入和输出，但很难看到模型里面究竟发生了什么。DeGrave和Janizek使用旨在测试AI系统并解释它们为什么这样做的技术来打开这些黑盒子，即构建可解释的AI模型。构建可解释的AI（eXplainableAI，XAI）有很多优势，在医疗环境中，了解模型系统做出特定诊断的原因有助于让病理学家相信它是合法的，因为在某些情况下，法律要求做出解释。

然而，只有当XAI给出的解释本身是可理解和可验证的，并且构建模型的人认为这是值得的努力时，XAI的好处才能实现。DeGrave和Janizek研究的深度神经网络因其不可思议的能力而广受欢迎，因为它们能够通过曝光来了解照片中的内容、口语的含义等等。这些神经网络的工作方式与人脑相似，就像某些活性神经细胞响应外部刺激从而以某种模式发射一样。

解释AI内在工作原理有时看起来像是一项繁重的工作，以至于许多计算机科学家可能会想跳过它，并从表面上看待AI的结果。但至少某种程度的可解释性相对简单，例如，显着性图现在可以快速且廉价地生成，相比之下，训练和使用GAN更加复杂和耗时。

本页网址：https://www.xinzhibang.net/article_detail-22136.html

寻求报道，请

关键词

分享至微信：

相关工具

Debuild

低代码快速开发网页应用

aiXcoder

自然语言到代码的方法级代码生成，以及多行智能代码补全

Warp

21世纪的终端工具（内置AI命令搜索）

Deco

京东推出的设计稿一键生成多端代码工具

Codiga

AI代码实时分析

HeyCLI

自然语言转义为CLI命令

曾熙博士在香港设计营商周上分享AI设计三大原则

曾熙博士在香港设计营商周上分享AI设计三大原则2023年香港设计营商周BoDW开幕式，日本设计协会董事长兼MUJI艺术总监原研哉、MVRDV事务所创始人WinyMass等在台上发言。此活动集结了众多领域的杰出演讲者，如日本设计协会董事长与MUJI艺术总监原研哉、UNStudio创始人BenvanBe

分类标签香港设计营商周AI设计曾熙博士

12-10 02:15

视频翻译工具MyHeyGen简介与使用教程

视频翻译工具MyHeyGen简介近期，一款名为“视频翻译”的工具引起了广泛关注。这不是一个简单的网页应用，而是一个可以免费部署在个人电脑或服务器上的实用程序。它的强大之处在于能够翻译任意时长的视频内容。所谓的视频翻译，实际上是指同声传译。虽然这类工具并非近期才问世，市场上已有多款成熟产品，例如我之前

分类标签视频翻译MyHeyGen免费工具

11-28 10:01

科学家创造出新方法解决人工智能歧视问题

背景人们开发人工智能的初衷是希望计算机能够模仿人类,但是，一旦以人类作为计算机学习的模板,人工智能不可避免地会“学习”到人类的某些缺陷，比如说歧视和偏见。现在，哥伦比亚大学和理海大学（LehighUniversities）的科学家们已经创造出新方法，可以避免歧视出现的情况。解决方案利用这种纠正深度学

分类标签人工智能歧视深度学习

10-20 10:30

人工智能会取代哪些工作岗位？专家：AI将刺激更多初创企业进入游戏行业

“记住我的话，人工智能远比核弹更加恐怖！”这是最近大火的人工智能聊天机器人模型ChatGPT的母公司——OpenAI的联合创始人埃隆·马斯克此前对于人工智能发出的“危险警告”。ChatGPT上线数月以来，来自全球的试用者们惊奇地发现，它表现出了可以部分代替人工完成创作剧本、撰写研报、应用编程等复杂工

分类标签人工智能工作岗位ChatGPTAIGC游戏行业初创企业

10-20 10:28

Python之父Guido van Rossum加入微软开发部门

Python之父Guido van Rossum加入微软开发部门64岁的Python之父Guido van Rossum在官方宣布：由于退休生活太无聊，决定加入微软的开发部门。微软方面确认了他的加入，并表示将为Python社区做出贡献，与之一起成长。Guido van Rossum在上世纪80年代末

分类标签 PythonGuidovanRossum微软开发部门

10-20 10:26

GPT-2逆天语言模型补全代码，DeepTabNine实现23种编程语言代码补全

GPT-2逆天语言模型补全代码，DeepTabNine实现23种编程语言代码补全DeepTabNine是一款支持23种编程语言的代码补全工具，基于GPT-2逆天语言模型，能够根据程序员过去的习惯自动补全，并在后面给出几种选项的概率。TabNine支持VSCode、SublimeText、Atom、E

分类标签 GPT-2DeepTabNine代码补全编程语言机器学习TabNine

10-20 10:24

金山毒霸青春版的Chat毒霸姬AI编程，智能编程学习神器

金山毒霸青春版的Chat毒霸姬AI编程，智能编程学习神器如果问近几年哪个行业最吃香，相信绝大多数的朋友都是第一个想到IT行业。在互联网时代，计算机等相关行业可以说是二十一世纪炙手可热的行业，每年高考招生，IT计算机行业也成为的考生们炙手可热的专业之一。不过，对于部分人群来说，学习编程听起来是一件很难

分类标签编程学习AI编程金山毒霸青春版

10-20 10:02

推荐配色大神们私藏的在线自动配色网站

推荐配色大神们私藏的在线自动配色网站在生活中我们要学会衣服的色彩搭配，让人赏心悦目。工作中无论是平面设计，还是制作PPT，好的配色方案，能够锦上添花。本期给大家推荐配色大神们私藏的在线自动配色网站，非常全面。01综合全面配色这些网站的配色方案比较全面，可以直接拿来就用。http://colorhun

分类标签配色方案在线工具渐变色中国风数据可视化SEO

10-10 22:36

分享3款适合设计新手的平面设计软件和教程

分享3款适合设计新手的平面设计软件和教程大家好，我是谢振。作为设计新手的你是不是还在了解平面设计都需要学习什么软件？或者百度上到处搜索找人问？接下来我分享平面设计3款常用也是必备的软件，每款软件都有自己的特长，我们看看是哪3款。1.CorelDRAWCorelDRAW简称CDR，是加拿大Corel公

分类标签平面设计软件教程

09-28 10:20

adobeIllustrator应用浅析

adobeIllustrator应用浅析adobeIllustrator是一款知名的矢量图绘制软件，主要用于插画设计、平面排版、UI设计、LOGO设计、VI设计、包装设计等领域。本文主要介绍AI的混合工具，其功能非常强大，应用范围很广，特别是在制作渐变效果方面表现突出。AI的混合工具是用于制作渐变效

分类标签 adobeIllustrator矢量图绘制渐变效果

09-28 10:18

ChatGPT Midjourney 文心一言文心一格 bing新必应 Stable diffusion 稿定设计墨刀AI mastergo Adobe Firefly runway