多任务学习:让人工智能具备人类的通用能力

新知榜官方账号

2023-11-28 18:06:20

多任务学习(Multi-Task Learning,MTL)是一种让机器模仿人类学习行为的一种方法,可以让人工智能具备像人类一样的通用能力。相对于现阶段的AI,我们人类才是能够进行多任务学习的高手。我们既不需要学习成千上万的数据样本就可以认识某类事物,我们又不用针对每一类事物都从头学起,而是可以触类旁通地掌握相似的东西。MTL可以让人工智能来实现人类的这种能力。

多任务学习涉及多个相关的任务同时并行学习,梯度同时反向传播,利用包含在相关任务训练信号中的特定领域的信息来改进泛化能力。MTL的任务分类主要包括监督学习任务、无监督学习任务、半监督学习任务、主动学习任务、强化学习任务、在线学习任务和多视角学习任务。共享表示和特征泛化是理解MTL优势的两个关键。在一个神经网络上同时训练多个任务的学习效果可能会更好,因为不同任务将为重要特征提供额外证据,多任务信息有助于共享隐层学到更好的内部表示。

MTL的方法中引入了归纳偏置(inductive bias)。归纳偏置有两个效果,一个是互相促进,可以把多任务模型之间的关系看作是互相先验知识,也称归纳迁移(inductive transfer),有了对模型的先验假设,可以更好的提升模型的效果;另外一个效果是约束作用,借助多任务间的噪声平衡以及表征偏置来实现更好的泛化性能。MTL具有减少大数据样本依赖和提高模型泛化表现的优势,正在越来越多的领域作为一种提高神经网络学习能力的手段被广泛应用。

多任务学习不止用在游戏策略上。由于MTL具有减少大数据样本依赖和提高模型泛化表现的优势,MTL正被广泛应用到各类卷积神经网络的模型训练当中。在计算机视觉领域,MTL被应用于诸如目标识别、检测、分割等场景为主。在生物信息学和健康信息学中,MTL被应用于识别治疗靶点反应的特征作用机制,以及通过稀疏贝叶斯模型的自动相关性特征,来预测阿尔茨海默病的神经成像测量的认知结果。在语音处理上的应用,MTL可以提升语音合成的准确度。在网络Web应用程序中,MTL可以用于不同任务共享一个特征表示,学习web搜索中的排名提升。MTL正在越来越多的领域作为一种提高神经网络学习能力的手段被广泛应用。

本页网址:https://www.xinzhibang.net/article_detail-21313.html

寻求报道,请 点击这里 微信扫码咨询

相关工具

相关文章

相关快讯