迁移学习

来自testwiki
imported>Raymon0902025年1月23日 (四) 02:41的版本
(差异) ←上一版本 | 最后版本 (差异) | 下一版本→ (差异)
跳转到导航 跳转到搜索

Template:NoteTA Template:机器学习导航栏 迁移学习Template:Lang-en)是属于机器学习的一种研究领域。它专注于存储已有问题的解决模型,并将其利用在其他不同但相关问题上。[1] 比如说,用来辨识汽车的知识(或者是模型)也可以被用来提升识别卡车的能力。计算机领域的迁移学习和心理学常常提到的学习迁移在概念上有一定关系,但是两个领域在学术上的关系非常有限。

历史

最早被引用的关于迁移学习的工作被认为属于Template:Le。他在1993年制定了基于可辨识性的转移(DBT)算法。[2]

1997年,机器学习期刊发表了一期专门讨论迁移学习的期刊,[3]而到了1998年,该领域已经发展到包括多任务学习,[4]以及对其理论基础的更深入完善的分析。[5]1998年,由普拉特和塞巴斯蒂安·特龍编辑的《Learning to Learn》Template:Sfn便是对该主题的回顾。

迁移学习也被应用于认知科学,比如《Connection Science》杂志就于1996年出版了一版特殊期刊,描述了如何通过使用迁移学习重新利用已有神经网络。[6]

定义

迁移学习是由域和任务定义的。域𝒟特征空间𝒳边缘概率分布P(X)构成,其中X={x1,...,xn}𝒳。给定域𝒟={𝒳,P(X)},任务由标签空间𝒴和目标预测函数f:𝒳𝒴两部分组成,函数f预测x对应的标签f(x)。任务𝒯={𝒴,f(x)}是从含有样本对{xi,yi}的训练数据中学习得到的,其中xiX,yi𝒴[7]

给定原域𝒟S及其任务𝒯S,目标域𝒟T及其任务𝒯T(满足𝒟S𝒟T𝒯S𝒯T),迁移学习旨在通过利用𝒟S𝒯S的知识,帮助学习𝒟T域的目标预测函数fT()[7]

应用

迁移学习的算法基础可以源自马尔可夫逻辑网络[8]贝叶斯网络[9]迁移网络还被利用与发现癌症种类[10]、建筑物人员限额[11]、普适智能游戏玩家[12]、语句分类[13][14]以及筛选垃圾邮件(短信)。[15]

来源

参见

Template:Portal Template:Div col

Template:Div col end

引用

Template:Reflist

Template:机器學習

  1. Template:Cite web
  2. Template:Cite book
  3. Template:Cite web
  4. Caruana, R., "Multitask Learning", pp. 95-134 in Template:Harvnb
  5. Baxter, J., "Theoretical Models of Learning to Learn", pp. 71-95 Template:Harvnb
  6. Template:Cite web
  7. 7.0 7.1 Template:Cite journal Material was copied from this source, which is available under a Creative Commons Attribution 4.0 International License.
  8. Template:Citation
  9. Template:Cite journal
  10. Hajiramezanali, E. & Dadaneh, S. Z. & Karbalayghareh, A. & Zhou, Z. & Qian, X. Bayesian multi-domain learning for cancer subtype discovery from next-generation sequencing count data. 32nd Conference on Neural Information Processing Systems (NIPS 2018), Montréal, Canada. -{R|https://arxiv.org/pdf/1810.09433.pdf}- Template:Wayback
  11. Template:Cite journal
  12. Banerjee, Bikramjit, and Peter Stone. "General Game Learning Using Knowledge Transfer Template:Wayback." IJCAI. 2007.
  13. Template:Cite conference
  14. Template:Cite conference
  15. Template:Cite conference