Facebook研究人员推出新AI模型可从网上任何未标记图像的中学习

来源：雷锋网　2021-03-05 09:05:56

3月5日消息Facebook 的研究人员推出了一种新的 AI 模型，该模型可以从网上任何未标记图像的中学习，这是一项突破，尽管该团队的研究仍处于早期阶段，但他们希望给计算机视觉领域带来一次 “革命”。

该模型被称为 SEER(SElf-SupERvised)，被馈入了10 亿张公开可用的 Instagram 图像，这些图像未经过手动标记。但是，即使没有通常在 AI 算法训练中使用的标签和注释，SEER 仍能够自主地训练数据集，不断进行学习，并最终在诸如对象检测之类的任务上达到最高的准确性。

这种被称为自监督学习(self-supervised learning)的方法在 AI 领域已经很成熟：它由可以直接从给定信息中学习的系统组成，而不必依赖经过仔细标记的数据集来教他们如何执行诸如识别照片中的对象或翻译文本之类的任务。

自监督式学习近来引起了很多关注，因为这意味着需要手工标记数据的工作要少很得，这对大多数研究人员而言是费时费力的工作。无需管理数据集的同时，自监督模型可以处理更大，更多样化的数据集。

在某些领域，特别是自然语言处理中，该方法已经取得了突破。在数量越来越多的未标记文本上训练算法已使诸如问答、机器翻译、自然语言推理等应用程序取得了进展。

相反，计算机视觉尚未完全进入自监督的学习革命。正如 Facebook AI Research 的软件工程师 Priya Gopal 解释的那样，SEER 是该领域的首创。她告诉 ZDNet：“与现有的在 ImageNet 数据集上训练的计算机视觉的自监督模型相比，SEER 是第一个可以随机训练互联网上图像上的完全自监督的计算机视觉模型。”

ImageNet 是一个大规模数据库，包含研究人员标记的数百万张图片，并向较大的计算机视觉社区开放，以促进 AI 的发展。

该项目的数据库被 Facebook 的研究人员用作评估 SEER 性能的基准，他们发现自监督模型在诸如低空拍摄、物体检测、分割和图像分类等任务上优于最新的监督 AI 系统。

Goyal 说：“通过仅对随机图像进行训练，SEER 优于现有的自监督模型。这一结果表明，我们不需要像 ImageNet 这样的高度精选的数据集，对随机图像的自监督学习就可以产生非常高质量的模型。”

随着自监督学习复杂度的提高，研究人员的工作并非没有挑战。在文本方面，AI 模型的任务是为单词赋予含义。但是对于图像，该算法必须决定每个像素如何与一个概念相对应，同时考虑到其在不同图片中拍摄角度、视图和形状的差别。

换句话说，研究人员需要大量数据，并且需要一个能够从这种复杂的信息池中推导出所有可能的视觉概念。

为了完成此任务，Goyal 和她的团队从 Facebook AI 在自监督学习中的现有工作中改编了一种新算法，称为 SwAV，该算法将显示相似的图像聚集到单独的组中。科学家还设计了卷积网络，也就是一种深度学习算法，算法对人脑中神经元的连接模式进行建模，根据重要性分配给图像中的不同对象。

至少可以说，借助 Instagram 的 10 亿张图片的数据集，该系统的规模很大。Facebook 的团队使用了具有 32GB RAM 的V100 Nvidia GPU，并且随着模型尺寸的增加，必须将模型放入可用的 RAM 中。但是 Goyal 解释说，进一步的研究将对确保计算功能适应新系统很有用。

“随着我们在越来越多的 GPU 上训练模型，这些 GPU 之间的通信需要快速进行。可以通过开发软件来解决给定的内存和运行时间带来的挑战 .”她说。

尽管仍有许多工作要做，但是，在可以将 SEER 应用于现实世界的用例之前，Goyal 认为不应低估该技术的影响。她说：“借助 SEER，我们现在可以通过大量随机的互联网上的图像训练大型模型，在计算机视觉方面取得更大的进步。”

“这一突破可以实现计算机视觉的自监督学习革命，类似于我们在自然语言处理文本中所看到的。”

在 Facebook 内部，SEER 可用于各种计算机视觉任务，从自动生成图像描述到帮助识别违反政策的内容。在公司外部，该技术还可用于图像和元数据有限的领域，例如医学成像。

Facebook 的团队呼吁开展更多工作，以将 SEER 推进到其下一阶段的开发。作为研究的一部分，该团队开发了一种基于 PyTorch 的全能库，用于自监督学习，称为 VISSL，该库是开源的，鼓励更多的 AI 社区成员对该技术进行测试。

推荐DIY文章