日前，中科院自动化所提出了全球首个图文音（视觉-文本-语音）三模态预训练模型（OPT-Omni-Perception pre-Trainer），同时具备跨模态理解与跨模态生成能力，取得了预训练模型突破性进展。
自GPT/Bert模型提出后，预训练模型迎来了爆发式发展。多模态预训练模型被广泛认为是从限定领域的弱人工智能迈向通用人工智能的路径探索，其具有在无监督情况下自动学习不同任务、并快速迁移到不同领域数据的强大能力。
近年来，互联网音视频数据呈高速增长，占比超过80%[1]，纯文本的预训练模型只涵盖了互联网数据中的较少部分，更丰富的语音、图像、视频等数据并未被充分利用与学习，且人类的信息获取、环境感知、知识学习与表达，都是通过多模态信息方式来执行的。OpenAI 联合创始人、首席科学家 Ilya Sutskever 在推特上发文表示，“人工智能的长期目标是构建多模态神经网络，即AI能够学习不同模态之间的概念，从而更好地理解世界”。为实现更加通用的人工智能模型，预训练模型必然由单模态往多模态方向发展，将文本、语音、图像、视频等多模态内容联合起来进行学习。自动化所瞄准这一方向，成功构建视觉-文本-语音三模态预训练模型。
目前，已有的多模态预训练模型通常仅考虑两个模态（如图像和文本，或者视频和文本），忽视了周围环境中普遍存在的语音信息，并且模型极少兼具理解与生成能力，难以在生成任务与理解类任务中同时取得良好表现。
针对这些问题，自动化所此次提出的视觉-文本-语音三模态预训练模型采用分别基于词条级别(Token-level)、模态级别(Modality-level)以及样本级别(Sample-level)的多层次、多任务子监督学习框架，更关注图-文-音三模态数据之间的关联特性以及跨模态转换问题，对更广泛、更多样的下游任务提供模型基础支撑。
该模型不仅可实现跨模态理解（比如图像识别、语音识别等任务），也能完成跨模态生成（比如从文本生成图像、从图像生成文本、语音生成图像等任务）。灵活的自监督学习框架可同时支持三种或任两种模态弱关联数据进行预训练，有效降低了多模态数据收集与清洗成本。
引入语音模态后的多模态预训练模型，可以突破性地直接实现三模态的统一表示，特别地首次实现了“以图生音”和“以音生图”，如下方视频所示：
以图生音示例
三模态预训练模型基本原理
自动化所首次提出的视觉-文本-语音三模态预训练模型，实现了三模态间相互转换和生成。其核心原理是视觉、文本、语音不同模态通过各自编码器映射到统一语义空间，然后通过多头自注意力机制（Multi-head Self-attention）学习模态之间的语义关联以及特征对齐，形成多模态统一知识表示，再利用编码后的多模态特征，然后通过多头自注意力机制进行通过解码器分别生成文本、图像和语音。这里三模态互相转化和相互生成示意如图1所示：
图1. 图文音三模态相互转换与生成
多层次多任务自监督预训练学习
此次提出的三模态预训练模型由单模态编码器、跨模态编码器和跨模态解码器构成。针对图文音三模态数据，研究团队提出三级预训练自监督学习方式：词条级别 (Token-level,Modality-level)，模态级（Modality-level masking）以及样本级别（Sample-level masking) 。具体包括：
（1）词条级别(Token-level)学习
a. 文本掩码建模(Masked Language Modeling)：随机掩盖一些文本单词，需要模型根据上下文预测被掩盖的单词是什么；
b. 视觉掩码建模(Masked Vision Modeling)：随机掩盖一些图像区域，让模型预测被掩盖的区域；
c. 语音掩码建模(Masked Audio Modeling)：随机掩盖一些语音词条(token)，模型需要预测被掩盖的词条(token)是什么。
（2）模态级别(Modality-level)学习
包括文本重构和图像重构两个任务，分别学习重构输入文本和图像。团队引入模态级别掩码(Modality-Level Masking)机制随机地掩盖一个模态信息，使得模型需要根据其他模态信息对当前模态进行重构，从而能够进行下游的跨模态生成任务。这个机制也带来另一个好处—它使我们的模型不仅能够处理三模态输入，也能处理两模态输入，从而适应下游的两模态任务。
（3）样本级别(Sample-level)学习
该预训练任务是通过对每个样本随机地替换三种模态信息中的一种或两种，让模型来预测替换哪些模态。
实验结果
研究团队主要采用Open Images数据集作为预训练数据，该数据包含图像、文本与音频数据。此外团队也额外地使用两模态数据，如Conceptual Caption图文数据集，Visual Genome图文数据集等。当加入额外的两模态数据时，这些两模态与三模态数据则被随机混合进行训练。
团队主要进行了以下两方面的实验验证：
（1）图文音三模态关联编码与相互生成性能
分别在多模态融合的图像分类、任意两模态的相互检索以及语音识别任务中，与常规全监督方法进行了性能比较，均取得了性能上的显著提升。其中在多模态融合的图像分类任务中，与常规全监督的Resnet101网络模型相比，性能提升5个百分点；加入语音模态信息能够明显提升以文搜图的性能，验证了联合建模视觉-文本-语音三模态信息的必要性。
（2）多模态下游任务性能
分别在跨模态检索、视觉问答与图像语义描述任务中，与当前最新的图文两模态预训练模型进行了性能比较，在补充了图文两模态数据参与预训练的模型上，取得了具有竞争力甚至更好的实验性能。
三模态预训练模型的提出将改变当前单一模型对应单一任务的人工智研发范式，三模态图文音的统一语义表达将大幅提升文本、语音、图像和视频等领域的基础任务性能，并在多模态内容的理解、搜索、推荐和问答，语音识别和合成，人机交互和无人驾驶等商业应用中具有潜力巨大的市场价值。“大数据+大模型+多模态”多任务统一学习将引领技术发展的潮流。
参考文献
1. 音视频占比4/5,高速增长.
http://www.199it.com/archives/467963.html
2. OPT: Omni-Perception Pre-Trainer for Cross-Modal Understanding and Generation. Jing Liu, Xinxin Zhu, Fei Liu, Longteng Guo, Zijia Zhao, Mingzhen Sun, Hanqing Lu, Weining Wang, Jiajun Zhang, Shiyu Zhou and Jinqiao Wang.
http://arxiv.org/abs/2107.00249
