文章图片




文章图片


一年一度的百度Create AI开发者大会（以下简称Create大会）总是受人瞩目 。 去年百度第一次把Create大会放进元宇宙里 ， 今年这场面向全球开发者、科技爱好者的技术盛会 ， 主题从“人机共生”进展到了“人机共创” 。
百度创始人、董事长兼CEO李彦宏的观点并没未改变 ， 他相信随着技术应用门槛不断降低 ， 创造者们将迎来属于人工智能的黄金10年 。 而持续人工智能全栈布局多年的百度 ， 正在形成一个多元的开发者生态 。
AICG瞩目 大会开场 ， 李彦宏展示了一幅以“危机”和“希望”两个关键词形成的AI画作 ， AICG深入应用到了此次大会的每一个环节 ， 包括大会歌曲、场景、演讲脑图等创作过程 。
“‘人机共创’背后 ， 是能力超群的天才创造者——百度文心大模型” ， 百度技术委员会主席吴华在大会演讲中表示 。
如果把文心大模型理解成一位街头的肖像画家 ， 它首先得是一个有着丰富阅历的观察者 ， 可以快速的理解对方的构想并且形成一个蓝本；然后它也要是一个技艺扎实的画手 ， 能够很好的实现这个蓝本 。
这个“观察者”就是文心ERNIE 3.0 Zeus ， 而“画手”是文心ERNIE-ViLG 2.0 。
百度研发的知识增强型预训练模型ERNIE 3.0在2021年问世 ， 此次的Zeus版本则是ERNIE 3.0 系列模型的最新升级 。
ERNIE 3.0 Zeus的理解能力来自于足够丰富的无标注数据 ， 其参数规模已经超过百亿 。 从ERNIE 3.0开始 ， 模型中开始引入大规模知识图谱 ， 这也是业界首次出现百亿级以上的预训练模型实现与知识图谱的融合 。 后者的引入也进一步提升了文心ERNIE 3.0 Zeus对于世界知识和语言知识的学习能力和效率 。
通过持续的从百余种通用知识与专业知识并行的任务中学习 ， 也显著提升了模型的泛化能力 ， 使得ERNIE 3.0 Zeus能够实现多种语言理解 ， 并且生成任务 。
ERNIE的数据题材则来自百科、小说、新闻甚至戏剧和诗歌 。 而为了进一步学习特定任务的相关知识 ， ERNIE 3.0 Zeus提出了层次化提示（Prompt）学习技术 。 即在训练过程引入了层次化的 Soft Prompt 建模了不同任务之间的共性与特性 ， 进一步提升了模型对于不同下游任务的建模能力 。
这意味着阅读理解、自由问答甚至写文章的事都可以交给文心ERNIE 3.0 Zeus来完成 。
比如今年高考作文“本手、妙手和俗手”引发热议 ， 百度数字人度晓晓所“写”的文章背后就是ERNIE的能力体现 。
“很多电视剧剧本都是由一位总编剧制定总纲 ， 再交给好几位编剧去写每一集的故事 。 所以如果你能编制一部电视剧的总纲 ， 你就可以把每一集的要求交给ERNIE 3.0 Zeus大模型 。 你再经过合并整理 ， 就可以成为天才大编剧了！”吴华在这次Create大会上表示 。
而创作也不会只停留在文字层面 ， 构想变成一幅画 ， 剧本变成一场戏 ， 都需要文心ERNIE-ViLG 2.0——百度另一个知识增强跨模态的大模型 。
全球范围内 ， AIGC作为一种崭新的内容生产方式忽然而至 ， 在底层是基于扩散生成算法的DALL-E 2和Stable Diffusion的一些模型成熟 。 这类基础模型在国内尚处空白 ， 文心ERNIE-ViLG 2.0是国内首个在AI作画方向取得突破的项目 。
生成图像的语义一致性和可控性仍然是目前AI作画产品所面临的一般问题 ， 为此文心ERNIE-ViLG 2.0中 ， 知识增强算法被融入扩散模型 ， 在扩散模型学习过程中 ， 引入语言、视觉等多源知识指引模型更加关注文本和图像中的核心语义元素 ， 实现精准的细粒度语义控制 。
同时由于扩散模型在生成过程的各个阶段对模型的要求不一样 ， 比如初始阶段模型需要生成图像轮廓 ， 结尾阶段变为对图像细节建模 ， 因此百度在文心ERNIE-ViLG 2.0引入了混合降噪专家网络 ， 在不同阶段选择不同网络来进行建模 ， 以减少降噪任务的互相干扰 ， 提升图像生成的质量 。
而在视觉内容生成方面 ， 百度在文生图的扩散模型基础上加入时序建模 ， 这意味着此模型能根据文本或者图像生成新的视频 。
文心ERNIE-ViLG 2.0在权威公开数据集MS-COCO上的测试也刷新 SOTA 效果 ， 性能超过了包括DALL-E 2、Imagen、Parti等模型 。
除了ERNIE 3.0 Zeus和ERNIE-ViLG 2.0 ， 百度文心大模型中仍有第三位天才创造者——VIMER-TCIR多任务大模型 ， 一个基于大模型技术构建的涵盖视觉内容生成与编辑的全套技术方案 。