腾讯首次披露行业大模型进展的原因是什么，腾讯首次披露行业大模型进展1

从人员构成来看，阿里巴巴大模型研发团队由阿里云智能CTO周敬仁领衔。他在大数据平台和人工智能领域拥有丰富的经验，在M6系列车型的研发中发挥了重要作用。一方面，通用大模型与行业场景相结合，在带来生产力和效率的大幅提升后，才能真正实现通用化。谷歌在人工智能领域持续投入，其提出的IeNet卷积神经网络模型、Transformer语言架构、BERT大语言模型等都对全球人工智能产业起到了重要的推动作用。

混元AI大模型助力腾讯广告系统升级，打造广告内容理解、广告智能创作、广告智能审核、广告指纹系统四个方面的解决方案，极大提升了系统的广告内容理解、行业特征挖掘、文案撰写能力。创意生成等方面的能力帮助广告主实现体量、成本、稳定性三大绩效指标，实现业务增长。

1、腾讯首次披露行业大模型进展

此外，阿里云于2022年11月推出Magic社区，提出MaaS（模型即服务），通过打造大型模型开源社区和生态共建，加速模型开发和迭代。在他看来，随着技术和计算能力的发展，大型模型的参数规模也在不断上升。腾讯更关心如何用更有效的方法、更低的成本来解决问题，而不是关注数亿、数十亿、数百亿、千亿以上。

自1956年约翰麦卡锡首次提出人工智能概念以来，全球人工智能产业逐渐进入学术研究和产业实践阶段。通过实验发现，当p设置为50%时，模型效果无损，注意力权重总时间复杂度降低50%，大模型预训练加速20%左右。从商业模式的角度来看，Google提供了基于时间的定价模型，提供训练、部署、推理等功能。训练的成本明显高于推理的成本。

为了打造多模态、全任务的大通用模型，达摩院采用统一的学习范式和模块化设计，使M6-OFA能够处理30多个跨模态任务，同时可以灵活地调用模块，实现高效率。和高性能。在媒体领域，腾讯与央视打造了大规模媒体模式解决方案，推动媒体内容生产和传播的智能化。 ERNIE 1.0在BERT模型的基础上，主要改进了掩蔽策略。

同时他也指出，大行业模型的核心是根据客户需求制定相关模型参数，而不是一味追求规模大或者参数高。第二季度，腾讯降本增效成效显着。收入增长11%的同时，成本仅增长3%，成本占收入的比重从去年同期的57%下降到53%，导致净利润大幅增长33%。

阿里巴巴训练M6和百度训练ERNIE 3.0时，都建立了TB级的大规模数据库。数据源包含了生态系统内的大量独特数据，并设计了完整的清洗方案来保证数据质量，有效提高模型训练效果和中文环境下的对话表现。