腾讯云发布MaaS一站式服务。为什么大模式要和行业深度融合?

日期:2023-06-25 18:07:36 / 人气:217

本站|崔鹏自今年年初生成式人工智能技术席卷科技界以来,国内多家公司纷纷推出相关产品。无论是舆论还是企业客户都在问腾讯,作为行业的头部公司,腾讯在大模型业务上有哪些进步?6月19日的发布会,就是腾讯给出的阶段性答案,即MaaS(Model-as-a-Service)一站式服务平台。与之前很多公司一直急于高调推出的一般大模式和C端(消费端)产品不同,腾讯对B端行业大模式的关注度更高。腾讯集团高级执行副总裁、腾讯云与智慧产业事业群CEO唐道生在发布会上判断,很多类似金融、文旅、传媒、政务、教育的产业场景,是实践和发挥大模型价值的最佳场景。目前市场上一些通用的大型模型产品,训练数据主要来自公开数据或网络收集,缺乏特定领域知识;同时需要大量的计算资源和较长的训练周期,对于企业来说成本高,耗时长。所以,选择合适的场景对于企业模式的落地非常重要。腾讯云副总裁、腾讯云智能负责人、优图实验室负责人武运生对界面新闻表示,腾讯云希望大模式能够与行业深度结合,解决各行各业客户的具体问题。腾讯表示,此次推出的MaaS服务,对于那些在传统行业解决方案中难以解决的问题,或者由于大模型相关技术的加入而解决成本高昂的问题,有了更好的解决方案。只有当各个行业的客户都采用腾讯的大模型服务时,他们才能解决实际问题,“我们会觉得大模型真的管用,”武运生说。武运生认为,产业模式和产业的结合还处于比较初级的阶段。一方面,大规模模型技术的发展日新月异,无论是计算能力、模型小型化、数据标注、数据训练还是开元模型,都处于日新月异的过程中;另一方面,整个行业对大模型的能力和应用模式的认识还处于初级阶段。一般来说,企业要构建大的行业模型,有几个环节是必不可少的:选择适合自身使用场景的模型,使用云厂商的专业工具构建集成模型服务,整理测试用例,建立服务质量评估流程,确保数据和模型应用安全、合规、可控。但企业要在实际业务场景中部署和使用大模型服务,会面临成本、数据、安全等诸多落地问题。第一,计算资源少。大型模型需要相对较高的计算和存储资源。相对于一般的服务器,GPU服务器的稳定性相对较低,大模型训练需要的GPU往往达到上千卡。同时,在训练集群中,连接数百台GPU服务器所需的网速极高,一旦网络拥塞,会影响训练效率。所以很多算法团队倾向于选择专业的云服务厂商进行云服务运维支持。其次,数据质量差。构建大型模型本身就是一项非常昂贵的系统工程,需要大量高质量的数据进行训练和优化,以及清理和预处理,消除噪声,填补缺失值,保证数据质量。如果导入的数据质量低,训练出来的模型也会有问题。第三,投入成本高,这也是大型号落地面临的主要困难之一。大规模模型需要投入大量的数据、计算资源、专业知识和时间来训练、调试、优化和部署。第四,专业经验不足。大规模模型的开发和落地需要更多的技术和人力资源,大规模模型的部署需要考虑计算资源、网络带宽、安全等诸多问题。很多企业缺乏相关技术和人才,导致大规模模型无法顺利应用。MaaS的重点是解决行业端需求。腾讯云在过去几年一直致力于为各行业的客户提供解决方案和工具箱。但是,大模式浪潮来了之后,腾讯也需要顺势而为。因此,腾讯选择了10个左右行业的部分现有客户,提供了50多个解决方案,尝试用大模型技术解决具体的行业问题。官方信息显示,MaaS大模型服务依托腾讯云TI平台打造行业大模型精选店,基于腾讯HCC高性能计算集群和大模型能力,为客户提供涵盖模型预训练、模型微调、智能应用开发的一站式大模型服务。腾讯云的一位技术专家告诉界面新闻,很多客户认为大的型号很贵。其实贵的不是大模型本身,而是它的推理能力。所以腾讯的做法是针对客户的问题,用最低的成本,最适合的模式和服务,让客户真正用上大的模式。武运生在采访中表示,基于腾讯云TI平台内置的行业模型,企业可以通过添加自己独有的场景数据,快速生成自己专属的模型,同时可以根据需要定制不同规格和参数的模型服务。在计算能力层面,今年4月,腾讯刚刚发布了专为大规模模型训练设计的新一代HCC高性能计算集群,采用腾讯云星海自研服务器,将计算能力性能提升了3倍。未来,腾讯云还将推出矢量数据库(腾讯云VectorDB),该数据库源自腾讯的矢量引擎(OLAMA),更适用于AI计算和检索。在平台层面,腾讯TI平台可以提供完整的大数据工具链,包括数据标注、训练、评估、测试、部署等全套工具;“太极天使”在传统CV和NLP算法模型的基础上,增加了大模型的训练和推理加速能力,比业界常见的方案性能提升30%以上。按照腾讯以往的习惯,对外销售的产品一般都是内部使用,并进行评测,大模服务也不例外。在近几个月大规模模型技术火热发展的过程中,腾讯一直在内部观察和实践相关技术。武运生表示,腾讯内部的产品,包括腾讯大会、腾讯企业客服/分析、腾讯AI代码助手等,都已经进行了大模型技术的升级。在当天的发布会上,腾讯大会还宣布即将推出覆盖大会全流程的AI助手。用户可以通过简单自然的会议指令完成信息提取、内容分析、会议管理控制等复杂任务,并自动生成摘要。此外,腾讯云还将推出新一代AI代码助手,支持多种编程语言和主流开发框架,涵盖通信、编码、调试、评审和优化,实现开发工作的全面加速。?

作者:三牛娱乐注册登录平台




现在致电 5243865 OR 查看更多联系方式 →

三牛注册登录平台 版权所有