APUS李涛:自我对弈强化学习成大模型进化趋势

APUS李涛:自我对弈强化学习成大模型进化趋势
2024年09月14日 17:56 爱问健康120 微博

  9月12日-16日,2024年中国国际服务贸易交易会(以下简称“服贸会”)在北京盛大举行。作为服贸会专题论坛之一,“2024中国AIGC创新发展论坛”以“AIGC与新质生产力:共塑产业创新未来”为主题,邀请国内外众多专家学者和企业代表齐聚一堂,共同围绕AIGC时代下未来产业的发展与机遇等相关话题展开深入探讨。

  全球化人工智能企业麒麟合盛网络技术股份有限公司(简称:APUS)董事长兼CEO李涛受邀出席论坛并发表《APUS AI 与全球化应用》主题演讲,分享了其对于大模型进化趋势及AI产业应用等方面的洞察与看法。同时,APUS凭借先进的人工智能技术及丰富的产业应用,荣获大会“2024年度中国AI大模型先锋企业”称号。

  自我对弈的强化学习引领下一代大模型进化

  AI时代,大语言模型(Large Language Model,LLM)蔚然成风。早在2020年,OpenAI曾提出一个定律:Scaling Law,其指的是大模型的最终性能取决于计算量、模型参数量和训练数据量三者的大小。此后,OpenAI一路高歌猛进,Scaling Law也被业界一众企业奉为圭臬。

  直至9月13日,伴随OpenAI下一代大模型o1的推出,Scaling Law的铁律被彻底打破。OpenAI o1在逻辑和推理能力上全面碾压GPT-4o,在科学、编码、数学等领域表现十分出色,特别是在测试化学、物理和生物学专业知识的基准GPQA - diamond上,已超越人类博士专家水平。

  李涛指出,在大模型发展的早期阶段,以海量数据规模和模型参数规模的“大力出奇迹”发展模式,推动了行业的飞速崛起。而伴随着AI技术的不断发展,传统大模型的Scaling Law边际效应正在逐步衰减,具体表现为现有知识量级不足,模型能力提升遭遇瓶颈,且大模型学习到的是“相关性”而非“因果性”。

  “随着OpenAI o1的推出,下一代大模型已初见端倪。未来,大模型的演进将不依赖于人类提供的知识,而是采用Self-play RL的新范式,让AI像孩子学下棋一样通过自我对弈来学习,从相关性学习转向因果性学习。大模型在行业应用层将变得更加聪明。”李涛指出。

  针对我国人工智能产业发展,李涛认为,一方面要完善自主技术创新,保持在算法上的领先性;同时应突破算力陷阱,聚焦大模型应用与生态建设,让大模型真正融入产业,成为赋能新质生产力的新动能。

  打造人工智能应用生态,赋能千行百业

  作为一家以技术研发为核心竞争力的全球化人工智能企业,APUS的发展可以分为两个阶段:2022年之前,APUS聚焦互联网应用出海,先后推出了覆盖工具、内容到服务的超200多款应用产品,支持25种语言,惠及全球24亿用户;2022年底,基于自身全球化发展过程中累积的技术、数据及产品化等优势,全面转型人工智能行业。2023年4月,APUS在业界率先推出千亿参数通用多模态大模型。截止目前,APUS通用大模型已完成4.0版本的迭代,并于今年二季度先后通过北京、河南通用大模型备案。

  李涛介绍,面向C端市场,APUS基于自研通用大模型,已完对原有200多款应用产品的AI升级,并先后推出如智能问答大师、简笔成画、墨染、萤火小说等多款AI产品,涵盖了从图像处理到个性化服务等多个方面;针对B端市场,基于APUS通用大模型精心剪枝升级而来的垂直大模型,也已成功应用于医疗、中医药、电商、农业、教育和网信等11个垂直领域,在赋能千行百业数智化升级的浪潮中,展现巨大潜力与价值。

  聚焦三大技术+四大市场方向,打造技术与应用实践标杆

  伴随着“百模大战”的持续深入,当前,大模型的竞争已经卷入到以应用为王的下半场。

  李涛指出,围绕多模态、端侧AI、算力优化三大技术方向,APUS正在将大模型的能力重构C端应用,并注入到以AI医疗、AIPC、主权AI等关乎国计民生和社会刚需的重点市场方向。以医疗、中医药方向为例,APUS依托自主研发的2100亿参数规模通用大模型,经过精细化剪枝优化推出了30B“岐黄”、“智草”两款垂直大模型。通过大模型创新解决方案,不断推进医疗行业的数字化转型,改善用户的医疗体验。

  其中,APUS岐黄大模型基于6000亿高质量医学知识数据进行增量预训练,通过多场景监督微调以及强化学习自我提升,旨在提供更加精准、高效的医疗辅助决策支持。自2024年5月上线以来,在短短的3个月内,该模型已为超30万患者提供了精准的健康咨询服务、个性化治疗推荐、智能分诊等服务,有效缓解了医疗资源紧张状况,大幅度提高了就诊效率。APUS智草(中医药)大模型则覆盖超2000亿中医典籍、理论书籍和病例数据,经过1400小时训练而成,经验能力与中医老专家紧密对齐,涵盖中草药信息、病症案例、传统疗法等丰富功能。在执业医师考试中,智草大模型的准确率高达80.3%,并经多名中医大师评定一致给出好评。

  “面向医疗AI领域,APUS致力于打造‘2+5+N’的AI医疗样板间。即以岐黄和智草两大垂直模型为双轮驱动,面向医院、药企、专病、中医和用户健康五大核心场景,不断拓展智能诊疗、辅助诊疗、新药研发、临床试验、远程分诊、健康评测、报告解读等可拓展的生态,为推动医疗行业的数智化水平贡献AI力量。”李涛表示。

  此外,在端侧AI方向,李涛表示,APUS重点围绕AI PC领域加速构建APUS端侧智能体平台,打造个人数字助理、数据分析、知识库精准检索等端侧应用。针对主权AI的话题,李涛认为,未来每一个大的政治、经济、文化主体都应该有自己的人工智能通用大模型底座。据介绍,目前APUS已与南非、加纳、乌干达等国家就专属模型训练、垂直模型部署及运营、AI专业培训、搭建算力平台、大规模安全合规等方向达成合作意向。

  未来,APUS将为大模型产业打造出一个个优秀应用标杆,通过底层技术、应用落地和AI出海三方面的领先,让AI创新应用成为赋能千行百业,推动新质生产力跃升的全新动能。

新闻排行榜

健康美图

名医有话说

大医精诚

特别推荐

品牌策划

高清视频

热门微博