蚂蚁技术研究院李建国:扩散语言模型或成LLM新方向,生成速度可达传统模型4倍以上

专题:2026北京智源大会

蚂蚁技术研究院李建国:扩散语言模型或成LLM新方向,生成速度可达传统模型4倍以上-第1张图片

  6月12日至13日 ,2026第八届北京智源大会在北京中关村国际创新中心举行 。蚂蚁技术研究院深度学习实验室负责人李建国出席并演讲。

  李建国表示,扩散模型或将成为语言模型下一阶段的重要发展方向和补充,其在生成速度和可编辑性方面展现出显著优势。

  他解释到 ,扩散模型在图像生成领域已是主流范式 ,应用非常广泛 。正向过程是通过对图像逐步添加噪声直至变为白噪声,反向过程是从白噪声中逐步去噪,恢复出原始图像 。

  而在语言领域 ,当前主流范式是“Next Token Prediction”。“就像打字机一样,我前面打出一个字,后面接着就依赖前面去产生下一个字。扩散语言模型则将图像领域的范式迁移到语言中 ,可以像印刷机一样批量 、成批地输出词元 。 ”

  李建国以今年2月发布的LLaDA 2.1模型(可编辑扩散生成)与蚂蚁百灵2.0模型(100B参数)对比为例。LLaDA的生成速度约为1000 token/秒,而百灵2.0约为200 token/秒,速度相差4倍以上。

  他指出 ,从核心特性看,有两个速度,一个是传统的AR模型 ,一次只输出一个token,即使采用投机采样方法(如MTP)也只能做到2-3个 。另外一个速度,就是扩散语言模型 ,起步平均能做到5-6个 ,在代码生成、智能体等场景中,实际观察可超过10个,最高可达15个。

  此外 ,扩散语言模型的另一个重要特性是可改写性。例如在生成过程中某个字出现错误,可以通过“悔改”机制只修改错误的那一个位置,而无需重新生成整个序列 。

  新浪声明:所有会议实录均为现场速记整理 ,未经演讲者审阅,新浪网登载此文出于传递更多信息之目的,并不意味着赞同其观点或证实其描述。

标签:

相关推荐

  • 【三只松鼠股市行情分析,三只松鼠股票报价】

    【三只松鼠股市行情分析,三只松鼠股票报价】

    ...离谱程度史上未有!私募万字讲稿警示股市高风险!〖壹〗、市场风险与机会并存,三季度行情或现分化估值差距达5倍,结构性泡沫隐现部分板块估值已处于历史高位,与低估值蓝筹股差距拉大至5倍,反映市场对成长赛道过度追捧。私募机构警示,若流动性收紧或业绩不及预期,高估值个股可能面临剧烈调整。休闲食品概念龙头股025年部分休闲食品概念龙头股有良品铺子(603719...

  • 【贵金属铑行情走势图,贵金属铑费用走势图】

    【贵金属铑行情走势图,贵金属铑费用走势图】

    世界上最贵金属多少钱一克锎:每克价值约2700万美元。锎是一种人工合成的化学元素,自1950年首次被制造以来,一直是世界上最昂贵的化学元素。由于其稀有性,近来美国的两家公司能够生产这种物质,其价值已达到每克2700万美元,是黄金价值的20倍。硬硅钙石:每克价值约30万美元。钯金999最贵时的费用:每克可超过一千元人民币。钯金是一种贵金属,其费用受到多种因...

  • 期货行情解读/期货行情解读最新

    期货行情解读/期货行情解读最新

    买期货涨跌怎么看判断期货涨跌可通过基本面、技术面、资金面分析及其他辅助方法综合判断。具体如下:基本面分析:看供需定方向基本面是决定期货费用中长期走势的核心。看期货K线图涨跌的方法主要有以下几点:根据K线颜色辨涨跌阳线(红色):代表股票费用上涨或期货市场上涨趋势。当收盘高于开盘时,形成阳线,意味着多头占据上风,费用可能继续沿原方向运行。阴线(绿色):代表...

    2026/07/01
  • 江西疫情最新情况(江西 疫情 最新)

    江西疫情最新情况(江西 疫情 最新)

    江西哪些地方有疫情〖壹〗、南昌市:5月5日实现全域动态清零。婺源县:5月7日实现全域动态清零。上饶市主城区、万年县:5月11日实现全域动态清零。宜春市主城区:5月13日实现全域动态清零。高安市:5月15日实现全域动态清零。近来,全省正常生产生活秩序正在全面有序恢复。〖贰〗、022年11月5日0-24时,江西省新增本土确诊病例1例(萍乡市1例,在安源区)。〖...

  • 5档行情期货软件(期货五档行情怎么看)

    5档行情期货软件(期货五档行情怎么看)

    通达信怎么开通期货五档行情要在通达信中开通期货五档行情,可以按照以下步骤操作:登录通达信软件:首先,确保你已经成功登录到通达信软件的主界面。进入系统设置:在主界面上,点击工具栏上的“工具”选项,然后在下拉菜单中选取“系统设置”。找到设置4并勾选相关选项:在系统设置的界面中,找到并点击“设置4”。要想开通通达信期货五档行情,首先需要登录通达信软件。登录后,您...

  • 【2101豆粕实时行情,豆粕2101期货行情】

    【2101豆粕实时行情,豆粕2101期货行情】

    10/23夜盘主要商品个人解析〖壹〗、0月23日夜盘主要商品个人解析如下:焦炭2101:行情呈现冲高回落的起伏走势,整体形态逐渐转为振荡回落的洗盘格局。日线与周线级别均显示下行压力,后续有望延续下挫趋势。操作建议:回踩2130-2145区间可尝试高空,目标看向2080,止损设为20。螺纹2101:空单布局已获验证,盘中冲高回落并收出上影阴线,符合空头趋势预...

  • 今天pta现货费用最新行情(pta今日行情)

    今天pta现货费用最新行情(pta今日行情)

    pta分析PTA分析指的是在北京大学在线评测系统上进行编程练习与评测的过程。以下是关于PTA分析的几个要点:平台性质:PTA是北京大学计算机科学与技术学院提供的在线评测与测验平台。它是编程学习的重要工具,适用于初学者和进阶者。评测机制:PTA具有严格的评测机制,能够对提交的代码进行全面而准确的评估。PTA(精对苯二甲酸)的基本面分析主要围绕其供需关系、原料...

  • 再生铜世界行情(2020年再生铜进口)

    再生铜世界行情(2020年再生铜进口)

    再生铜和再生铝哪个性价比更高〖壹〗、从当前主流应用场景和市场交易逻辑来看,再生铝的综合性价比整体高于再生铜。〖贰〗、因此,再生有色金属有望在全球经济和环保领域发挥更加重要的作用。再生有色金属对环保的影响减少自然资源开采:与原生有色金属相比,再生有色金属的生产能够大幅减少对自然资源的开采和消耗。〖叁〗、再生铜来源包括废旧电线电缆和废弃铜制品,回收后能加工成铜...

  • 【期货鸡蛋1601行情,鸡蛋期货2019】

    【期货鸡蛋1601行情,鸡蛋期货2019】

    玻璃期货1601是什么意思玻璃期货1601指的是一种期货合约,其中“16”代表年份,即2016年;“01”代表交割月份,即该期货合约将在该年份的第一个月进行交割。具体地说,玻璃期货1601代表的是以玻璃为标的物的期货合约,该合约在交割日期前可以在市场上进行买卖交易。玻璃期货历史合约最低价出现在2015年11月24日,主力合约FG1601盘中跌至800元/吨...

  • 世界期货行情实时/世界期货行情数据

    世界期货行情实时/世界期货行情数据

    世界期货实时行情在哪里看〖壹〗、主流财经网站与APP1)东方财富网/同花顺是国内知名财经平台,其期货频道涵盖世界主要品种如原油、黄金、大豆的实时行情,能在手机端APP查看。2)新浪财经/腾讯财经的期货栏目提供世界期货实时报价,部分品种还有市场解读与专家分析。〖贰〗、财经网站:如新浪财经、凤凰财经等财经网站上也可以查看美股指期货等外盘期货的实时行情。这些网站...

返回顶部