OpenAI o1对国内大模型有何影响?姜大昕、杨植麟和朱军这样看

来源: 莎莎无缘最快大满贯

责任编辑: 段玟

发布时间: 2024-09-20 09:54:27

0

0

图片来源:界面图库

界面新闻记者 | 伍洋宇

界面新闻编辑 | 宋佳楠

当GPT-5屡次跳票引发质疑声后,OpenAI用o1及时托住了行业对大模型以及AGI(通用人工智能)的信心。

相较于更单维度注重参数堆积、不断推进Scaling Law的GPT系列大模型,o1改变了技术策略,加入了强化学习,以思维链等方式大幅提升了模型的推理能力,并且一定程度上缓解了该领域对于“数据墙”的焦虑。

面对OpenAI的这一动作,外界普遍好奇的是,它是否会影响中国大模型领域的技术发展走向??

9月19日,在2024云栖大会上,阶跃星辰创始人兼CEO姜大昕、月之暗面Kimi创始人杨植麟,以及生数科技首席科学家朱军,以“通往AGI的大模型发展之路”为主题进行了一场圆桌对话。?

姜大昕表示,AI发展正在经历关键的技术范式迭代。OpenAI的大模型o1探索出了通过强化学习让AI具备人类慢思考(可主动反思、纠错的复杂思考)能力的方式,接下来提升强化学习模型的泛化能力和加速推进多模态理解生成一体化是AI技术进一步突破的关键。

在他看来,o1是大模型首次同时具备人类大脑System 1(即快思考,直接给出答案)和System 2 (即慢思考)的能力,这是大模型开始具备归纳世界能力的关键一步。

除此以外,对于业界热议的AGI进程变缓的观点,姜大昕判断过去18个月以来,AGI的发展并没有减速,反而是在加速。“我们把AGI的实现路径划分为模拟世界、探索世界和归纳世界三个可并行的发展阶段,过去一年这三点都出现了突破性的技术进展,发展速度可以说是AI一日,人间一年。”

按照他的观点,除了o1在归纳世界上的进展,GPT-4o标志着多模融合的进步,是更好地对物理世界建模、彻底实现模拟世界的基础。而在探索世界上,特斯拉发布的完全自动驾驶系统FSD V12,为具身智能设备如何与大模型结合,从数字世界走向探索物理世界指明了技术方向。?

杨植麟则从纵向的智商提升和横向的模态拓展给出了自己的看法,同样认为AI整体处于加速发展的状态。他指出,o1的主要意义在于提升了AI的上限。在这一点上,Scaling Law是过去唯一有效的准则,但在数据挖掘遭遇瓶颈时,以Scaling Law为代表的原有范式已经遇到问题,而强化学习和大语言模型的结合,很大程度上解决了下一步Scaling Up的问题,“至少证明了它初步可行”。

杨植麟认为,这也会对产业格局以及创业公司产生影响。其中一个关键点是,此后训练算力和推理算力的比例会发生变化,这个变化的本质可能给创业公司带来新机会。一方面,如果存在算力门槛,创业公司可以进行算法的基础创新,以取得基础模型上的突破;另一方面,算力相对小的公司可以通过后训练的方式在部分领域达成某种效果,这里将会产生更多产品和技术机会。?

o1带给大模型的新思考是,当强化学习加入大模型成为新的技术范式,如何从细分领域逐步实现它的泛化能力?

朱军认为,o1的技术实现路径并没有披露这一点,但从科研的角度可以看到,这当中过程监督的数据变得十分重要。它和直接从结果监督的数据不一样,是要对思考过程的每一步进行标注,这种数据由于需要专业人士投入因而具备一定获取难度和高价值。?

另外,具体的技术实现上也存在一定困难。在此之前,走强化学习路线的DeepMind就有类似的泛化问题,例如从AlphaGo到AlphaFold再到AlphaGeometry,都是针对特定场景进行设计。

朱军强调,这背后的本质逻辑是,在强化学习中,面对更泛化和更开放的场景,Reward Model(奖励模型,用于评估智能体的行为表现,并指导其学习过程)变得难以定义,这也是o1背后的技术新范式在泛化过程中要解决的核心问题之一。

不过,通过结合已经比较强大的基座,这套新范式相比上一代AlphaGo迁移到其他领域里会更快,在更好的开放领域模拟器等技术加持下,他相信新范式的泛化进程会比之前更容易取得效果和提升。

只是这条新范式泛化之路的不确定性,及其对应的可探索空间和可能性,究竟对创业公司而言是好事还是坏事?

杨植麟直言,这是一个很好的机会,它等同于一个新的技术维度和技术变量。这个过程之中,除了如何泛化,还有很多基础的技术问题尚待解决,例如训练和推理两个层面要同时Scaling up,这当中还有诸多细节没有探索清楚,包括过程监督、幻觉对模型效果的影响等等。这背后存在的技术创新将形成一些突破机会。

姜大昕同样认为新范式的技术创新将带来新机会,但算力将是一个挑战,因为当创业公司追求一个通用性能够泛化的推理模型时,算力的需求一定是巨大的。

如果我们所要追求的目标就是AGI的话,你付出再多也还是要坚持下去。”姜大昕说。

新闻热榜

1

多米尼加总统阿比纳德尔宣誓就职

2

“无废城市”是什么?怎么建?这场论坛上都有了解读

3

一航班一专班深圳机场做好航延服务

4

涉嫌严重违纪违法,苌道卿接受审查调查

5

女子输液被收座位费

6

一觉醒来,世界发生了什么?2024.8.17

7

美智库预测:中国2025年开始解决台湾问题,解放军分三步收复台湾

8

中老缅泰外长举行非正式会晤

9

黑龙江省牡丹江市政府原副市长齐忠彦被“双开”:对下属公司新增政府隐性债务负有主要领导责任

10

“主动作为,用小草莓带动乡亲增收致富”(干部状态新观察·选调生在基层)

11

《人民司法》2024年第19期目录

12

英国各大城市骚乱升级,唐宁街紧急应对方案曝光

13

伊朗和黎巴嫩真主党对以色列的报复行动可能以暗杀以色列高级官员的形式出现,而不是发

14

欧洲疾控中心:欧洲地区猴痘新毒株感染输入病例或增多

15

京东物流南阳分拣中心开仓仪式在宛城区举行副市长周华锋出席并讲话

16

台湾花莲县发生4.0级地震,震源深度18千米

17

市委审计委员会召开会议加强审计监督深化改革创新切实保障经济社会高质量发展韦韬主持并讲话张新伟出席

18

茅台红缨子高粱种植面积累计推广超3000万亩

19

创新生态文明宣传“新载体”,环保科普“零距离”

20

司法涉案活体野生动物如何移交救护?最高检等六部委联合印发《纪要》

21

中国女子曲棍球银牌

22

张本智和撤回口误

23

印尼总统佐科发表任内最后一份国情咨文

24

中建二局山东分公司青岛第二联合党支部开展“零距离“庭审拒腐防变教育活动

25

美国7月营建许可总数139.6万户:低于预期142.9万户

26

美国加州发现3.6米长罕见深海鱼尸体,或与地震等自然灾害有关

27

农家肥与化肥对作物生长的差异,深入解析其影响维度

28

广州荔湾沙面街道:以“四大工程”助力沙面历史文化街区保护和提升

29

掀起学法热潮!湖北应急普法活动进企业

30

【预告】在线培训会|学习贯彻党的二十届三中全会精神——坚持党对进一步全面深化改革的领导

31

王楚钦被裁判问比分

32

以为宋小宝去举重了

33

全市动力装备产业链“链长”专题会议召开

34

男孩代替女孩做鉴定

35

国台办:台方应严惩“2·14”恶性撞船事件责任人

36

果然没让大陆失望!蔡英文这回立大功了,赖清德最害怕的事发生

37

2024年上半年青岛市纪检监察机关监督检查、审查调查情况

38

以色列外长:若伊朗发动袭击希望英法支持以回击

39

中东火环六国围以殊死一战!"

40

“锡”引力丨在碧水蓝天中亮出生态答卷,无锡开启生态文明新篇章

20

多米尼加总统阿比纳德尔宣誓就职

20

国台办回应台公布恶性撞船事件“调查结论”:罔顾事实,刻意推卸责任

20

【甲秀评】“数”治乡村大有可为

20

走丢女孩ATM机求救

20

惊险一幕!美国犹他州连续遭遇雷暴天气,居民拍下洪水冲破窗户涌入地下室瞬间

20

美国共和党副总统候选人万斯所乘飞机出现紧急情况迫降

20

曹全民被查,曾任唐山市副市长

20

秦皇岛山海关区人民法院开展全国生态日普法宣传活动

20

武汉努力破解基层治理难题,打通服务群众“最后一百米”

热门攻略

1

阿黛尔演唱会看奥运

2

以外长声称:“希望与英法共同打击伊朗”

3

一觉醒来,世界发生了什么?2024.8.17

4

开放办学打造“职教出海”新风景

5

婚姻登记取消户口簿是否会导致重婚、骗婚?民政部回应

6

烟台首个窗口体验式党员集中培训现场教学点落地市行政审批服务局

7

普京化身曲棍球运动员,不料下一秒直接摔倒,盘点体育的搞笑瞬间

8

郑钦文年入720万

9

张作林主持召开市政协二届四次会议重点提案办理工作座谈会

10

瑞幸咖啡股价涨20倍

11

金融监管总局首批两会建议提案回复亮相!

12

2024年世界青年发展论坛绿色发展主题论坛举行

13

64万吨锑化镓出口管制,美日韩半导体业巨震

14

特朗普支持率被反超

15

福建省人民政府领导成员最新分工公布

16

#俄罗斯利器#S500

17

三峡大坝:守护与生态并重的超级工程

18

18岁上岸省监狱系统

19

全红婵陈芋汐晋级

20

民政部有关司局负责人解读《婚姻登记条例(修订草案征求意见稿)》

20

乌克兰愤怒反驳美方指控:这个锅我们不会背!

20

中柬运河项目刚开建,越南一把手计划访华,中方的用意苏林读懂了

20

他信女儿提名候选人

20

英国水葬你听说过没?为了环保,他们竟然发明了用水将尸体融化的技术,最后直接冲进下

20

王楚钦给肖战戴金牌

20

婚政或缓解天价彩礼

20

商务部:将进一步放宽外国投资者战略投资上市公司的限制

20

全市科协系统学习贯彻党的二十届三中全会精神市区科协党组书记(主席)座谈会召开

20

美国加州现罕见深海鱼尸体专家猜测或与地震有关

20

巩立姣告别巴黎奥运

20

张博恒被送错场馆

20

浙江宁波江北区全面提升基层药品监管水平

20

曹全民被查,曾任唐山市副市长

20

倪夏莲晒自家花园

20

世界卫生组织:苏丹霍乱疫情已致316人死亡

20

提升排污能力丰台河西两万余居民和120余家商户告别排污难

20

以权谋私,大搞权钱交易!韶关市曲江区委原常委、宣传部原部长张秀兰被“双开”

20

奥运戒断反应开始了

20

深圳17条举措促进内外贸一体化发展培育一批有发展潜力的本土消费品牌

20

日本男乒无缘决赛

20

美媒警告:与中国开战不仅不可接受,而且是全球性自杀

20

全市科协系统学习贯彻党的二十届三中全会精神市区科协党组书记(主席)座谈会召开

20

华人女子遭黑人歧视,当街被一拳爆头,在国内时的豪横呢?

20

2件事,美国盟友没好下场!以色列警告美媒:不要道听途说

20

赣台两地加强职业教育交流合作共促两岸融合发展

20

看来!俄罗斯处境真的很危险了,卢卡申科都开始转头了,这已经说明了有些问题。

20

张雨霏霸气维护教练

20

改革开放是提振我国文化自信的内在因子丨理响广东

热门游戏

  • 1
    关于特别军事行动新决定!普京参与讨论

    射击枪战 /热度:33851

    点击下载

    源来好创业丨山东和泰创新医养结合,开启健康养老新时代

  • 2
    他拿着崭新的出生证崩溃大哭,几度昏厥!

    射击枪战 /热度:53966

    点击下载

    “济青快线”让双城更加“亲密无间”

  • 3
    省委常委会召开会议徐麟主持并讲话李炳军赵永清时光辉等参加

    射击枪战 /热度:56278

    点击下载

    国乒女团冲4强直播

  • 4
    崩坏3 支持率只剩下6%!柯文哲推翻两党政治的挑战已结束!

    射击枪战 /热度:16606

    点击下载

    德国情报局前局长:波兰有可能参与“北溪”管道爆炸事件

  • 5
    原神 区十三届人大常委会举行第二十六次会议

    射击枪战 /热度:90068

    点击下载

    2016年摩萨德在别人眼皮子底下偷走了1.2万份核材料!

  • 6
    出发吧麦芬 乌军控制28个定居点,普京:把敌人赶出领土

    射击枪战 /热度:93344

    点击下载

    新闻速递2024.8.17

  • 7
    永劫无间手游 财联社8月17日电,据美国国家飓风中心,百慕大地区将出现强风、危险的风暴潮以及威胁生命的洪水飓风厄尔尼诺(Ernesto)目前位于百慕大以南南西约150公里处,最大持续风速为155公里每小时

    射击枪战 /热度:90448

    点击下载

    执法中队原负责人截留保安工资、收受贿赂被处分,郑州5人被通报

  • 8
    向僵尸开炮 孙杨回应美国游泳运动员脸紫

    射击枪战 /热度:66941

    点击下载

    市场监管总局:正在制定国家标准规范公平竞争管理

  • 9
    鸣潮 中国管制锑出口美西方强烈反应暴露了什么?

    射击枪战 /热度:31526

    点击下载

    突发消息:法国南部航展上一架飞机坠海。据报道,法国巡逻兵飞行表演队的一架

  • 10
    艾塔纪元 陈梦早期的短发照片

    射击枪战 /热度:37630

    点击下载

    俄乌冲突俄乌冲突#国际新闻

关于我们 | 联系我们 | 加入我们 | 网站地图 | 自助投稿 | 在线举报 | 玩家心声 | 最新咨询 | 游戏下载中心 | 游戏快讯 | 游戏文化论坛 |