锐评国模与 Neo Lab,畅谈 RL 人生与 RLaaS | 对谈 Mind Lab 首席科学家骁腾

42章经 · 商业与创投

这期播客的嘉宾骁腾,先后参与创办的两家公司都颇具争议:24 年,他和谢扬一起创办了 Fellou 浏览器;25 年 10 月,又和陈锴杰、Andrew 一起创办了 MindLab(团队更为人熟知的产品是 Macaron)。

一上来,我们就从他为什么会选择这两次创业聊起,随后也探讨了不少颇为尖锐的话题,比如国模到底哪家强,各家又有什么问题?到底该怎么定义 Neo Lab?从 Macaron 到 Neo Lab,再到 RLaaS,MindLab 这一路的转型背后有哪些思考,现在又做得怎么样?

坦白说,这期对我们来说,是一个打破不少固有认知的过程。骁腾的回答都很实在,也很 solid,而且他可能是我们最近聊过的最「快乐」的 Researcher 哈哈。听他聊下来,我们不仅对 MindLab 在做的事有了更全面的了解,也对 RL、模型发展和 RLaaS 的实际运作有了新的理解。节目中,他还分享了很多从 RL 研究中获得的生活哲学。在他看来,创业可能才是最符合 RL loop 的事情。

【人类博物馆】

导游:曲凯,42章经创始人

55 号珍藏:马骁腾(Pony),Mind Lab 联合创始人、首席科学家,清华大学自动化系博士、博士后,长期从事强化学习与模型后训练研究,关注 AI 如何从真实交互中持续学习

【时光机】

Part 1 一个 RL Researcher 的人生选择

  • 00:54 从 Fellou 到 Mind Lab,待过的公司都颇具争议,是种什么体验?

  • 03:02 为什么首选不是去 AI Lab?

  • 03:46 做 RL 学到的三件事

  • 04:28 「我一直都是一个 90 分主义者」

  • 08:32 创业是最符合 RL Loop 的事?

  • 10:06 没在模型厂待过,凭什么能训好模型?

  • 13:24 在叉院的时候一度非常绝望,觉得 research 做不过别人

  • 16:20 国内 RL 的困境可能是「立山头」现象比较多?

Part 2 模型的发展与 Neo Lab 的叙事

  • 18:10 对国模的态度:短期悲观,长期乐观

    • 20:18 Anthropic 的一个让人担忧的做法

  • 22:21 大厂确实资源多,但真不一定是最后赢家,甚至可能会集体失败?

  • 28:28 国模接下来要拼的是什么?

  • 30:42 锐评一下海外和国内的模型

  • 35:32 啥是 Neo Lab?

  • 38:20 Researcher 都在犯一个致命错误

  • 39:26 到底该先做模型,还是先做产品?

  • 41:53 RSI 现在完全就是个宣传口号?

Part 3 聊聊 Mind Lab

  • 44:21 从 Macaron 到 Neo Lab 再到 RLaaS,Mind Lab 到底在做啥?

  • 45:55 为什么美国各种中间层的公司都在做自己的模型?

  • 48:40 RLaaS 的客户画像是怎样的?

  • 50:52 自己训模型的意义是什么?账算得过来吗?

  • 53:45 为什么头部公司不自己训模型,而要采买外部服务?

  • 54:58 做 LoRA 的心路历程:scale up、scale down 与 scale out

  • 57:21 最近最关注的问题:continual learning

  • 59:01 「我并不担心被模型吃掉,甚至觉得我们一直在从中受益」

【The gang that made this happen】

  • 制作人:陈皮

  • 剪辑:二琳,陈皮

  • 片头:Mondo Bongo - Joe Strummer & The Mescaleros

  • 片尾:Sparklehorse - Hundreds Of Sparrows

查看原文