锐评国模与 Neo Lab,畅谈 RL 人生与 RLaaS | 对谈 Mind Lab 首席科学家骁腾
这期播客的嘉宾骁腾,先后参与创办的两家公司都颇具争议:24 年,他和谢扬一起创办了 Fellou 浏览器;25 年 10 月,又和陈锴杰、Andrew 一起创办了 MindLab(团队更为人熟知的产品是 Macaron)。
一上来,我们就从他为什么会选择这两次创业聊起,随后也探讨了不少颇为尖锐的话题,比如国模到底哪家强,各家又有什么问题?到底该怎么定义 Neo Lab?从 Macaron 到 Neo Lab,再到 RLaaS,MindLab 这一路的转型背后有哪些思考,现在又做得怎么样?
坦白说,这期对我们来说,是一个打破不少固有认知的过程。骁腾的回答都很实在,也很 solid,而且他可能是我们最近聊过的最「快乐」的 Researcher 哈哈。听他聊下来,我们不仅对 MindLab 在做的事有了更全面的了解,也对 RL、模型发展和 RLaaS 的实际运作有了新的理解。节目中,他还分享了很多从 RL 研究中获得的生活哲学。在他看来,创业可能才是最符合 RL loop 的事情。
【人类博物馆】
导游:曲凯,42章经创始人
55 号珍藏:马骁腾(Pony),Mind Lab 联合创始人、首席科学家,清华大学自动化系博士、博士后,长期从事强化学习与模型后训练研究,关注 AI 如何从真实交互中持续学习
【时光机】
Part 1 一个 RL Researcher 的人生选择
00:54 从 Fellou 到 Mind Lab,待过的公司都颇具争议,是种什么体验?
03:02 为什么首选不是去 AI Lab?
03:46 做 RL 学到的三件事
04:28 「我一直都是一个 90 分主义者」
08:32 创业是最符合 RL Loop 的事?
10:06 没在模型厂待过,凭什么能训好模型?
13:24 在叉院的时候一度非常绝望,觉得 research 做不过别人
16:20 国内 RL 的困境可能是「立山头」现象比较多?
Part 2 模型的发展与 Neo Lab 的叙事
18:10 对国模的态度:短期悲观,长期乐观
20:18 Anthropic 的一个让人担忧的做法
22:21 大厂确实资源多,但真不一定是最后赢家,甚至可能会集体失败?
28:28 国模接下来要拼的是什么?
30:42 锐评一下海外和国内的模型
35:32 啥是 Neo Lab?
38:20 Researcher 都在犯一个致命错误
39:26 到底该先做模型,还是先做产品?
41:53 RSI 现在完全就是个宣传口号?
Part 3 聊聊 Mind Lab
44:21 从 Macaron 到 Neo Lab 再到 RLaaS,Mind Lab 到底在做啥?
45:55 为什么美国各种中间层的公司都在做自己的模型?
48:40 RLaaS 的客户画像是怎样的?
50:52 自己训模型的意义是什么?账算得过来吗?
53:45 为什么头部公司不自己训模型,而要采买外部服务?
54:58 做 LoRA 的心路历程:scale up、scale down 与 scale out
57:21 最近最关注的问题:continual learning
59:01 「我并不担心被模型吃掉,甚至觉得我们一直在从中受益」
【The gang that made this happen】
制作人:陈皮
剪辑:二琳,陈皮
片头:Mondo Bongo - Joe Strummer & The Mescaleros
片尾:Sparklehorse - Hundreds Of Sparrows