YT YouTube2Text

YouTube2Text → Transcripts → 对话前DeepMind曹原：AI for Science爆发，一个新时代到来了

对话前DeepMind曹原：AI for Science爆发，一个新时代到来了 — Transcript

by 硅谷101 · 3,855 words · 3,256 segments · language zh · Watch on YouTube

Open in transcriber Summarize with AI Download SRT/VTT

Full transcript

0:008月第一周
0:01谷歌灵魂人物Jeff Dean宣布离职
0:03带着其它几位高管出走成立Discovery Loop公司
0:07致力于加速生命科学及其他行业的研究进程
0:10在硅谷这标志着AI for Science这个赛道
0:13开始爆发
0:15科学和技术怎么用AI自动去推动
0:18这是太重要的topic（课题）
0:19不仅是对一个组织对一个公司
0:20对一个社会甚至对一个国家
0:22人类社会发展最终是由科学和技术来推动的
0:24就在众多数学家、物理学家、生物学家
0:27加入OpenAI和Anthropic等顶尖AI实验室之际
0:30AI正在改变人类研发科学的范式
0:34OpenAI宣布模型Astra
0:35推导出了10道人类长期悬而未决的数学难题
0:38Anthropic未发布科研版Claude
0:40将黎曼猜想的相关零点下界从41.6%推进至67.2%
0:46同时 AI在生物制药、材料、物理等领域
0:49都在迅速将科学前沿快速推进
0:52而AI自进化形成研发闭环
0:54是科研加速的核心
0:56但这中间人的角色稍显尴尬
1:00它能不能达到一个模型到实验的闭环
1:02也就是我们说的这个loop（闭环）
1:04最难对于AI for Science
1:04肯定是verification（验证）
1:05它是一个瓶颈
1:06一旦这个瓶颈被打破了
1:07你就可以很快地迭代
1:09数学从一个证明稀缺的时代
1:11已经进入到了一个证明过剩的时代
1:14人类不能理解的发现是没有意义的吗
1:17它只能有部分意义
1:18不是结果正确就一定正确
1:20你需要去理解然后去评判
1:23如果这个AI我们承认并且接受
1:25它是一个黑盒
1:26并且心安理得地去接受它产生的结果的话
1:29这会造成很多困难
1:30如果这个结果不是完全可解释的话
1:33概念抽象的过程
1:34我认为可能是AGI的
1:35最后的last mile（最后一英里）
1:36（AI）要想拿诺贝尔奖的话
1:37要很长时间的
1:38很长时间是多久
1:39我觉得至少得二三十年
1:40你觉得“符号主义”能够解决这件事情吗
1:43所以我们就希望在外面有一层
1:44就是说有一套机制
1:44能够帮助它产生一些新的不一样的想法
1:48大家好欢迎收看硅谷101 我是陈茜
1:51这期视频播客我们来聊聊AI for science
1:53加入我们的嘉宾
1:54是谷歌DeepMind前资深研究科学家曹原
1:58我们这期从AI科学自进化的方法论
2:00聊到AI数学和AI物理的应用
2:03到了最后甚至还聊到了一些哲学问题和人类的意义
2:07挺有意思的
2:08也欢迎大家在评论区和我们讨论
2:10以下就是我和曹原的视频播客
2:20曹原非常欢迎你来做客《硅谷101》
2:22要不要跟我们的观众介绍一下你自己
2:24大家好我叫曹原
2:26我原来是Google DeepMind的科学家
2:29我也是AI一个startup（初创企业）
2:30叫Unreasonable Labs AI的
2:32co-founder（联创）
2:33我们的startup（初创企业）主要是做
2:35AI for knowledge creation（知识创造）
2:36以及AI for Science
2:38和R&D（研究与试验发展）的一些研究
2:40我们今天录制的这个时间特别巧
2:41因为就在昨天 Google的Jeff Dean宣布说
2:44他要带领一队的科技高管出来
2:47然后自己做一个公司叫做Discovery Loop
2:50他们其实也是想做一些
2:51AI for Science之类的这样的一个事情
2:55我看很多人的评论很唏嘘
2:57说这是一个时代的结束
2:58是另外一个时代的开始
3:00我理解说结束的时代是Google的时代
3:02开启的时代
3:03可能是一个新的AI for Science的
3:05科学研究的时代
3:07可以这样理解吗
3:08我觉得这个事情应该从几个方面去解读
3:10第一个就是说Google里面有很多人才
3:12DeepMind很多人才
3:13然后有很多团队
3:14在过去可能几年前
3:16每个团队可能各自关注一些课题
3:17互相不是特别干涉
3:19但是从三四年前
3:22Gemini这个项目开始之后
3:23因为Gemini毕竟是一个最大的项目
3:25也是很重要的项目
3:26这种项目需要集中力量办大事
3:29从那个时候开始
3:30这个对于整个人员组织和项目的管理
3:33带来很大的一些挑战
3:35所以不可避免的
3:37内部会有些冲突
3:39第二个背景是说
3:41我相信大家也可以看到
3:42在过去的半年左右
3:44Gemini的表现可以说不尽如人意
3:49今年年初的时候
3:50你说Gemini 3.1 Pro可能还算
3:52在这个排行榜上
3:53还可以算是比较好的
3:54一个language model（语言模型）
3:55但是过去的三四个月大家可以看到
3:57不管是Anthropic还是OpenAI
3:59包括中国很多开源公司
4:01他们的模型能力在突飞猛进
4:03但是相比来说 Gemini整个3.5 Flash
4:05以及最新的3.6 Flash
4:08表现来说应该是比较平平的
4:09而且大家都非常期待3.x的Pro
4:13目前还没有正式发布
4:14总体来说就是Gemini这个进度非常落后
4:17在这种情况下在商业模式上去追赶
4:19比如说像Anthropic他们
4:21以coding agent（编程智能体）为主的
4:23这么一个新兴的能力
4:24要把这个商业的模式转向那个方向的话
4:26其实还是有很大困难的
4:27第三个就是Jeff Dean和Oriol Sanjay和Quoc
4:32他们做这个Discovery Loop
4:33这个课题本身其实就是能够让AI
4:36自己去做知识开发知识的发现
4:39以及做自动科研
4:42这个其实跟我们的创业公司
4:44当时想做的方向是非常一致的
4:47我就是说这个其实是有一定的逻辑上的
4:49非常顺理成章的延展性的
4:51因为AI发展到现在这个阶段
4:53在过去的两三年带来数学和编程这些东西
4:56这可能是大家过去两年最关注的
4:58关于AI智能能力的一些体现
5:00能够自动写代码
5:01能够解决一些奥林匹克数学问题
5:03那么自然可以想象说
5:04等到这些问题解决之后
5:07下一个能够让AI的智能得到爆发的
5:11能够产生巨大效益的或者是产生一些
5:15帮人类解决更大问题的这个话题是什么
5:17很显然就是能够把数学和代码这些能力
5:20推广到更广泛的科学知识发现
5:23这个能力上面
5:24所以从今年开始大家可以看到有很多
5:27关于knowledge discovery（知识发现）
5:28AI for Science
5:29然后recursive self-improvement（递归自我改进）
5:32这样的一些startup（初创企业）
5:34我相信像Jeff, Oriol, Sanjay和Quoc
5:37这样一个明星团队
5:38他们出去做一个startup（初创企业）
5:39一定是想做这么一个领域的新标杆
5:42能够成为一个新的Neolab（新型实验室）
5:45这样的一个设想
5:47但是另一角度来讲
5:48所谓一个新的时代开启
5:50然后Google可能是转向了或怎么样的
5:53我认为这个言过其实
5:55因为Google它拥有所有
5:57能够把language model（语言模型）
5:58做好的要素
6:00不是说不可能因为一两个人
6:03哪怕是这些领导层它的变动
6:07这公司做不下去了对不对
6:09Google可能是这些大的科技公司里面
6:12拥有所有做好AI的全栈要素的
6:15这么一个公司
6:16从底层的芯片到infrastructure（基础设施）
6:19数据中心到工具链
6:21然后到模型层人才数据
6:23再到上面产品的分发到整个产品栈
6:26覆盖非常广泛的消费者产品的分发渠道
6:30全都有完全不依赖于外部生态系统
6:33所以不是说Google做不好
6:35而是说在优先级上面
6:37以及资源的投入上面需要做些调整
6:41但我相信Google依然以后会
6:42把这个能力做上去
6:43我觉得还是很好奇
6:45因为你刚才说了Google内部也有
6:47对AI science（AI科学）研究的队伍
6:50这个方向也是之前DeepMind的前CEO
6:54现在已经不是CEO了
6:56Demis Hassabis非常看重的方向
6:57甚至他们也是独立主导了
7:00Isomorphic Labs这家公司
7:02为什么Google留不住
7:03包括你还有Jeff 这一群科学家
7:05在Google内部去做AI4S这件事情
7:08首先我想说的是
7:09在湾区在硅谷这地方人员之间
7:12现在目前这几个科技前沿的公司里面
7:15这个人员流动其实是非常频繁的
7:16不光是Google
7:17对我个人来说的话
7:19我之所以能够想出来做这样的一个事情
7:22是因为我们之前也是在做Gemini
7:24我们也是一直在做模型迭代
7:26然后做后训练这些东西
7:27但是我觉得我一直在去想一些
7:29关于更深层次的就是一些关于智能
7:32怎么能够把这模型做得更智能
7:34如果你要是想实现这个AGI目标的话
7:37目前现在这个模型
7:38的确是可以做好数学和写代码
7:40这样的一些工作
7:42但是很明显有些能力还是缺失的
7:44比如说如果你真的想让它做好科学问题
7:46想让它去解决科学问题的话
7:48它的创新能力
7:49它能够提出新假设验证新假设
7:51然后不断自我更新的这些能力
7:54还是远远没有到达能够帮助人们
7:56指数性增长科学知识的这么个水平
7:58所以在这个方面
8:00为什么会有这个缺失对不对
8:02然后怎么样能够进一步改进这个模型
8:05使得它能够帮人类做出更好的一些事情
8:08所以我决定可以出来试一下
8:11这是我当时出来时候的动机之一
8:14那Jeff Dean为什么要带人离开呢
8:16能不能猜测一下
8:18我觉得Jeff Dean在Google
8:20是一个传奇式人物
8:21不光是在Google
8:22整个业界都是传奇式人物
8:24对
8:24他对早期的Google 一直到现在
8:26整个Google可以说是
8:27大部分因特网级别的这么一个基础设施
8:31都是从他的一些工作开始的
8:33从最早的MapReduce
8:34到Spanner到BigTable
8:35之后创立Brain Team, TensorFlow
8:37最早的深度学习框架之一
8:39到Google TPU 再到最后的Gemini
8:42所以的确是非常传奇的一个人物
8:44然后跟他出去的其他几个同事
8:48Oriol和Quoc都是早期Google Brain的成员
8:51他们已经共事了很长时间了
8:54Sanjay是Google的元老
8:55其实是跟Jeff Dean
8:56基本上是在一个时间进来的
8:58也是跟Jeff Dean合作了很长时间的伙伴
9:02所以他们都是相互之间非常了解
9:04我原来在办公室也经常可以看到
9:06Jeff Dean和Sanjay他们
9:09经常peer coding（结对编程）
9:10就是两个人在一起写代码
9:11他们每周有一天是必须就Jeff会（写代码）
9:14是非常hands-on（亲力亲为）的
9:15hands-on（亲力亲为）对
9:16两个都在写代码
9:17所以我现在非常自然地说
9:19如果他们想自己出去做些事情的话
9:21这个是很顺理成章的一个组合
9:23他们非常了解
9:24而且都有非常强的技术背景
9:26目前其实不仅是Jeff Dean离开了
9:28我们在早之前的时候看见John Jumper
9:31也就是AlphaFold联合的发起人
9:34为此获得了诺贝尔奖的这名科学家
9:37也是加入了Anthropic
9:38为什么Google留不住这批科学家呢
9:40因为我之前以为
9:41Google是最重视AI4S的
9:44这条道路的
9:44之前Demis Hassabis
9:46他其实是主导了这条路线
9:48所以最近接二连三的这个
9:50而且是核心人物的离开
9:52让我还挺惊讶的
9:53Google现在内部
9:55DeepMind肯定是最高的优先级
9:56是要把Gemini做好
9:59做到SOTA（业界最佳水平）
10:00做到跟Anthropic 跟OpenAI齐平的位置
10:03齐平或者是更好
10:05所以很多的工作重心
10:07短期内的优先级必须往那个方向去转
10:10包括像Jumper
10:11包括原来一些做AI4S的人
10:12他们的工作重心也会有变动
10:15所以在这么大一个团队
10:17然后有这么大优先级的项目情况下
10:19你不可能让每一个人都非常满意
10:24在Google有这么多人才
10:25每个人都想做自己的事情
10:26都有自己的一些想法
10:28所以能够让
10:30有这么多人才
10:31怎么能够让每个人的能力和他们的诉求
10:34得到最大的体现
10:36最好的安排是非常（有）挑战的事情
10:39我认为Google其实已经在这方面
10:41做了很多优化和做了很多调整
10:43能够让他们每个人发挥自己最大的潜力
10:49肯定在这过程当中
10:51管理团队和科学家和工程师都在思考
10:53和不断地更新迭代这个过程
10:56在管理上有很多挑战
10:57但是我相信这个状况还是在变好
11:00你觉得在变好
11:01我觉得在变好对
11:02怎么去评判它在变好
11:04我觉得就是你不能再按照原来
11:06像现在做大模型做这样的东西
11:09它是非常需要快速迭代
11:10然后需要持续更新这么一个过程
11:12Google要做的是革自己的命
11:14然后能够把这个Gemini团队
11:16做得像一个startup（初创企业）一样
11:19尽快地把智能先补上去
11:21这就要求管理团队需要做很多的调整
11:24对于在人员安排上
11:26在每个人的他们所能做的这个
11:29包括整个项目怎么安排
11:30这个是一定要有一些自我革新的勇气
11:35我相信Google也在意识到这一点
11:37而且会做这个事情的
11:38是不是接下来有可能
11:40有一些新鲜的血液进来
11:43可能也会带来一些新的变化
11:45就比如说我们看一下Meta
11:47它有了Alex Wang进来之后
11:49现在已经是有一些改善的迹象了
11:51就最近的Muse Spark
11:53然后包括他们最新出的这些
11:54coding（编程）的模型
11:55外界反馈还挺不错的
11:57肯定会有变化
12:00但就是说做一个模型有几个因素
12:02有几个要素
12:03人力、人才然后数据、算力以及
12:07我觉得大家可能忽略的一点
12:08就是整个项目管理
12:09整个软的设置
12:11每一个项其实都会有一些不同的
12:12都会需要一些改进
12:14这是一个持续迭代更新的过程
12:17对于Meta来说
12:18MSL（Meta Superintelligence Labs）
12:19可能将近一年能够做到这个水平
12:20其实已经是挺不容易的
12:22但是接下去怎么能够
12:24从这个水平做到SOTA
12:26越往后做肯定是越难
12:27越往上去挑战越难
12:29你从0分做到80分
12:30相对来说可能你是可以
12:32在一定时间内赶上来的
12:33但是如果你要从80分做到100分
12:35甚至超过100分
12:36这个是有更大挑战的
12:38我觉得Google之前
12:38其实已经做到了这个层面上
12:40就是怎么能够再进一步往上
12:43做到最好的这个位置
12:46这是需要花很多功夫
12:47而且要协调很多资源
12:50需要大家能够非常有效地去安排各项工作
12:53需要很快迭代才能做到这样的事情
12:55那你觉得AI for Discovery, AI4S
12:58还依然是谷歌非常着重去押注的方向吗
13:01还是会是
13:02对你看前两天Sundar发的邮件里面
13:06Demis虽然说从DeepMind CEO的位置（退下来）
13:09但是他还是主管一个AGI和science的部门
13:14Google是在所有的AI科技公司里面
13:16可以说是在science里面最早布局的
13:19然后布局得最广最深
13:21这个生态体系
13:21可以说做得最好的一个公司
13:22科学和技术怎么用AI自动去推动
13:25这是太重要的topic（课题）
13:26不仅是对一个组织对一个公司
13:28对一个社会甚至对一个国家
13:30人类社会发展最终是由科学和技术来推动的
13:32现在有这么一个工具
13:33这么个聪明的AI的模型
13:35你必须要把这东西能力推上去
13:36在这个层面上是不可能说完全放手的
13:40还是会有很大的课题
13:41只是短期内可能会有一些priority（优先级）
13:42一个优先级的调整
13:43而且我相信Demis
13:44虽然说他现在转为做Chairman（董事长）
13:46但是他一定会在上面继续做很多努力
13:47可不可以说Demis现在是退后一步
13:50是因为他不太想管商业化的事情
13:52跟产品的事情
13:53但是他还是会非常地专注在
13:55AI4S这一块上面
13:57我认为这是其中一个原因之一
14:00我相信Demis他
14:02一直是一个比较看重长远的发展
14:04特别是在这个技术方面长远发展
14:06而且他个人的气质更像一个科学家
14:08而不是说像一个CEO这样的
14:11主管产品或商业这些东西
14:13而且DeepMind跟Brain Team当时合并
14:17很大程度上就是因为
14:19要尽快能够把Gemini做上去
14:20能够能赶超GPT这样的一个努力
14:23但是在此之前
14:23你可以看之前整个DeepMind
14:25在伦敦当时
14:26从大概2015年前后
14:28收购到合并之前
14:29所有这些Alpha系列
14:30都是以科学研究为主
14:33之后的很多效益
14:35包括很多像产品上的落地
14:36那都是因为有这些先驱的科学研究的成果
14:40包括现在AI for RSI（递归自我改进）
14:42比如说AlphaEvolve
14:44能带动很多算法的更新
14:46能够（带动）自动算法更新
14:47像AlphaFold更不要说了
14:48已经拿到诺贝尔奖了
14:49那就商业化成这个Isomorphic Labs
14:52所以我觉得谷歌有能力也有这个责任
14:54去进一步推动一些长远的科技
14:57和研究上的发展
14:59我觉得Demis是非常适合这个角色
15:01同时我们看到其他的AI前沿公司
15:04包括OpenAI 还有Anthropic
15:05其实也是把AI for Discovery
15:07还有RSI这部分
15:09放成了他们重点的布局方向
15:11但是在我们来聊这三家公司之前
15:13我们要不要给大家把几个概念给梳理清楚
15:18因为最近大家肯定会听到非常多的关键词
15:21是AI4S, AI4AI
15:23还有RSI（Recursive Self-Improvement）
15:27我们能不能把这三个概念给大家解释一下
15:29AI4S或者是AI4AI
15:31都是把AI这个模型当作一个研究员本身
15:33去研究科学问题
15:36或者研究AI本身自己的问题
15:38大家想想如果是像AI for AI的话
15:40我这个模型已经很聪明了
15:41然后我怎么能够发挥这个模型的聪明才智
15:45来改善这个模型自己本身的一些能力
15:48比如说如果你给它一个要求
15:50你给它一个任务说
15:52你能不能用最少的资源最少的GPU
15:55在限定的预算情况下
15:57能够把这个模型训得最好对不对
15:59当然人可以去做
16:00但是如果能够让AI自己去做的话
16:02它可能在尝试很多新的想法
16:06新的一些实验方面比人做得快得多
16:09它可以比如说它看了一下
16:10你目前这个模型的codebase（代码库）
16:13然后它发现你这个参数可以调得高一点
16:16它会生成一个proposal（提议）
16:18生成一个建议说
16:19你先试一下把这个参数调高点
16:22AI 因为现在
16:22它作为智能体的能力已经很强了
16:25它可以去写段代码
16:26把这个提议去实现
16:29然后自动去写代码
16:31把它放到一个沙盒里面去跑这个实验
16:33去训这个模型
16:34然后观测这个模型生成的最后结果
16:37它的训练结果
16:38拿到这个结果之后作为一个反馈
16:41然后再提出下一步
16:42我发现这个
16:43你把这参数稍微调高一点之后
16:44模型效果变好了
16:46那我是不是应该往这个方向
16:46继续再推进下去
16:48根据这样的反馈
16:49进一步生成下一步的它的建议
16:53一轮轮迭代之后
16:54你可以看到它这个模型的性能
16:56在不断地一步步提高
16:58这就是一个自我不断回归的过程
17:02所以这是像AI4AI
17:03这么一个非常简单的应用
17:05当然现在有人是用AI for AI
17:07有些初创公司在探索能不能找出
17:08跟Transformer不一样的一些架构
17:11因为这可能需要很多搜索
17:12很多新的想法放进来
17:15也有人在探索说
17:16AI4AI 能不能找到一个
17:18不需要Backpropagation（反向传播算法）
17:19就是反向梯度传递的新的优化算法
17:23所以如果用AI去研究问题
17:27它可以更高效地去搜索很多不同方法
17:30试很多方法
17:31而且整个loop（闭环）都自我完成
17:33同样的对于AI for Science只是换个问题
17:36只是说你用AI去做些科学上的问题
17:39但整个方法差不多
17:41RSI就是
17:43RSI不是一个task（任务）
17:44它是一个方法
17:45就像前面说的
17:46我能够不断自我迭代
17:47Recursive Self-Improvement
17:49不断用自我迭代方法去更新这个任务
17:52或者更新这个proposal（提议）
17:54以至于它能够不断自己
17:55把这个任务越做越好
17:57所以这是这些概念的一些差别
18:00其实AI4S跟AI4AI都是类似的
18:03只是它们的目标不一样
18:04然后RSI它是一种方法
18:06它可以用在AI for AI
18:08也可以用在AI4S上面
18:10好这个非常的清楚了
18:11下一个问题就是说
18:12为什么在这个时间点
18:14特别是在现在是2026年的8月份
18:17为什么在这个时间点
18:18AI for Science爆发了
18:20我也理解
18:21它可能也不是一夜之间就爆发的
18:22而是之前有一个缓慢的进展过程
18:25我们看到包括谷歌的AlphaFold
18:27RoseTTAFold等等一系列模型的进展
18:30那么在此时此刻
18:32哪些技术你觉得是成熟了
18:34然后让AI4S
18:36可以在这个时间点爆发了
18:38前两年AI的发展
18:39最能够体现这个推理能力和智能的
18:41就是代码和数学这两个问题
18:43这两个问题到位之后
18:45如果它自己AI能够很可靠地写代码之后
18:47同时你这个AI 这个agent（智能体）
18:49整个智能体
18:50所谓harness（挽具/驾驭系统）
18:51就是它外面怎么能够帮AI
18:53一步步完成工作流这么一个设置
18:56这个体系成熟之后
18:59你就可以让这个AI
19:00去做更复杂的一些科学问题
19:04就比如说如果你要去跑一个生物实验
19:08你需要这个模型
19:09第一个要提出一个假设
19:11下一个实验该跑什么实验
19:13这是模型需要一个推理能力
19:15根据目前实验的观测推导下一个
19:18这是第一步
19:19第二个如果它模型
19:21实验跑出结果之后你把数据收到了
19:23那我自己要写一些代码对不对
19:24要分析这个数据是不是跟我预期的吻合
19:27这是第二步
19:28那就需要这个模型要有很强的代码能力
19:30第三个就是生成完代码之后
19:32你怎么样自己去更新
19:34如果分析出来这个数据
19:36可能数据有些异常
19:37它需要去分析
19:39一步步去分析这个数据为什么会有异常
19:41我是不是前面这个提议里面有些问题
19:44不断去自我迭代这么一个过程
19:47所以这都需要你这个模型本身
19:48它的推理能力数据分析能力
19:52然后数学写代码能力
19:54以及整个agent loop（智能体循环）
19:55就整个循环能力
19:57包括怎么样去管理记忆
19:59就是你每次跑完之后它会有记忆
20:01你必须把之前的观测
20:02放到一个记忆的管理容器里面
20:05这些能力到位之后
20:06你才可以更好地去做science问题
20:10因为science面太广而且问题太复杂
20:12可能要比coding（编程）和math（数学）
20:14更挑战一点
20:16所以现在就是一个天时地利人和
20:18该到了我们去用AI for Science的时候了
20:21我们看到AI4S当中
20:23也有很多不同的细支
20:24我现在看到大家讨论最多、最聚焦的
20:27也还是在材料、生物制药
20:29还有可能AI for Semiconductor（半导体）
20:31也就是AI设计芯片这几类上面
20:34为什么呢
20:35哪个Science topic（课题）
20:37它有最大的吸引力
20:39是由几个因素决定的
20:40市场的潜力市场的规模
20:43然后是不是适用于AI去做
20:45它对AI去做Science研发能力的迫切性
20:48在什么地方
20:49以及于它能够做得好
20:51传统上来讲
20:53Biology（生物学）、Biotech（生物科技）
20:54或者是Life science（生命科学）
20:55或者是Drug discovery（药物发现）
20:57有很大市场
20:58这跟AI其实没关
20:59一直都是这样的哪怕在
21:01它本来市场就是大的
21:02就很大对
21:02最有潜力的
21:03这是第一点
21:04第二点是说在生物、制药这方面
21:08它相对来说整个流程比较标准化
21:11已经比较结构化了
21:13而且它数据很丰富
21:15整个流程相对来说比较容易
21:17让AI去处理这么个流程
21:20这是第二点
21:21第三个就是这些
21:23比如说制药厂
21:24特别是做些新药的开发
21:26这周期非常长
21:27它的成本非常高
21:29比如说你开发个新药
21:30它需要测试很多很多种kit
21:32可能的一些新的分子结构
21:34然后在里面挑出一些lead（先导化合物）
21:36最有可能的一些
21:37这只是第一部分
21:38之后有些比较可靠的分子结构
21:42你还得去进行临床试验一些药物开发
21:45而且有很多监管的过程
21:47整个周期可能要花费好几亿美金
21:51等到它能够最后被批准
21:52可能几年就过去了
21:54怎么能够用AI在这个过程当中自动化
21:57或者是能够减少成本
21:58这对于这些pharma（制药公司）
22:00对于这些药物厂商来说
22:01是非常有吸引力的一个课题
22:03所以总体来说肯定是生物和药物开发
22:07创投上是比较大的
22:07而且比较诱人用AI去做的
22:10这么一个有吸引力的科学话题
22:12但是对材料来说
22:13它也有很大的市场
22:16材料在生活当中方方面面都会碰到
22:18但是跟药物相比的话
22:20材料的市场就非常细
22:24你很难说捕捉到这个价值用在什么地方
22:27你可以有金属材料
22:28有皮革材料有生物材料
22:31或者是用在半导体制造上面的一些
22:33或者稀土材料等等
22:35它的划分会非常细
22:37整个开发流程也是根据应用的不同
22:40也不太一样
22:41所以这就导致说
22:42虽然它有很大的市场
22:43但是因为它的市场细分太碎
22:45所以你很难说用一个相对比较标准的方法
22:48去处理这样的问题
22:50而且即使你发明一个新材料
22:52你说你发现一个新材料结构
22:53然后一个新的材料分子
22:55这只是第一步你之后怎么样
22:57比如说把在下游的这些生产环节
23:02你用在什么地方
23:03你给材料发明出来用在什么地方
23:04然后给谁去制造这个材料
23:07最后怎么样去包装等等
23:10它的价值链会比较碎
23:12你很难说一下子用AI捕捉到这所有价值
23:14所以这就导致材料也是很大的市场
23:17但是它可能跟药物开发和生物相比
23:19会相对小一点
23:20其他一些领域不管是
23:22像芯片设计也好
23:23包括像用AI做电池设计
23:25或者是像量子计算这些东西
23:26这都是一些新兴的
23:28很多存在探索阶段的一些努力
23:31至于它能不能
23:32AI在多大程度上帮助这些东西做好
23:34我觉得现在很多公司在探索不同的方向
23:36我有一个问题
23:38AI4S它本质上解决的是什么问题
23:41是对现有科学的研究进行一个加速
23:44还是说去发现新的问题
23:47就是说它是提效还是去发现
23:49这取决于AI for Science这个模型它的角色
23:53这里面有几个角色
23:54第一个是Co-Scientist
23:55我就是帮助科学家去加速科学家的发现
23:58但我自己不一定提出新的一些方法
24:01就比如说Claude Science这个平台
24:02它其实就是workbench（工作台）
24:03Workbench就是像编程的这么一个IDE
24:06这么一个集成环境一样的
24:07它上面有很多工具
24:08你可以去做分析
24:09然后你可以跟这个（模型）进行对话
24:11然后给出你一些建议或怎么样的
24:14去跑些实验做些模拟
24:15但是整个过程当中
24:17不一定AI模型自己去提出一些新的知识
24:19但它可以加速科学家对于实验的一些设计
24:24一些数据的分析
24:25总之就是能够让你这个科学的流程
24:27整个研发流程变得更容易点
24:28这是第一种
24:30第二种的确是AI可以提出一些
24:31自己的新的发现
24:33就比如说像DeepMind之前的AlphaEvolve
24:37AI能够自己发现新的算法
24:38更不要说像AlphaFold这种
24:40能够帮助产生一些新的蛋白质结构
24:42能够AI自主产生知识的
24:44这是第二类
24:45这取决于用在什么场合
24:47然后用在什么领域
24:48以及你这个模型是用在某个垂类里的
24:52还是说作为一个一般性的模型
24:54放在一个agent loop（智能体循环）里面
24:56它所扮演的角色是不一样的
24:57那接下来我们把AI4S的
25:00一些具体的步骤给大家拆分开来
25:03我们看一看AI具体在里面
25:05有什么样的应用跟研究好不好
25:07包括如果你们作为一个科学家
25:10你们要做research 要做研究的话
25:12其实有比如说问题的定义
25:14有表征有建立预测
25:16还有验证做实验等等
25:19比如说我们从最开始开始
25:20就是问题定义这个上面来看的话
25:23你觉得AI在中间扮演的一个角色
25:25是什么样子的
25:26我觉得问题定义必须是人来定义的
25:28我认为AI目前它还做不到说
25:29自己有这个品位去找出合适的问题
25:31然后定一个合适的问题自己去做研发
25:34这个我觉得目前是比较难的
25:36问题的定制
25:36所以为什么人类科学家还是要在这个
25:39他是不可取代的
25:40他必须能够给出一个问题
25:42然后告诉你要解决什么问题
25:43哪些动机是重要的
25:44这个是需要人来给定的
25:46但是可能AI可以通过
25:48你给它一个初始的问题一些初始的提示
25:50它可能可以通过搜索一些文档
25:52帮你做些分析
25:53帮你改善这个问题
25:55怎么样去结构化这个问题
25:57这个是AI可以做的
25:58但它主要是一个辅助性的作用在这个地方
26:01但现在什么样的问题适合去让AI来研究
26:05这个问题是人现在需要去挑选的
26:08就比如说什么样的问题适合AI去研究呢
26:11任何可以计算的问题
26:14很容易去被验证和计算的问题
26:16这个是最适合AI去完成的
26:17说白了就是
26:18你多大程度上能够很干净地
26:20去建模这个过程
26:21比如说像AlphaFold
26:23这个问题定义非常明确
26:25你给定一个氨基酸序列
26:26然后给出一个三级结构
26:28这种问题它是非常结构化的
26:30相对来说AI通过计算是可以解决的
26:33而且另外一个说
26:35验证上面比较容易的一些问题
26:36因为在整个AI for Science里面
26:39可能最难的一环就是怎么样去做验证
26:42因为你不像说AI4S
26:43不是像AI for coding（编程）
26:45或者是for math（数学）
26:46因为AI for coding（编程）和math（数学）
26:47你一旦数学给出证明
26:50AI给出证明
26:50你马上可以判断它是不是对的
26:53这是非常快的
26:54或者你写一个代码
26:55它对不对马上就可以知道
26:56但是对于很多科学问题
26:57你说你申请个新的药物
27:01可能不到最后上市之后
27:02你真的不知道它效果会怎么样
27:05虽然是有很多模拟
27:06所以终极问题不一定是马上能够
27:08用AI4S这个东西很快解决
27:10但是它当中一些步骤
27:11如果说你可以通过一些模拟
27:13一些simulation tool（模拟仿真工具）
27:15计算出药物的一些特性
27:17然后它是不是稳定它会不会有些副作用
27:20这个是比较适合用AI去做的
27:22所以AI能够
27:23你产生东西能有多快地去验证
27:26取决于你这个AI for Science能够多快迭代
27:28所以这个可验证性是非常重要的一个指标
27:31能不能给我们举些例子现在不合适
27:33或者说还没有办法用AI来解决的科学问题
27:36这个我觉得太多了
27:40我觉得可能反过来讲
27:41哪些问题适合用
27:42就像前面说的
27:43AlphaFold是适合的
27:44对适合
27:45但是比如说像OpenAI之前用GPT-5
27:47跟Ginkgo Bioworks
27:49Ginkgo Bioworks是美国剑桥的一家
27:51用机器人做实验的实验室
27:54他们把GPT-5跟实验室结合在一起
27:57能够完成一个完全自动化的
27:58做实验然后给出反馈
28:00给出验证的这么一个过程
28:02这个过程是完全适合用AI去做的
28:04他们可以就是说
28:06比如说他们当时是拿GPT-5提出一些配方
28:12怎么样去生成新蛋白质的配方
28:15当然很多很多几千种配方
28:16GPT需要提出下一个配方
28:18它最可能的一些配方应该是什么样子的
28:21能够尽量降低成本
28:22这种问题是适合AI做的
28:24但是大部分可能科学问题
28:27目前还不能用AI做
28:29因为AI4S
28:30跟AI for coding（编程）和math（数学）
28:31不一样的地方
28:32就像前面说的
28:33很多地方是你需要物理验证的
28:34但是如果你这个
28:35除了像材料生物
28:36相对来说还是有一些机制
28:38可以让你去验证这个情况之外
28:40大部分很多的科学问题
28:42无法很快得到验证的话
28:43你是没法用这个AI来解决的
28:45没有办法验证是因为人
28:48还是受制于人（去验证）的时间
28:50对不光是人
28:50而且它的复杂度它的成本
28:52都是很大问题
28:52你说AI生成一个新的
28:54核聚变的装置或怎么样
28:56你要做这实验
28:57其实它的成本和代价是非常高的
28:58你能够做的问题
28:59只要能够是通过数字化模拟的
29:00In silico（计算机模拟）
29:01就是在数字环境里面模拟的
29:04这些可以做
29:05但是你最终还是要走向物理世界
29:07最终要验证
29:08这东西不是说不能做
29:10而是说它的成本和收益
29:12目前很不明朗的情况下
29:14可能大家没有特别大动力去做
29:16但是最终的话我觉得就是
29:17这一步是逃不掉的
29:18你毕竟要走向science
29:20必须突破信息极限走到物理世界
29:22因为整个宇宙最基本的几个要素
29:24信息、物质和能量
29:27AI for math和coding
29:28都是在信息层面
29:30然后哪怕AI4S
29:31它可以提出一些新的proposal（提议）
29:32新的一些包括模拟都只是在信息层面
29:35但是你要想做science
29:37你必须走到物质层面
29:38然后你必须要做一些实验
29:40就是到湿实验的环境
29:42对湿实验环境
29:43所以这些就是需要很大投入
29:45而且我觉得这也是很多人
29:46在探索的一些事情
29:48但是现在湿实验还没有办法被赋能
29:51或者被提效
29:52现在最提效的
29:53还是说在前面的simulation（模拟）
29:55这是目前迭代最快的一个环节
29:58但是有很多工作能够让湿实验提效
30:00一个就是说就像Ginkgo Bioworks讲的
30:04能够让机器人自动地去
30:05所谓AutoLab（自动化实验室）
30:06或者是Cloud Lab（云实验室）
30:06能够让它自动去完成这个实验
30:08只要这个GPT给它一个指令
30:10它可以自己
30:10机器人帮去做实验
30:12这是第一个
30:13机器人做实验是什么意思
30:14就是一个机器人它像一个研究员一样
30:17拿着管子
30:18对滴试管
30:20滴试管
30:20类似这样的一些每个操作
30:22如果你一个操作是标准的话
30:24它可以用机器人去完成这个指令对
30:27所以有些是云端实验室
30:29云端机器人操作时
30:30你就call（调取）一个API 它就给你做这个实验
30:34它就是远程的一个完全自动化完成的实验
30:36然后我还看到就是说
30:38如果要让AI来解决科学问题
30:40其实表征这个事情非常的重要
30:42因为有一些问题是适合
30:45把科学对象转化为合适的表征的
30:48就比如说AlphaFold里面
30:49蛋白质常见的一个表征就是氨基酸序列
30:52还有三维结构还有图结构
30:54所以回到这个AlphaFold的案例上面来说
30:57这就让蛋白质结构
30:58变成了能够被机器理解的这样一个议题
31:01有没有什么问题是很难
31:02或者是无法被表征的
31:04我觉得首先要分清两个概念
31:07目前用AI做Science
31:11主要来说有两种模型
31:12一个是通用的模型
31:13就像那个GPT Codex这样的
31:15GPT上这些模型
31:16然后它去驱动整个Al for Science
31:18这个推理的过程
31:19然后自己给自己分析数据等等
31:20这需要很强大的一个通用模型去做
31:22第二个是垂类本身的模型
31:25就像这个AlphaFold
31:26或者是像GNoME这种做材料的
31:28或者是MatterGen这种
31:30或者做天气预测这种
31:31这只是做某一个领域的一个模型
31:33只是这个领域的专家
31:34但它其他什么也做不了
31:35你不能把这个模型又放到一个通用的
31:38像所谓orchestrator（总调度）
31:39就像“实验室主管”这么一个角色
31:42去驱动整个科研的流程
31:45不同的模型
31:45它对于表征的要求是不一样的
31:48通用模型的话它什么都可以表征
31:50就像GPT或者Gemini
31:52你给它一个语言的描述它作为一个输入
31:54或者你给它一段代码
31:54或者你给它这些
31:57像JSON
31:57一个实验室数据的JSON
31:59一个格式化输入
32:00这个模型通过pre-training（预训练）
32:02和post-training（后训练）
32:03它对任何格式的多模态表征
32:05都可以去内化
32:06都可以去理解这样的一些表达方式
32:09但是如果你说像AlphaFold这样的
32:11它只能给某一个领域
32:14所以它只能接受氨基酸序列
32:16加上一些DNA
32:17或者加上一些附加的metadata（元数据）
32:21所以它就没法去做超越这个领域之外的
32:24一些推理能力
32:26的确就是说这个是区分
32:28你这个模型能表征什么样的东西
32:30能够接受什么样的一些数据
32:31那取决于你这个模型所属的位置
32:34在整个平台上所属的位置
32:36那些GPT上的
32:38可以作为一个大的实验室主管
32:40我来告诉你该做什么
32:42像某个领域专门的这些模型
32:44AlphaFold也好 GNoME也好
32:45它就是作为一个专家
32:47你可以调用这工具
32:48但是至于说哪些问题没法表征的
32:51我觉得这可能是
32:53相对更大的一个话题
32:54这个是跟AI本身自己的能力
32:56就说哪些问题是AI自己没法表征的
32:58非常抽象的事情
32:59哪些东西是没法通过一个向量
33:02或者是通过一个逻辑来刻画的
33:06但凡你有办法
33:07把一个数据转换成一个字符串
33:09某种模态的一个表示
33:11或者是一些embedding（嵌入向量）
33:13那些向量也好
33:14你只要能够把你的数据数学化
33:16或者是格式化
33:18变成一个具有结构的输入的话
33:20这样的问题都是可以表征的
33:22但是如果你说
33:23如果有些东西是没法测量的
33:26大脑的状态或怎么样的
33:27这个东西没法表征
33:28如果你没法测量就没法表征
33:30这我觉得是一个AI本身的问题
33:31并不是特别
33:34只是对于AI for Science的一个问题
33:35比如说我们到了表征之后
33:38这个机器它其实是OK
33:40我知道我要去研究这个问题了
33:42那它接下来会建立一系列的预测模型
33:45还有比如说逆向设计
33:46这样的一个环节
33:48这个环节是怎么运作的
33:49比如说给定一个疾病的靶点
33:51然后让AI去生成可能可以结合的分子
33:56这样的一个案例
33:56这个例子是专门的一个某个领域垂类的
33:59比如说像专门做药物开发的这个模型
34:02这个是你给定靶点
34:03它肯定生成一个输出
34:04但是对于一些一般性的模型
34:07就像整个（总调度）
34:08来协调实验室主管GPT这样一个模型的话
34:11它就是一个通用的预测模型
34:14你给定它任何的之前的实验记录
34:16然后一些分析的数据
34:19以及你各种要求
34:20它作为agent（智能体）输入
34:22作为一个生成模型
34:22它可以生成下一个实验的设置
34:25下一个proposal（提议）这样的
34:26那来讲讲实验的部分
34:30AI它自己会挑选什么样的实验来做吗
34:32这是一个搜索的过程
34:34就是整个AI模型的
34:35AI模型它会提出不同的
34:38可以说每一步采样出不同的一些方案
34:40你要有个机制来决定
34:42哪个方案是下一步它需要挑选的
34:44然后去做实验的
34:47一般来说比如说这是一个搜索过程的话
34:49你可以想象把这个搜索过程当作一个树
34:51根据之前树上的每一个节点
34:53都是之前的
34:54或者说目前已经探索过的一个方案
34:57然后你要决定哪个方案是最有希望的
35:00从这个方案再往下去做实验往下推
35:03这样的话你需要对每一个树上的节点
35:05去给个分数
35:07如果说一个节点是配方一
35:09另外节点是配方二
35:11这个模型发现配方一
35:14根据之前的实验好像效果还不错
35:16这个分数可能在这方面会比较高一点
35:19但是它也不能完全说只考虑配方一
35:21因为目前实验只做到一半
35:23你不能说只根据一部分的观察
35:25就把这条线推到底
35:27把这个方案推到底
35:28所以它需要有些explore（探索）的过程
35:30比如说也分配给配方二一些概率
35:33它可以想到配方二
35:34所以每一个节点的分数有多重要
35:36决定下一步该做什么
35:39都是有它这个节点当前的价值
35:43以及它有多大的概率还没有被探索过的
35:47这几个不同的分数组合起来的
35:51所以根据最后这个综合的分数
35:53它可以决定哪个最值得
35:55下一步去开发的一个方案
35:59那这个定义是什么呢
36:01怎么让它去平衡多种因素呢
36:03其实你刚才讲到
36:05我知道业界有两种概念
36:06一个叫exploitation
36:08也就是说选择当前看起来最好的一个候选
36:11然后还有一个叫exploration
36:13就是说选择不确定
36:14但是可能会带来新发现的一个候选
36:17我觉得人去选的话都已经挺难的了
36:19机器怎么选呢
36:20你给它带来的一个评价体系是什么样子的
36:23人在选的时候会有直觉
36:25就是你每一个
36:26你会觉得哪个方案更可能可行
36:29把这个直觉翻译成算法的话
36:32就是所谓的一个value function（价值函数）
36:35根据当前的状态它有多大潜力去
36:38或者是它最终会大概
36:40按照期望来说会有多大的回报
36:42这个其实跟post-training（后训练）里面
36:44Reinforcement learning（强化学习）的算法
36:46都是一致的
36:47总是要平衡exploitation
36:49和exploration的两者关系
36:51我既不能说只找一个目前最好的方法
36:55一直往上推
36:55因为它可能是局部最优的
36:57但我也不能把它忽略掉
36:58因为它可能的确是很好
37:00所以每一个节点它的价值
37:04取决于直觉给它多少分数
37:07就是它未来的价值可能有多少
37:09这是给它很重要的一个分数
37:10但是同时在搜索的时候你要考虑到
37:12你目前能看到的价值之外
37:13它之前那些搜过的路径
37:15是不是已经被用了很多次了
37:17如果之前那些路径已经被用了很多次的话
37:20那你就应该考虑试一下其他的
37:22采样一些其他不同路径对不对
37:24不然的话你总是往这条路径上搜
37:25所以它最后一个分数永远是一个直觉分
37:27相当于是一个所谓value function（价值函数）
37:29加上之前的路径
37:33有多少次已经被采样过了
37:35综合一下给出一个比较靠谱的分数
37:38你刚才讲到那个实验
37:40其实AI4S能够押注下一阶段
37:44非常重要的一个标准就是
37:45它能不能达到一个模型到实验的闭环
37:48也就是我们说的这个loop（闭环）
37:50那你想想刚才你也讲到说
37:52如果我把机器人能够引入来做实验
37:54那它整个过程就不需要人了
37:56相当于是机器人自己提出假设
37:58然后我去做实验验证这个假设
38:00然后再从我的实验结果里面
38:02提取下一轮实验
38:03接下来要做什么更好的实验
38:05然后再继续提出假设再做实验
38:07这样的话
38:08这个过程就成为了一个recursive（递归的）
38:11不需要一个人的自我进化的过程
38:13这个可能是真正能够加速科学
38:16去更快地发展的这样的一个方式
38:19那么在这个过程当中
38:21你觉得怎么去建立这样的一个闭环
38:24闭环很重要像你前面说的
38:26说实话之所以像
38:28Anthropic Claude coding Agent（编程智能体）
38:30它之所以能够
38:32可以说是目前最成功的一个商业闭环模式
38:35能够产生指数性增长的
38:36在AI应用里面
38:37这个AI coding（编程）
38:38就是因为它有这个闭环
38:40你程序员写一个程序
38:42它马上可以验证完
38:43验证完告诉你这个对不对
38:45你完全不需要等待
38:46或者是接受外界的一些干涉
38:47你就可以自己决定
38:48这样的话作为一个用户
38:50你可以对整个coding agent（编程智能体）
38:52有一种信任
38:53你可以把整个任务都交给它
38:55而且你是完全可以去验证的这么一个过程
38:57这个闭环是很重要的
38:59但是AI for Science里面闭环很难
39:02因为它是涉及到物理世界
39:03它需要你做实验
39:05这个东西不像你写coding（代码）
39:07这么容易去验证对不对
39:09所以总体来说在闭环这个环节
39:13说白了怎么样能够更快获得实验数据
39:16获得实验的验证
39:17如果理想上能够
39:18一分钟获得一次实验验证的话
39:19那这个问题就解决了
39:20我可以生成无数个数据
39:21然后我直接去训就行了
39:22我这个问题就解决了
39:23但是在大部分的物理实验环境中
39:25是不太可行的
39:27所以要么就是把它
39:29如果在这个
39:30我觉得现在很多发展的方向就是
39:32能够把它（做成）自动实验室
39:34如果这个实验室操作流程
39:35比较标准的话
39:36你可以把它完全用机器人来替代
39:37这个是很多美国这边的公司都在做的事情
39:41如果说不是一个标准流程
39:42比如说你经常需要流程配方
39:44或者整个操作改变的话
39:47你就需要一个具身智能
39:48需要比较通用的一个机器人
39:50帮你去做这样一个事情
39:52这可能是比较久远的事情了
39:53但不管怎么
39:54自动化实验室肯定是一个
39:56相对来说比较能看到的方案
39:58这是第一点
39:59第二点的话
40:00怎么样能够尽量减少物理实验对不对
40:03如果你闭环的瓶颈在于物理实验的话
40:06你很难做或者是做的成本高
40:08你必须要让它实验做得越少越好
40:10而且每做一次实验
40:11都保证它希望结果好
40:13而且这个实验的设置要对
40:15这就是在AI本身智能上面
40:17需要提高的东西
40:18如果现在AI为了产生一个新的
40:20符合要求的蛋白结构
40:21我要跑10次实验才能达到这个结构
40:23那你必须要
40:25为了降低成本形成闭环的话
40:27你要把这个智能提高
40:28让它只跑两次实验就可以做到一次
40:31所以对于这个数据分析能力
40:32对于这个实验历史的管理
40:35怎么样从过去历史当中失败的经验
40:38去做分析
40:38能够找出下一个更好的方案
40:41这对智能本身的要求是要更高的
40:43所以我一直觉得说 AI4S
40:45它不是说把science当作一个应用
40:47而是AI and Science
40:48就是你为了能够让AI
40:50更好解决science问题
40:51AI本身能力跟science结合的能力
40:54都要同时加强
40:56你如果AI推理能力还不够特别好
40:58你如果每次做的假设
41:00还是有很大的出入的话
41:01你不可能真正形成这么一个
41:04相对来说比较闭环的工作环境
41:06你刚才说的第一点 AI自动实验室
41:08那个还挺有意思的
41:09因为我看到Google DeepMind
41:11它之前跟伯克利还有劳伦斯
41:13伯克利国家实验室
41:14它有个叫A-Lab的合作
41:17你知道那个案例吗
41:18这可能是比较早的一个案例
41:20A-Lab是挺早的一个（案例）
41:21而且当时应该用的比较早的一个模型
41:23还不是Gemini
41:24但的确是自动实验室这个概念
41:27也是很早就有
41:28并不是说最近的大模型才有的
41:30我之前看他们说
41:31那个在17天内执行了353次实验
41:35获得了57个目标中的36个
41:38这个实验室现在还在继续地
41:40肯定在对
41:42你觉得现在它的壁垒它的难点在哪里
41:45是不是还是物理的机器人那一块
41:47如果从物理自动实验室这块来讲的话
41:50那的确是一个机器人的操作流程
41:52和机器人本身发展的一个
41:55这是另外一个课题
41:56怎么样能够让机器人
41:58特别是在某个领域
41:59专业的机器人能更快地操作
42:02完成一些实验然后降低成本
42:04所以为什么的确是
42:04整个AI for Science它设计很多体系
42:06不光是一个模型本身的能力
42:08而且为了加快实验
42:11你要让机器人本身的具身智能
42:14它的精确度、它的速度都要提高
42:17你可以想象未来真的形成闭环了
42:19如果很快能得到结果的话
42:21那你这个机器人本身就要很强大
42:24所以这一系列都是一个体系里面的
42:27那目前看起来
42:30非物理的那一块
42:31它的进展是要快于物理的那一块
42:34可以这么说
42:35非物理这块 in silico（计算机模拟）
42:36这些simulation（模拟仿真）什么的
42:38它的确比较好验证
42:39你可以衡量它的进步
42:41而且的确是
42:42因为它好衡量
42:43的确可能发展起来更快一点
42:44但是也有很多新的AutoLab（自动实验室）
42:48自己就是机器人
42:49不一定是通用机器人
42:50就是专门某个环节做机器人
42:51这个其实也是有很多发展
42:53特别是在美国很多一些新的初创公司
42:55都在做这个事情
42:57尤其是在医药领域
42:58你觉得用AI去发现因果机制
43:01这件事情能做到吗
43:03肯定可以做到
43:04In causality这个causal modeling（因果建模）
43:06其实是历史很悠久的一个课题
43:09在很早的时候
43:09像Judea Pearl 他们这些
43:11已经有很多因果模型做这些事情了
43:14但是我觉得可能
43:15现在的AI4S
43:16这个语境下面
43:17要发现因果机制说白了就是
43:19怎么能让language model（语言模型）
43:20让这个model（模型）
43:21能够分清correlation（相关性）
43:23和causation（因果性）之间的差别
43:24这个的确是可以说目前
43:26的确是语言模型一个弱点之一
43:28我不能说
43:28我个人感觉是
43:29现在语言模型
43:30它在这方面还不是说做得特别好
43:32因为有很多研究和分析
43:35你如果是给一个语言模型
43:36它一个推理的问题
43:37你把这个前提
43:38这么说它推理出来结果是对的
43:41但如果把这个前提稍微改一下
43:42或者是稍微把这个措辞
43:43或者前后语序顺序倒一下的话
43:46但是整个意思不变
43:47但language model（语言模型）
43:48生成的结果是错的
43:49因为language model（语言模型）
43:50在训练数据过程中
43:51它一般只看到过某一种形式的训练样本
43:54说白了大部分训练数据样本
43:56可能只是告诉你
43:57这个正确的描述该怎么样描述
43:59或者最常见描述该怎么样描述
44:00它从来没有见过说
44:01换种方式的描述是怎么样的
44:04所以这个时候
44:04如果你人为地把它换一个说法
44:07Language model（语言模型）
44:07很不习惯的一个说法
44:08它就会出错
44:08因为它没有在数据库里面
44:09这种事情是很多的
44:11所以为什么
44:12对的确是因果机制
44:14Language model（语言模型）
44:15本身是要提高的
44:16这就是为什么像Yann LeCun
44:18他们强调要做世界模型
44:20你不能说这个language model（语言模型）
44:22它只是训在表面的text（文本）上面
44:24因为文本上面
44:25永远是说人把最常见的一些说法
44:28或者是只给你看到正面例子
44:30但反面例子反过来说的话
44:31它不会在文本里面出现
44:33但是如果你能学到个世界模型
44:34学到整个物理
44:35内部的一些规律的话
44:37那它是独立于你怎么样表征的
44:39你怎么样去描述这个事情的
44:40如果世界模型能够做到这点的话
44:42那它对于因果关系的掌控
44:45可能要远远好于目前的
44:46Language model（语言模型）本身
44:47基于文字上的描述
44:48这样一个因果关系的推理
44:50所以最近也有一些新的初创公司
44:51也是在探索一些新的
44:53能够训练language model（语言模型）
44:55更好地去捕捉因果关系的一些努力
44:58所以说的确是一个很重要的课题
45:00我个人感觉是
45:01目前language model（语言模型）
45:02大部分情况下按照正常的描述方法
45:05它可以理解这个因果关系
45:07但是如果是一些反常的
45:10或者说你需要一些介入的
45:12比如说万一我把这个变量动一下或怎么样
45:15有些所谓Do-Calculus（Do演算）
45:17如果我万一把某个值调高一点
45:21它会产生什么结果
45:22或者如果我把某个条件去掉
45:24它会产生什么结果
45:25有这样的一些干涉的话
45:27它还是做不到
45:28很多情况还是做不到
45:29因为它真的是没有一个特别完善的
45:32物理的理解过程
45:34就是预测相关性
45:37其实这是大语言模型现在可以做到的事情
45:40就比如说X跟Y 高度相关
45:44但是如果科学它需要一个非常确定的
45:47精密的、certain（确定）的
45:49一个呈现跟statement（表述）
45:51比如说X是通过机制M导致Y的
45:55现在如果光靠语言去表征的话
45:59它其实很难去把这个逻辑关系、因果关系
46:02给非常确定地建立起来
46:04可以这样理解吗
46:05我觉得就是不可靠
46:07它不是说不能
46:08很多情况下language model（语言模型）
46:09它也是可以做因果关系的
46:11不然的话
46:11它有很多推理问题是没法完成的
46:13但问题是可靠性
46:14它可靠不可靠
46:15完全取决于你怎么样去表述这个问题
46:17或者表述这个结论这个前提
46:20如果你的表述方法
46:21跟它训练数据里面的表述方法不太一致
46:24或者是一些新的没见过的现象
46:26那这个模型就蒙了
46:27它不一定能够把这个因果关系提出来
46:29所以为什么
46:30的确是需要一些更底层的（判断）
46:35模型它对于因果关系的判断
46:36不应该基于你语言的表述
46:38而是应该基于你整个对物理建模的掌控
46:42刚才我们提到了
46:43整个AI for Science Loop当中
46:46会涉及到的一些具体的细分的环节
46:49你觉得这个环节当中
46:51有没有哪点我们漏掉的还想补充的
46:53可能一个我觉得可以提一下的是
46:56整个loop（闭环）它怎么样自我改进
46:58像Recursive Self-Improvement（递归式自我改进）
46:59你怎么样能够让这个loop（闭环）自我改进
47:01或者说你这个loop（闭环）怎么样建立
47:02前面我们大概讲的是一个
47:04相对来说比较简单的
47:05你给个问题
47:06给个proposal（提议）
47:08跑实验拿到数据做分析
47:09这个loop（闭环）是非常简单的
47:10但是你比如说如果像
47:13你要去再做AI4AI
47:16或者是你要去训个新模型
47:18可能这个loop（闭环）本身也需要改进
47:21有个Meta-recursive（元递归）的过程
47:24除了在改进模型本身
47:27或者是在改进做实验这个流程之外
47:31怎么样安排它这工作流
47:32或者怎么样去在什么时候让它
47:35自己去更新自己的代码
47:36这些Meta-recursive（元递归）
47:37或者是Meta Agent（元智能体）
47:39也是目前在探索的一些问题
47:41你不能说一直只依赖一种
47:43所谓agent（智能体）这个harness（挽具/驾驭系统）
47:44怎么样能让它串起workflow（工作流）
47:46随着不断地观测不断地迭代
47:50你要把自己整个工作流程也要改进
47:54这是Meta-recursive process（元递归流程）
47:56所以我觉得这方面是非常重要的一个话题
47:59你觉得中间有哪步是最难的技术上
48:02最难对于AI for Science
48:03肯定是verification（验证）
48:04它是物理世界上
48:05这么说吧
48:05verification（验证）可能是最重要的一步
48:07但是如果你verification（验证）做到位了
48:09哪怕你用最简单的AI4S方式
48:12它可以完成很多问题
48:13就像前面提到的
48:15如果你一分钟就可以拿到一次数据
48:17做物理实验拿到数据在理想情况下
48:20那你可以生成无数个数据
48:21然后你马上就可以
48:22重新post-train（后训练）一个模型
48:23然后像训代码或者是数学一样
48:25这个问题就解决了
48:27至少你verification（验证）
48:29可能是很重要的一环
48:30它是一个瓶颈
48:31一旦这个瓶颈被打破了
48:33你就可以很快地迭代
48:34但是这不代表这个问题解决了
48:37最难的一部分可能是你AI本身
48:40能不能提出新的一些见的
48:42就是你这个模型
48:43再怎么提出新的方案
48:45我再怎么去做推理
48:46如果它永远只是局限于目前
48:49Essay（论文）能够知道一些知识
48:51它没法提出新的一些设想
48:52或者是新的一些更有阶跃性的想法的话
48:57大部分情况下这个loop（闭环）
48:59只是在不断调一些参数
49:00或者不断试一些配方
49:02或者排列组合这样的话
49:03它能够达到的能力极限
49:04肯定是有限的是比较低的
49:06所以怎么样能够让AI产生更有创意的
49:10但同时又是合理的想法
49:11这其实是我觉得目前还很不够的一个地方
49:14就比如说前段时间
49:15诺贝尔得主Jennifer Doudna
49:17就是那个做基因编辑的人
49:20接受采访时人家就问她
49:21你们用不用AI帮你们做实验做一些科研
49:25她就说我们也用
49:27但是我们从AI给我们的
49:30proposal（提议）里面
49:31没有一个它的proposal（提议）
49:33是我们之前不知道的
49:34它生成很多proposal（提议）
49:35没有一个是我们不知道的
49:36可能有些地方是平时我们忽略的
49:37但是这些基本上现有知识都有的
49:40现在论文里面或什么样我们都可以知道
49:44所以说能不能提出一些既有创新性
49:47但同时又是可行的方案
49:49这个我觉得是很困难的一个问题
49:51这不光是在智能本身上
49:55需要建模的一个新的挑战
49:57所以要让AI真正可以怎么说
50:00下一步能够有这个突破性的科学上的帮助
50:04就是要解决去discover（发现）这件事情
50:07对
50:08而且discover（发现）
50:09是很挑战的一个流程
50:10目前的AI for Science
50:11它可能可以在它的表征空间里面
50:14已有的概念里面
50:15进行排列组合然后去搜索
50:17然后给你设计一些新的实验方案或怎么样
50:20它通过排列组合已有的概念
50:22的确可以给你解决一些
50:24可以说很大一部分问题
50:25这效率已经远远比人类高了
50:26但是如果你要真的是
50:29让AI以后能够自动生成一个
50:31像诺贝尔奖级别的科学过程
50:34一个科学结果的话
50:35这整个discovery（发现）过程
50:38我觉得是目前AI远远做不到的
50:40人类是怎么样发现知识的
50:41怎么样把科学知识提取出来的
50:44你先要接收perception（感知）
50:47感官的一些输入
50:48你观察人做实验观察数据
50:50这只是第一步
50:51这是经验的输入
50:53但是输入完之后
50:54你必须要能够形成概念
50:56就怎么样
50:57比如说你看到一个人
50:58一推这个车这个车就往前走了
51:01这是你观察到一个表面现象
51:03然后你要提取一个概念说
51:05是力力量
51:06他一推车往前走
51:08而且你要把它符号化
51:10生成一个F 这么一个
51:12第三如果你为了得到一个科学的理论
51:16你要把它凝结抽象成一个公式
51:19就像牛顿第二定律F=ma
51:21力量等于质量乘以a
51:23等于说你必须要把最原始的观测
51:28抽象成概念
51:29最后再形式化成这么一个理论体系
51:32这整个discovery（发现）过程
51:34我认为AI是非常困难的一件（事情）
51:37目前来说对AI还是非常困难的事情
51:38所以我觉得 AI4S
51:41目前只是在某种限度之内
51:43在已有的这个表征空间里面
51:45它可以去进行一些不同的探索
51:49但并不是说真正能够产生新的一些理论
51:52或者是知识
51:53AlphaGo 它的第37步
51:55就“神之一手”的第37步
51:57它那个算发现吗
51:59它也是发现
52:00它肯定是发现
52:00它是个新的发现
52:01但它这个发现的模式是把现有的内在表征
52:04比如说重新去排列一下或者组合一下
52:07原来可能它不一定是在最大
52:11或者是比较大的概率这个路径上面
52:13它突然有一步采样到一个
52:15之前不常见的路径
52:17它是一个发现肯定是新的
52:19但不代表它创造出这个新的概念
52:21我看你自己的公司Unreasonable Labs
52:24你们提出来一种解决方案
52:26是“大语言模型+符号主义”
52:29你觉得“符号主义”能够解决这件事情吗
52:32我不能说是解决问题
52:33但是我们想做的是
52:34至少可以解决目前
52:37Language model（语言模型）
52:37本身的一些弊端
52:38我们的出发点就是
52:40Language model（语言模型）还不足以
52:42产生更多的一些新的想法
52:43能够更好推动一些科学发展
52:45因为language model（语言模型）
52:45它的整个宇宙
52:46就是由这个训练数据决定的
52:49训练数据里面如果展现出来这个思维模式
52:52是language model（语言模型）
52:52可以吸收进去的
52:54各种数据或怎么样的各种推理过程
52:57它只能学到这一步了
53:00但是如果你真的是做科学发现的话
53:02按照定义来讲的话
53:03如果你要做科学发现
53:06你要发现东西
53:07肯定不是在现有的知识里面的对不对
53:09那你怎么能够
53:10让这个language model（语言模型）
53:11从一个固定的
53:13而且可能是过去的这些数据里边
53:16发现新的东西
53:17能够产生未知的这些东西
53:19这可能是非常难做到的
53:20不是说一定不可以
53:22只是这个概率可能非常非常低
53:24因为这个新的知识
53:25肯定没有在现有的训练数据里面
53:29以高频率出现过
53:30所以我们就希望在外面
53:31有一套机制
53:31能够帮助它产生一些新的不一样的想法
53:35这套机制你要让它起作用
53:37那肯定就不能是
53:38另外一个language model（语言模型）
53:38不能又是搞个数据训个模型
53:42不然的话
53:43就又跟language model（语言模型）一样了
53:44所以我们想做的就是说
53:47所谓“符号主义”
53:48大概讲一下
53:50“符号主义”是个非常宽泛的概念
53:51对跟我们不太熟悉这个概念的观众
53:54可以解释一下
53:55对这个“符号主义”是人工智能很早就开始的一个
53:58可能早期人工智能就开始沿用的一个概念
54:01当然它是非常宽泛的概念
54:02但简而言之就是写规则
54:04如果有些知识有些东西有些现象
54:07你是可以很明确地写出来的
54:09是先验的不需要通过数据来描述的
54:13或者来学习的话
54:14那你就把它写成符号
54:16写成公式或者是一个规则
54:19就比如说If-Then规则
54:20这样的一个逻辑规则
54:22你不用数据都可以知道的
54:24这是你先验的可以去规定的
54:26如果你知道A>B、B>C
54:28那么A>C
54:29这种东西是完全可以事先就写出来的
54:31你不需要学
54:32所以这就是
54:33不管是“符号主义”还是“连接主义”
54:35“连接主义”说白了就是神经网络
54:38“连接主义”就是你需要学习
54:41因为它这个表征是用一个向量
54:44去分散式表征你必须用
54:46不像“符号主义”说我就手写出来
54:47比如说你用符号把它这个知识表达出来
54:50但是“连接主义”是你要用这个向量去自己学
54:54可能里面每个元素它的意义
54:56是根据你观测收到的数据自己学出来的
55:00这两个就是“符号主义”跟“连接主义”的区别
55:03“符号主义”的好处就是说
55:05你可以先验地去写一个东西
55:07而且它很精确
55:08你像数学和代码其实都是符号
55:10包括可能目前的
55:12Agent Harness（智能体挽具/驾驭系统）
55:12它整个工作流程都是你先验指定的
55:14就是你第一步干啥第二步干啥
55:16万一出现什么情况
55:18你要什么时候去调用Memory
55:19这个都是先验规定的
55:20这肯定都是属于“符号主义”
55:21它是你先验的话
55:22你可以去设计出这个东西
55:24但是它的问题就是说
55:26它作为一个知识表征的方法它很脆弱
55:29比如说如果你要表征一个概念
55:32说什么是猫
55:33你怎么样表达猫这个概念
55:34你给个图像我怎么知道这是不是猫
55:36如果你要用符号去表示
55:39或者是规则去表示的话
55:40你可以说
55:41如果一个动物它有两个尖尖的耳朵
55:44然后长了胡子
55:47毛茸茸的
55:48有这么一套规则这就是猫
55:50但是问题是
55:51它这样的表征是非常脆弱的
55:53如果你
55:54你没有办法用纯语言去形容一只猫
55:58就是你没法用一套逻辑去规定很多东西
56:00没法用非常刚性的逻辑去刻画整个宇宙
56:05因为我们语言沟通当中
56:07很多现象都是非常模糊的
56:11猫这个照片你换一下
56:14如果猫正好在低头或者是猫正好在
56:16它跟你逻辑上的规定就不一样
56:18所以它就非常脆弱
56:20这是符号学为什么没有被用
56:22没有变成主流
56:23对当时没有变成主流
56:25那怎么办
56:26就是让模型自己去训
56:27就像这个“连接主义”
56:29让这个神经网络自己训
56:32去学习这个猫的特征
56:34然后就学成这么一个向量
56:36这样的话你来一个新的猫的照片
56:37它只要跟这个向量对比
56:38它如果足够相似的话
56:40我认为这就是个猫
56:41所以“符号主义”跟“连接主义”
56:44它各有特点各有长处
56:47但是的确是在像Deep Learning（深度学习）
56:50就是一个“连接主义”
56:51特别是涉及语言
56:52自然语言这个层面的话
56:55包括图像识别
56:56有很多模糊或者是有歧义的东西
56:59你必须要让模型自己学出来
57:01你们的这个路线是LLM（大语言模型）
57:03结合“符号主义”的一个混合解决方案
57:06它是怎么去运作的你觉得
57:08所以我们就是说像前面说的
57:10如果你要在LLM（大语言模型）外面加一层东西
57:12能够帮助它产生新的想法的话
57:14我们想把这些不同的
57:17比如说所有的这些人类知识
57:19把它用一些规则能够给串起来
57:24而且能够提出一些新的
57:25这样的话比如说有些概念
57:29是在这个论文里面提出来的
57:31它跟另外一个论文是有什么关系
57:34你可以把它给连接起来
57:35这些是可以用这些符号逻辑去表达出来的
57:38等于说你可以把不同领域的知识
57:40通过这么一个表达式
57:42可以把它给串起来
57:43这些东西是你很难从训练数据里面
57:47去发现的
57:47因为有这么多知识
57:49有这么多概念
57:53然后它之间的关系
57:54这个是不太可能从数据里面提到的
57:56而且每天有很多新的论文出来
58:00你不可能说每天去训一个
58:01新的language model（语言模型）
58:02所以它可以帮助我们
58:05能够更好地提取出知识之间的一些骨架
58:08它们之间推理关系
58:10以及它们之间怎么联系的
58:11这些东西可以作为一个模型的新的直觉
58:16给它生成一些在它概率范围之外的东西
58:20就是说小概率的一些事情
58:23但是现在我理解说
58:25还是在比较早的一个研发阶段是吗
58:27主要的瓶颈是什么
58:29我觉得是平衡创新性 novelty（创新性）
58:32它的新想法的创新性和可行性之间
58:37说实话你要让一个模型创新的话
58:39是很容易的
58:40哪怕就随便采样
58:41或者是给它任何扔一个单词
58:43它都可能生成一个不一样的想法
58:44但问题是你这个创新的想法必须要可行
58:47而且是必须要合理对不对
58:49你不能随便瞎说一些东西
58:52怎么能平衡创新性和合理性
58:53这是一个比较挑战的事情
58:55说白了你提出新的想法
58:58你要证明它这个东西
58:59的确是跟你这个问题比较吻合的
59:01而且是可行的
59:02而不是说是随便为了创新而创新
59:05你觉得“符号主义”有可能会重新复兴吗
59:09不能说复兴因为的确是
59:10我们看到世界很多东西都是非常有歧义的
59:13我不认为说这个“符号主义”一定（能复兴）
59:15我认为是不太可能说是替代“连接主义”
59:17因为神经网络毕竟它非常强大
59:19大家看到这个language model（语言模型）
59:21都是按照这个方式训的
59:22但是有一些东西
59:24可能是用符号来加速的或者说来加强的
59:28比如说最终可能有98%的是“连接主义”
59:32但2%的是“符号主义”
59:33其实现在这个AI for math（数学）
59:35AI for coding
59:37它就是一个neuro-symbolic（神经符号）
59:38符号跟连接主义拼在一起的这么一个结构
59:41比如说求解数学问题
59:44你原模型先生成一个数学证明
59:50这可能是neural network（神经网络）
59:51这是“连接主义”的一部分
59:52但是你这个证明对不对
59:54我就要用形式化证明的工具
59:57像这些Lean之类language（语言）
59:59去验证这东西对不对
1:00:00这套东西完全是符号的
1:00:01跟这个神经网络是没有任何关系的
1:00:05所以这已经是一个
1:00:07神经网络跟符号相联系的这么一个例子
1:00:10这两部分都很重要
1:00:11我觉得不管是符号还好还是连接也好
1:00:13它们的本质是说
1:00:15这个符号是一个先验的
1:00:17你不用数据你可以指定东西
1:00:20而“连接主义” 这个神经网络是
1:00:22你必须通过大量经验去学到东西
1:00:25这个就是说
1:00:26我觉得跟很多历史上的一些哲学上讨论
1:00:30都是相关的
1:00:31这都是关于人怎么样去认知这个世界的
1:00:34一些讨论
1:00:34就比如说在历史上的古典哲学里面
1:00:38大陆的唯理派和英国的经验派
1:00:40像弗朗西斯·培根
1:00:41像他们John Locke这些
1:00:42他们认为人的认知是完全来自经验的
1:00:45我这个大脑就是空白
1:00:47你给我看到什么样的输入
1:00:49我大脑就映射这个输入
1:00:50我的世界完全就是由外界的感官输入
1:00:53经验材料来决定的
1:00:55对应到今天的人工智能语境
1:00:58那就是大模型
1:01:00我一开始初始的时候
1:01:01它就是一个随机的模型什么都没有
1:01:03但是我经过万亿个这么多token的训练
1:01:07它完全是由这些感官输入经验输入
1:01:10来决定这个模型的智能的
1:01:11这完全就是一个经验派
1:01:13在当今语境下的一个映射
1:01:16但是另一方面
1:01:17唯理论就觉得人怎么样去理解这个世界的
1:01:21完全是由大脑一些先天的结构决定的
1:01:24就是我怎么样
1:01:25你像笛卡尔说“我思故我在”
1:01:27我先有个结构然后我再去理解这个世界
1:01:29完全是不依靠经验
1:01:31不依靠感官输入来决定
1:01:32我怎么样去理解这世界的
1:01:34这两派一个是先验的一个是后验的
1:01:38但是他们一直发展到
1:01:40像德国古典哲学家康德
1:01:43他觉得两个都不对
1:01:46我要把它们统一起来对不对
1:01:47所以康德就提出经验是提供材料的
1:01:52但是你看到这些东西感官输入都是材料
1:01:56怎么样能够对你产生意义
1:01:59那是你需要有个先验结构
1:02:00人脑里面总是有些先天的结构
1:02:02使这些感官输入有意义
1:02:04不然的话
1:02:05你不管看到的是一个圆球还是一个轮胎
1:02:10对你来说只是一个随机的输入
1:02:12但你感受不到它是一个圆的这么一个概念
1:02:15所以康德就觉得人有先验
1:02:18大概他觉得有12个范畴这样的
1:02:20先天综合判断有这么先验的结构来
1:02:23比如说是对时间空间物体
1:02:26因果关系等等一些先验的结构
1:02:27来阐释这个世界
1:02:28来阐释这个感官
1:02:29这部分完全是先验的纯粹是理性的
1:02:32他觉得这两个东西必须结合在一起
1:02:35才能够产生人的智能
1:02:37人才能产生知识
1:02:39这是到了康德
1:02:40然后再到后来黑格尔
1:02:41他觉得康德说得也不对
1:02:44你不能说把理性和感性和经验对立起来
1:02:47不是说是两分的
1:02:48应该是辩证统一的
1:02:50就是说你要不断地持续更新
1:02:53你不能说一个概念一旦树立起来了
1:02:55像先验树立起来了
1:02:56一直就是恒定不变的对不对
1:02:59所以要不断地进行自我否定
1:03:01要变成不断持续更新
1:03:03映射到今天的这个语境
1:03:05到人工智能产品语境
1:03:06那就是持续学习continual learning
1:03:07你这个模型训完之后
1:03:09最终AGI肯定不说就是这么一个文件
1:03:11就是这么一个固定死的checkpoint
1:03:14所有的参数都刻在里面了
1:03:16你说这是智能
1:03:18肯定这个不可能是这样子对不对
1:03:20它一定要是在不断地跟用户互动
1:03:23或者是它执行任务的过程当中
1:03:25要不断认识到自己的错误
1:03:26然后持续地去更新自己
1:03:28能够让自己变得更加智能
1:03:31整体来说我的意思就是
1:03:33不管是“符号主义”还是“连接主义”
1:03:35这个东西其实
1:03:35这是在人工智能语境下讨论的概念
1:03:38但是其实他们的这些讨论话题跟古典哲学
1:03:44其实都是一脉相承的
1:03:46只是说不同的时期不同的人
1:03:50他考虑问题的视角不一样
1:03:51但是他们都讨论同一个问题
1:03:52那就是人怎么认识这个世界的
1:03:55知识怎么产生的
1:03:57只是说古代的科学家
1:03:58他们用的不是计算语言
1:04:00但是我认为这些探讨都是一致的
1:04:03这段挺好的
1:04:04但我们拉回来一点点
1:04:05到我们现在的资本市场上面来
1:04:08我们看到现在三大AI巨头
1:04:10我们刚才讲了Google
1:04:12还有OpenAI、Anthropic
1:04:13它们也都是最近在狂招科学家加入它们
1:04:17做AI4S这件事情
1:04:19这三个公司它们各自选择的方向
1:04:21有什么样的不一样
1:04:22它们各自押注的或者它们切入的那个点
1:04:24有什么样的不一样
1:04:25能不能跟我们来展开分析一下
1:04:28我觉得很明显在这三公司里面
1:04:30Google肯定是布局最早
1:04:32AI for Science布局最早、最广
1:04:35可以说是研究路径最多的一个公司
1:04:39很早就有这些这个毫无疑问
1:04:42所有的Alpha系列
1:04:42包括最新的一些Co-Scientist
1:04:45Gemini for Science这些努力
1:04:47所以像Anthropic和OpenAI
1:04:51它们当然意识到AI4S的重要性
1:04:54所以它们花了很多投资在这里面
1:04:57你比如说OpenAI
1:04:59它们其实也是很早就开始
1:05:01像GPT-5发布的时候
1:05:02它们就拿GPT-5去
1:05:03已经有个White Paper（白皮书）
1:05:04就是拿GPT-5这个模型去解决各种问题
1:05:06数学、计算机科学、生物等等
1:05:08说已经可以解决很多科学问题了
1:05:11它们也有一些非常
1:05:12可以说非常激进的计划
1:05:14比如说要公开地
1:05:18宣布说在2027年好像
1:05:20之前要有一个自动的AI科学家
1:05:23它们有这样一个目标
1:05:25然后它们也会
1:05:27包括像前面说的
1:05:29OpenAI GPT和Ginkgo Bioworks
1:05:33AutoLab（自动化实验室）
1:05:34进行闭环这么一个实验
1:05:35这可能是一个目前为止最使人信服的
1:05:38而且是效果最好的闭环实验
1:05:40这是OpenAI它们做的
1:05:42它们也就是在GPT这个模型上面
1:05:45去专门为了生物化学好像材料也有
1:05:50专门去把GPT模型
1:05:51适配到这个新的领域里面去
1:05:53等于生成了一个新的
1:05:55可以进行生物和化学等等
1:05:57这些话题推理的这么一个模型
1:06:00叫GPT-Rosalind
1:06:01还有就是最近它们刚刚发布的这个Astra
1:06:03新的Astra模型
1:06:03它们论文说10个前沿数学问题
1:06:05它们在数学上面很成功
1:06:06虽然我看到有些科学家有一些争议
1:06:09对没错
1:06:10这是一个怎么样能够让数学更可靠的问题
1:06:15但是不管怎么样
1:06:15没事 AI for math我们待会来讲
1:06:17我们先说OpenAI在那个
1:06:20它们其实我认为是非常激进的
1:06:23想迎头赶上的这么个问题
1:06:25但是我觉得它们可能也有个问题
1:06:28就是在AI4S布局上的一个问题
1:06:29就是说它们的priority（优先级）
1:06:31它们的优先级
1:06:33我觉得还是可能有些混乱
1:06:36因为它们之前
1:06:37负责AI for Science的负责人Kevin Weil
1:06:39他原来是做AI4S lead（部门负责人）
1:06:41也招了很多物理学家什么做这个事情
1:06:44但是Kevin Weil
1:06:464月份的时候还是5月份的时候离职了
1:06:48所以说他们目前
1:06:49离职之后就把之前的
1:06:51AI for Science的一些effort（进展）
1:06:52全都并入到Codex里面去
1:06:55等于说是希望用一般性的
1:06:59GPT模型和agent（智能体）
1:07:00来解决各种科学问题
1:07:03这是他们的一些赌注的方向
1:07:05能够让GPT变得更足够强大
1:07:07以至于它能够解决更多的科学问题
1:07:10而不是说专门去
1:07:11但是他之所以有这么一个举动
1:07:13是因为他们也要想迎头赶上
1:07:15coding（编程）的能力
1:07:16要赶上Anthropic
1:07:17他们要把这个资源整合
1:07:18要把这个优先级扳正
1:07:22但是OpenAI它自己已经有很多产品线了
1:07:26它们可能扩张可能比较快一点
1:07:29比如说不光是GPT
1:07:30还想做ads（广告）还想做硬件
1:07:33然后也想做企业的版本
1:07:37所以一旦你这个产品的战线拉长之后
1:07:39你怎么样能更好地去做
1:07:41AI4S的这么一些前沿的投资
1:07:44我觉得这可能是在优先级上面
1:07:46或者是在管理上面一些战略上面
1:07:48是需要讨论一些方向的
1:07:50对于Anthropic来说
1:07:51我觉得它们可能相对来说是比较后来居上
1:07:53这么一种感觉
1:07:54它们最近发布了Claude Science这个平台
1:07:57不到一个月
1:07:58但这个平台本身
1:07:59其实也是拿一般的Claude模型驱动的
1:08:02它只是一个界面
1:08:03或者说它把不同领域的
1:08:06特别是生物和化学领域等等的数据库加上去
1:08:09一些工具加上去
1:08:11把这个界面专门针对科学家的工作流程
1:08:14定制化一下
1:08:16但它本身并不是
1:08:17像我们之前讨论的
1:08:18并不是说能够帮它更快产生一些
1:08:20自己产生新知识或什么
1:08:21它只是一个产品一个平台
1:08:23但是的确是Claude在这个研究上面
1:08:25也做了很多的努力
1:08:27比如说它们之前很早就
1:08:29几个月前就有拿Claude
1:08:31做那个vibe physics（氛围物理）
1:08:32用Claude去帮助物理学家
1:08:35去推导数学新的物理结论
1:08:36一些数学的方式一些模型等等
1:08:39也包括它们自己也发布了一些benchmark（基准测试）
1:08:42像什么
1:08:43BioMysteryBench（生物信息学基准测试）
1:08:44类似这样的
1:08:45在生物方面的一些Benchmark（基准测试）
1:08:47但是我觉得
1:08:48包括它们最近把John Jumper挖过去了
1:08:50很明显它们也希望能够在生物和医药领域
1:08:53会有些更大的押注
1:08:56因为这的确是市场很大的一个方向
1:08:58所以我觉得它们是在迎头赶上
1:09:01但是我觉得它们也在探索的阶段
1:09:04John Jumper过去之后
1:09:05你觉得他负责的职位是什么
1:09:08因为我看到他的职位
1:09:09现在好像还没有公开出来
1:09:11我觉得比较顺其自然的这么一个安排
1:09:13肯定是要把Anthropic里面
1:09:15科学方向往
1:09:17能够在生物和医药方面去加强
1:09:20像OpenAI它已经发布了GPT-Rosalind
1:09:23它等于是往生物和化学方面
1:09:26定制这么一个GPT模型
1:09:28能够做很多这方面的推理
1:09:29Anthropic可能是目前唯一一个
1:09:30在OpenAI、Google和Anthropic
1:09:32可能是目前唯一一个
1:09:33没有说特定领域里面的
1:09:35这么一个模型的公司
1:09:38它们可能需要专门给生物和医药
1:09:42做这么一个领域
1:09:44垂直的小模型
1:09:46像John Jumper这样的人
1:09:46是特别适合做这样的事情
1:09:48我觉得可能是这方面会有一些安排
1:09:51但那个可能也不是它们的重点
1:09:55目前来看肯定我相信
1:09:57它们目前肯定是要上市
1:09:59或者商业上的一些
1:10:00是coding（编程）是最重要的
1:10:01coding（编程）最重要
1:10:02而且随着中国开源的模型突飞猛进
1:10:05肯定对它们造成很大威胁
1:10:07在这种情况下
1:10:08它们怎么样去平衡这个优先级
1:10:10这依然是一个战略和管理上的（问题）
1:10:13对还挺有意思的
1:10:14因为我们刚才说到这三大AI公司
1:10:17现在虽然它们都在布局AI for Science
1:10:20但是AI4S
1:10:21不是它们现在的最优先级别
1:10:24它们现在最优先级别还是coding（编程）
1:10:26还是商业化还是把模型做大
1:10:29那这样来说的话
1:10:30是不是Neolab（新型AI实验室）或者是创业公司
1:10:33反而有一些先手的机会呢
1:10:36对这就是大公司总是有它盲点
1:10:38而且大公司总是有创新者窘境
1:10:40就是innovator dilemma（创新者窘境）
1:10:42它一旦挖出一条商业化的明确路径
1:10:46它肯定不愿意马上放掉
1:10:47或者说把业绩换到其他方向去
1:10:49肯定要等这个路径稳定之后
1:10:51再去投资些其他东西
1:10:52所以我觉得这是可以理解的
1:10:56这是一个science（科学）
1:10:57和AI recursive self-improvement（递归式自我改进）
1:11:00一定是一个长远来说
1:11:01战略上必须投资的一个方向
1:11:03没人敢去落后的
1:11:05但是短期内
1:11:07肯定还是以商业优先
1:11:10你必须要保证上市的一些工作能够到达预期
1:11:14所以但我相信它们这个方向
1:11:16是不会放掉的
1:11:17其实我们刚才举的很多案例还是生物制药
1:11:20材料这个方面的案例
1:11:22那我们再来聊聊AI for math（数学）
1:11:24还有AI for Physics（物理）
1:11:25物理跟数学方面的一些AI的发展
1:11:27因为这两个最近我看大家讨论得也挺多
1:11:30特别是在数学上面
1:11:31除了邓煜跟王虹获得了菲尔兹奖之外
1:11:34就是AI for math的领域
1:11:36其实也有很多的进展
1:11:39数学是AI相对容易攻破的领域吗
1:11:42我不认为很容易
1:11:43但是取决于你什么样的数学
1:11:45数学这个有很多概念很宽泛
1:11:48可能目前有两家比较突出的数学
1:11:51就是AI for math的初创公司
1:11:54一个是Axiom math AI
1:11:55另外一个是Harmonic AI
1:11:57当然他们的方法可能都差不多
1:11:59也有这样的一些比较前沿的探索
1:12:01在怎么能够让AI能更好地做math（数学）
1:12:03以及怎么样能够让math（数学）去市场化
1:12:06比如说做些可验证的一些领域
1:12:08做EDA（电子设计自动化）
1:12:09或者做软件设计或怎么样
1:12:11但是他们的方法可能都会相对比较相似点
1:12:15我觉得就说AI for math
1:12:17它能解决什么样的问题
1:12:20取决于数学库
1:12:22就是Lean这个language 它数学库
1:12:23因为肯定先大概讲
1:12:25就是比较
1:12:27特别是做比较复杂的math（数学）
1:12:28它这个过程是
1:12:29你得让language model（语言模型）
1:12:31先去提出一些比如说证明的
1:12:33数学证明的一些方案
1:12:35但是language model（语言模型）
1:12:36它自己不知道这个数学证明过程是不对的
1:12:38那你怎么办呢
1:12:39你必须把这个证明先自动地去
1:12:43形式化成一个叫Lean的language
1:12:45Lean的语言
1:12:46你Lean如果一旦这个语言编译通过了
1:12:49那这个数学的结果一定是对的
1:12:52那就是证明language model（语言模型）
1:12:53它提出的东西是对的
1:12:54但这样的话
1:12:55这里面有好几个环节是个瓶颈
1:12:58第一个就是说
1:12:59你language model（语言模型）
1:13:00本身要足够强大
1:13:01它能够提出这么一些可能的一些证明方式
1:13:03或者是新的数学上的一些结果
1:13:05这是第一个
1:13:06第二个你自动化这个形式化过程
1:13:08怎么样用自然语言描述这个数学结果
1:13:11或者是用数学符号描述数学结果
1:13:13转换成Lean这样的一个language
1:13:15这个转换过程
1:13:16翻译的过程不是特别容易的
1:13:18这也是像Axiom AI和Harmonic AI
1:13:20它们花很多功夫在做的事情
1:13:23第三个就是说
1:13:24你如果为了解决更多更难的数学问题
1:13:28你需要Lean它语言本身
1:13:30它的数学库mathlib
1:13:31能够包容很多很多
1:13:33相关的已有的人类数学知识
1:13:35这些材料必须都已经在那里
1:13:36不然的话它没法拼起来
1:13:37那这过程还要花很多功夫
1:13:39就是怎么能够把人类的已有的数学知识
1:13:42更多地放到加到mathlib里面去
1:13:45所以这几个要素决定就是说
1:13:47你这个AI for math能够走多远
1:13:51但是Lean是一定需要的吗
1:13:53因为我看到OpenAI它其实
1:13:56国际数学奥林匹克里面
1:13:57它其实就强调说
1:14:00它们的模型直接可以输出自然语言证明
1:14:03而不需要Lean了
1:14:04对 Lean不是必要的
1:14:05但是你要做一本正经认真做数学
1:14:08或者做数学家级别的数学
1:14:11你是需要Lean的
1:14:12对于像奥林匹克竞赛这种
1:14:16奥林匹克竞赛就它可能用到数学
1:14:17你比如说高中参加数学竞赛
1:14:19它可能用到数学知识不一定会特别多
1:14:21不一定会特别深
1:14:22它考察的是你这个参赛者他的
1:14:24比如说创新的这个创能力
1:14:25能不能找到一个就是非常复杂的构造
1:14:28一个过程的这么一个能力
1:14:30但你可能涉及到数学知识
1:14:32包括整个证明过程本身
1:14:33不一定会特别复杂
1:14:34它可能几页
1:14:35一两页是肯定是可以写出来的
1:14:37所以在这种情况下
1:14:37你language model（语言模型）
1:14:38它自己就生成这个
1:14:39就只要你训这个模型训得好训到位
1:14:41它用自然语言生成这个结果
1:14:44很大程度上是可以可信的
1:14:44而且IMO（国际数学奥林匹克）
1:14:45毕竟只是一个考试
1:14:47你很快就递交这个结果
1:14:49你就可以验证这个东西对不对
1:14:50这是作为考试的设置
1:14:52这个没什么太大问题
1:14:53但你可以想
1:14:54如果是你今天让这个AI
1:14:55去做王虹这样的级别
1:14:56一个证明100多页
1:14:58你怎么
1:14:58你如果language model（语言模型）
1:15:00生成100多页的数学证明
1:15:01全是自然语言
1:15:02它没有办法保证这个东西是正确的
1:15:05所以你如果为了让AI
1:15:07做职业的数学家做的事情
1:15:09做非常复杂的证明的话
1:15:10你为了保证这个结果是绝对正确
1:15:12你必须还是要把它转换成Lean这个语言
1:15:17所以这也是
1:15:18就可能是当代最伟大的数学家之一
1:15:21叫Peter Scholze
1:15:22这么伟大的一个数学家
1:15:23是非常的神童这么一个数学家
1:15:25解决很大一个问题之前
1:15:26他自己都对自己的证明他自己都很怀疑
1:15:28就是这个东西到底对不对
1:15:30他跟很多
1:15:31也跟他的合作者讨论很多次
1:15:33没有人说很确定说这个结果
1:15:34他证明过程对不对
1:15:36那怎么办呢
1:15:37连这么伟大数学家这么聪明的数学家
1:15:39好像2018年就拿过菲尔兹奖了
1:15:41他都没法说确定
1:15:42他这个自己证明结果对不对
1:15:44那最后怎么
1:15:44他就找他的朋友和他的合作者
1:15:47只能把他的之前这些所有相关的
1:15:50一些数学的定理或者是定义
1:15:52一些引理等等
1:15:53人工地去转换成形式化
1:15:55生成这个Lean语言
1:15:57突然有一天等到他们全部转完之后
1:16:00一下子这个（Lean）编译通过了
1:16:02就证明这个东西是这个证明是对的
1:16:04因为一旦是这个东西它一定是对的
1:16:06形式化证明
1:16:07当时Peter Scholze非常兴奋
1:16:09说明这个结果是对的
1:16:11所以就是即使是最顶级的科学家
1:16:13他在处理非常复杂的数学问题时候
1:16:16依然是很难确定这个东西到底对不对
1:16:19你只有非常严格地把它
1:16:21你只能相信逻辑和计算机
1:16:23你一旦计算机说是对的它一定就是对的
1:16:26这样的例子不止一个
1:16:27还有一些其他例子
1:16:28就是你必须用这个
1:16:29为了证明这东西对不对
1:16:30你必须把它翻译成逻辑上的一些
1:16:32可以推导的可以保证正确的一个方式
1:16:34但是把它转换成形式化的Lean的话
1:16:38它需要花很长的时间
1:16:40对人工要转换是要很长时间是的
1:16:41可能我当时我记得好像他们至少花了
1:16:44一两年好像
1:16:45因为好像是去年我记得
1:16:47谷歌它在参加那个国际奥赛的时候
1:16:50它好像是说给选手的时间就两天
1:16:54结果他们把它转换成Lean的语言的时候
1:16:57就花了三天时间
1:16:58也就已经超过了可以允许他们花的时间了
1:17:01是的是的
1:17:02为什么要花那么长时间
1:17:04因为你这个结构化语言这个Lean
1:17:06它是你要把你这个数学当中相关
1:17:10所有的相关的一些概念
1:17:11和所有需要用到一些定义
1:17:14之前一些定理怎么怎么的
1:17:15所有的这些都需要非常严格地
1:17:17按照它这个type language（类型化语言）
1:17:20转换过去
1:17:20这是一个非常深入过程
1:17:22你如果之前你在证明一个定理过程当中
1:17:25如果你用到有些数学的概念
1:17:27或者有些数学的证明步骤
1:17:30是不在他这个library（库）里面的
1:17:32你就得去定义
1:17:34就是你必须把这整个推导过程当中
1:17:35所有的碰到的这些数学相关的一些东西
1:17:37全都形式化
1:17:38所以这是会花很多时间
1:17:40那现在是不是
1:17:41现在有两种并行的发展路线
1:17:43第一就是是不是模型越来越强大之后
1:17:47越来越复杂的问题会不太需要形式化
1:17:50或者不需要Lean的这种方式
1:17:51还有一种方式就是说
1:17:52能不能把人转Lean
1:17:54或者是Lean转自然语言的这个过程
1:17:55把它更加的快一些
1:17:57或者更加的efficient（效率）
1:17:59给加速化
1:18:00我觉得如果真的是让AI
1:18:01做很严肃的专业的数学问题
1:18:03那肯定还是要用Lean 这个毫无疑问的
1:18:05所以这个瓶颈就是
1:18:06你怎么能够让这个翻译的过程
1:18:09更高效、更快速
1:18:11这就是你要训那个
1:18:12Language model（语言模型）
1:18:12能够让它自动地就是
1:18:14像机器翻译一样的
1:18:16你要把英语翻译成法文
1:18:18你要翻得更准确而且绝对不能出错
1:18:21那就是要把你数学的表达翻成Lean
1:18:25这个是必经的一个路径
1:18:27如果你要真的是为了出专业数学的话
1:18:29但如果说只是一般地做相对来说
1:18:31就像考试或者是
1:18:33比较小的一些设置情况下
1:18:36你自然语言是承接证明
1:18:37你自己可以验证的
1:18:38那你也不一定要用Lean
1:18:40但这样的话你就需要
1:18:41把这个language model（语言模型）
1:18:42在这个数学上面训得非常好
1:18:43所以还是得要模型更强大才可以
1:18:46我看到现在数学界
1:18:47有教授把现在的数学问题分成了几个等级
1:18:51第一类的问题
1:18:51就是博士生花几个月
1:18:53就能够解决的练手问题
1:18:55第二类就是再高一级别
1:18:58普通期刊级别的问题
1:18:59职业数学家花一两年就能攻破的问题
1:19:02第三类是数学的四大顶刊级别的问题
1:19:05第四类就是菲尔兹级别的问题
1:19:08比如说王虹她解决的挂谷猜想
1:19:11第五类是最高级别的
1:19:13就是所谓的超菲尔兹级别的问题
1:19:16就是说你不用完全解决
1:19:17但是你的研究把它往前推了一大步
1:19:20你有一个重大的推进
1:19:22就能拿菲尔兹奖
1:19:24现在一个问题就是说
1:19:26AI到了第几个级别了你觉得
1:19:28我觉得按这个级别定义
1:19:31我觉得很难去界定
1:19:33就是可能这个不是一个很好去衡量
1:19:36AI把数学能解决什么问题的一个尺度
1:19:39我觉得可能更合适的一个尺度是说
1:19:41不管你有多难的数学问题
1:19:42如果它这个数学问题本身
1:19:44不需要产生一些新的数学对象
1:19:47或者产生新的一些数学定义
1:19:48说白了就是你这个数学问题的结论
1:19:50是可以通过已有的这些数学的定义
1:19:52和已知的一些数学的证明引理等等
1:19:55可以推导出来的
1:19:56说白了就是你这个表征空间是固定的话
1:19:58这个是我相信可能就是不管你这个多难
1:20:00AI总是如果模型足够强的话
1:20:03它是有可能把一个证明或者一个解
1:20:06给搜索出来的
1:20:07只要它搜索的强度足够大
1:20:11有可能是完全可以把这个解搜索出来的
1:20:12因为你不需要创造新的概念
1:20:14所以它还是个搜索的问题
1:20:15对你还propose（提出）一个数学证明
1:20:17它就是个生成的过程对不对
1:20:18就是你生成一系列数学公式
1:20:20那也就是一个在推理时候
1:20:21生成不断去搜索的这么一个过程
1:20:23哪个证明它可能
1:20:25这概率更好、更高
1:20:26或者是它的所谓的reward（奖励）
1:20:29可能更大
1:20:29这永远是一个搜索过程
1:20:31所以你觉得数学它是一个证明的科学
1:20:36不光是证明
1:20:37我觉得其实恰恰相反
1:20:38就证明肯定是很重要的一部分
1:20:39它不是需要发明的科学
1:20:42其实数学是更重要的是
1:20:43我觉得可能是更要发明的过程
1:20:44因为没有概念没有数学
1:20:46对数学定义的这个过程
1:20:49就是以数学对象发明
1:20:50数学对象
1:20:51以及对这个数学对象定义的过程
1:20:53是不可能有数学的
1:20:55你最简单的从最早这个数的概念本身
1:20:57你先要定义数
1:20:59然后你才能定义这个加减法
1:21:01然后你才能定义
1:21:02如果任何的数学的这些定义里面
1:21:06用到都是数学概念
1:21:07你说微积分
1:21:08积分、微分什么意思对不对
1:21:10或者是线性代数里面这个特征值什么意思
1:21:14或者是微分几何里面黎曼度量什么意思
1:21:16这些都是概念
1:21:17一个好的数学家
1:21:18更重要的事情是他能够找出
1:21:20或者是定义出非常优雅的一个数学的概念
1:21:22一个对象
1:21:23抽象出一个数学的本质上的定义
1:21:27这可能你如果有个很优雅的
1:21:29很优美的一个数学定义
1:21:31可能远远比你推导出这个过程更重要
1:21:33没有一个合适的数学对象
1:21:35你是没法推导出数学的一个过程的
1:21:38如果你去学线性代数
1:21:39你光看到一堆矩阵
1:21:41但是如果你没法
1:21:42从这当中抽象出这么一个概念叫特征值
1:21:46那你是没法精确地捕捉到矩阵
1:21:49它内在的一些结构
1:21:52所以这个过程
1:21:53怎么能够在这些数学对象里面
1:21:55抽象出、定义出这么一个新的对象
1:21:58一个数学的定义
1:21:59这个才是我觉得对数学来说
1:22:02可能是最优美的一部分
1:22:03或者是最需要洞见力的一部分
1:22:05这个部分AI可以做到吗
1:22:07我不认为它可以做到
1:22:08永远都不行
1:22:09甚至我个人是觉得它
1:22:12我觉得这部分甚至都不是一个
1:22:14就是怎么样能够抽象出概念的过程
1:22:15是一个可计算过程
1:22:16可能有些证据
1:22:17但是让AI自己去推导出一些新的概念
1:22:21或者是抽象新的概念
1:22:22是非常困难一个问题
1:22:23且不要说在数学领域
1:22:25让这么复杂的一些关系之间
1:22:28让它能够提出一些新的概念
1:22:29哪怕最基本的一些数的概念
1:22:31如果你可以想象一个语言模型
1:22:34如果它从来没有在数学上面训过
1:22:38它不知道有没有这个数的概念
1:22:39就像原始人一样的
1:22:40原始人如果看到三只鹅、四只鸟、五棵树
1:22:44你这个原始人已经可以开始算数了
1:22:46可以有这个数的概念了
1:22:47它可以定义出阿拉伯数字
1:22:50抽象出这个数的概念
1:22:51这个数的概念可以用于任何物体
1:22:53不一定是鸟
1:22:53什么物体都可以用这个数的概念
1:22:55但是如果你说你给AI只是看这几个物体
1:22:58三只鸟、四只鹅等等
1:23:00它是不可能提取出数的概念
1:23:03我是很难想象有一个程序说
1:23:05你给它这么一些感官输入
1:23:07它能够提出这样概念的
1:23:09所以这个概念抽象的过程
1:23:11我认为可能是AGI的
1:23:12最后的last mile（最后一英里）
1:23:13最后的一步
1:23:15这个mile可能是永远无法逾越的
1:23:17这个过程我认为甚至都
1:23:18不一定是在图灵可计算这个意义下面
1:23:20都不一定是
1:23:21一个图灵可计算的这么一个过程
1:23:23这也是为什么
1:23:24我觉得人脑在最底层
1:23:26它并不一定是一个图灵机
1:23:29不是跟图灵机等价的这么一个过程
1:23:31你觉得数学是人类表达逻辑的
1:23:33一个精准的语言
1:23:35还是宇宙客观规律的一个结构本身
1:23:39这是很大一个问题
1:23:40而且我觉得这个问题
1:23:41不管是回答什么问题
1:23:42这是没法验证的
1:23:43没法证伪的
1:23:45因为你不可能让上帝告诉你
1:23:47我这个宇宙是用数学造的
1:23:49但是这个问题就是一个多世纪前
1:23:51数学家讨论数学本质的问题
1:23:53它到底是发明的还是发现的
1:23:54是整个宇宙本来就是有数的概念
1:23:56还是人们人为发明数的概念
1:23:58而且当时有这么几个看法
1:24:00一个是叫所谓“直觉主义”、“形式主义”
1:24:03“逻辑主义”
1:24:04就是数学到底是什么
1:24:05它到底只是一个形式系统
1:24:07还是一个逻辑系统
1:24:09还是一个人类创造出来的直觉系统
1:24:12这个东西没有定论
1:24:13到今天可能永远都没法定论
1:24:15就像我前面说的
1:24:15这不太可能去证明的
1:24:16但是如果非要我去选一个边的话
1:24:20我觉得可能数学是人创造出来的
1:24:23而不是说宇宙本身是个数
1:24:25就像您刚才说的
1:24:26人看到了两只鸭、三只鹅、四只鸡
1:24:32把它的概念抽象出来
1:24:33用数学公式变成了一种语言表达
1:24:36对这是一部分
1:24:37但是另外一部分就是说
1:24:39因为数学作为一个逻辑体系
1:24:42它永远不是自洽的
1:24:43就上世纪非常有名一个定理
1:24:45可能是数学史上最重要的一个定理之一
1:24:48叫哥德尔 Kurt Gödel
1:24:50他证明了一个定理叫“不完备定理”
1:24:52任何一个足够强大的形式逻辑系统
1:24:54总有一些事实是对的
1:24:56但是你是没法去证明的
1:24:58去验证的
1:24:59就是验证
1:25:00如果这个宇宙
1:25:01我不相信这个宇宙本身
1:25:02它有不自洽的地方存在
1:25:04如果宇宙跟数学是完全一一对应的话
1:25:07人类创造这个数学
1:25:08是形式体系一一对应的话
1:25:10那这宇宙有些地方是不自洽的
1:25:12我认为这个是很难去理解的
1:25:14因为宇宙它就是一个自在之物
1:25:16它就是个存在之物
1:25:17它不需要去描述
1:25:18它一定就是说自己该什么样是什么样
1:25:20数学作为一套逻辑体系
1:25:21它之所以有这么一些矛盾
1:25:23永远不可能调和的矛盾
1:25:25那是因为它是人造的一套
1:25:28发明的这么一套逻辑体系
1:25:29一旦是人造的东西它就麻烦
1:25:31因为它不是这个本体本身
1:25:32它不是这个物自体本身
1:25:33它是一套逻辑
1:25:35是套符号和人为定的规则
1:25:39所以它会有些逻辑上的矛盾
1:25:41这只是我个人的一些（想法）
1:25:43这东西没法验证
1:25:44我看主攻AI for math的数学家陶哲轩
1:25:47最近也出来做了很多的演讲
1:25:49他其中有一个观点
1:25:51是数学从一个证明稀缺的时代
1:25:54已经进入到了一个证明过剩的时代
1:25:57其中的一个例子
1:25:58就是说现在很多的网站
1:26:00它其实会收录很多
1:26:02之前人类解不出来的数学难题
1:26:04现在很多网站的这些题下面已经堆满了
1:26:07几十份AI生成的解答
1:26:09但是没有任何的人类专家
1:26:10愿意去接盘验证这个事情
1:26:13就是说有可能我们很多的难题已经
1:26:16AI找到了答案
1:26:17但是人类没有时间
1:26:19没有bandwidth（带宽）
1:26:20没有精力或者没有能力去验证
1:26:22这个东西就觉得还挺讽刺的
1:26:24所以不是结果正确就一定正确
1:26:27你就算它验证出来
1:26:29自动验证出来是对的
1:26:30作为人来说
1:26:31你需要去理解然后去评判
1:26:34人有价值判断
1:26:35这个东西到底是
1:26:36这个验证证明过程是不是有它的价值
1:26:38有个洞察力
1:26:39我觉得可能打一个不是特别恰当的比方
1:26:43比如说如果你要去听音乐会
1:26:44如果你想听一个钢琴演奏
1:26:45如果我告诉你这钢琴是个机器人演奏的
1:26:48我保证这个机器人它按键的力度
1:26:51它的长度都是完美的
1:26:53按照作曲家规定来弹的
1:26:55我就不想去听
1:26:56对你肯定就不想去听
1:26:57即使这个音色其实是绝对完美的对不对
1:26:59但是如果你知道它是个机器人
1:27:01你就不一定想去听
1:27:02但是同样的
1:27:02如果是一个钢琴家去弹的是个人弹的
1:27:05你就愿意去听
1:27:06因为你想听的不只是说一个结果
1:27:09只是这个音色本身
1:27:10而是这个钢琴家本身自发的
1:27:12这么一个情感的状态
1:27:14这是能够让你产生共鸣的
1:27:15让你产生一些
1:27:17打动你的一些东西
1:27:19它不是说只是一个结果
1:27:20不是说整个音乐本身
1:27:21你知道这是人他自发地产生这些东西
1:27:24这个我觉得是对于科学来说
1:27:25就是我光看到这个证明的结果对不对
1:27:28这个当然很重要
1:27:30但是如果你去检查这个结果论证过程
1:27:33它里面没有一些特别有意思的
1:27:36或者说没法特别容易阐释的一些发现的话
1:27:39即使结果再对
1:27:41可能数学家觉得
1:27:42这个就像机器人弹钢琴一样的
1:27:44它没有能够打动数学家的一些洞见
1:27:46这样的话对于数学的贡献来说
1:27:49并不一定是特别大
1:27:50所以我觉得人的价值判断
1:27:53永远是很重要的一部分
1:27:56人类不能理解的发现是没有意义的吗
1:27:59它只能有部分意义
1:28:00就是作为一个工具性
1:28:02如果这个发现
1:28:03它作为一个工具
1:28:03就是我这个结果是对的
1:28:06工具性上面它是有意义的
1:28:07比如说1970年代
1:28:09就已经有四色问题证明了
1:28:10就是地图它最多你只要用4个颜色
1:28:12无论如何就可以把这个地图都给标出来
1:28:14最多只要4个颜色
1:28:16这个是一九七几年
1:28:18就可以用机械化计算机来证明了
1:28:21它结果肯定是对的
1:28:21但是这个证明过程是很乏味的
1:28:24它基本上就是一个列举的过程
1:28:26从工具角度来讲
1:28:27这个结论它是可以用来画地图
1:28:30你可以拿这个结论去
1:28:32肯定是对的
1:28:32你可以只要用4个颜色去画地图
1:28:35但是从价值角度来说
1:28:37从数学本身的价值角度来说
1:28:39它可能不一定有特别大的价值
1:28:40因为它不是
1:28:41不一定有一些新的定理
1:28:43或者是特别深刻的一些洞见性给抓出来
1:28:47所以它是不是有价值
1:28:50完全取决于是不是有用
1:28:52完全取决于你怎么样去评判
1:28:54从哪个角度去评判这个
1:28:55是从工具角度去评判
1:28:56还是从价值角度去评判
1:28:59对因为我看到有一些
1:29:00反对用AI去做数学的人说
1:29:03知道答案不是最重要的
1:29:05而是中间的思考跟推导
1:29:07这个是最重要的
1:29:09但是现在AI因为直接给答案很容易
1:29:11反而中间的推导思考跟过程
1:29:14还有细节是更难的
1:29:17我们现在的大模型它就是一个黑盒模型
1:29:20我们其实不知道它是怎么去运作的
1:29:23也没有办法被直接地观察到的
1:29:25虽然现在白盒模型的发展也在推进
1:29:27但是还是很缓慢
1:29:29如果这个AI我们承认并且接受
1:29:32它是一个黑盒
1:29:33并且心安理得地去接受它产生的结果的话
1:29:37这对我们的人类社会或者是我们人类
1:29:40会带来什么样的改变吗
1:29:42我觉得这会造成很多困难
1:29:45如果这个结果不是完全可解释的话
1:29:47自动驾驶就是
1:29:49但自动驾驶是一个单独的task（任务）
1:29:50单独一个
1:29:52如果你从这样的
1:29:53如果只是对单独一个task（任务）来说
1:29:55哪怕是最早期的计算器
1:29:57它已经可以
1:29:58你也不知道它在计算什么
1:29:59它就是给你一个标准数字对不对
1:30:01这个都已经可以
1:30:02这个是完全可以信赖的一个东西
1:30:04但是如果在一些可能
1:30:05就像你前面说的
1:30:06如果结果正确
1:30:07像哪怕就现在今天写代码这个任务
1:30:11现在的确是AI可以写很多代码
1:30:13而且写出代码都正确
1:30:14但是维护代码的成本和时间反而更高了
1:30:18因为它写出很多代码
1:30:20连工程师自己都看不懂
1:30:21它结果应该是对的
1:30:22但是维护起来特别困难
1:30:23因为我得先理解你AI写的代码
1:30:25什么地方出bug我都不知道
1:30:26我得先看懂
1:30:27你没法去debug（调试）
1:30:28没法去debug（调试）
1:30:29你根本看不到
1:30:29那只能让AI自己去debug（调试）
1:30:31对但是这一轮迭代
1:30:32又把代码搞乱
1:30:33AI毕竟是个
1:30:35基于目前language model（语言模型）
1:30:36它毕竟是个随机机器
1:30:37哪怕你同样一个写代码任务
1:30:39你第二次跑它
1:30:40它可能生成代码就已经不一样了
1:30:41因为它是随机采样的
1:30:42所以这种不确定性
1:30:43造成很大trust（信任问题）
1:30:45就是你没法很相信它
1:30:46所以如果它的过程是没法可以跟它互动的
1:30:50或者说是人力介入这么一过程的话
1:30:53你把所有的事情都交给它
1:30:55你是很难去对它产生信任的
1:30:57而且你之后
1:30:58去维护它工作的努力和成本会很高
1:31:02因为你没法理解
1:31:03你怎么去维护
1:31:05所以我觉得人的介入肯定还是
1:31:08在目前这个阶段肯定还是必要的
1:31:10对但是人又太有限了
1:31:14不管是脑力还是体力
1:31:16太有限了
1:31:16就像我们刚才说的
1:31:18这么多份数学的答案已经挂在网上了
1:31:21但是科学家没有时间去验证
1:31:24所以这就为什么也有人说
1:31:26AI没法取代人类
1:31:27反而让工作的岗位增加了
1:31:30因为肯定需要更多人去维护
1:31:31或者是更多人去看数学这样
1:31:33所以会有更多
1:31:34去验证AI答案的工作岗位会出来
1:31:37如果它在可靠性上面
1:31:39或者是可解释上面很差的话
1:31:42它一定会让整个经济运行成本会更高
1:31:46因为你如果哪天AI真的能够替代
1:31:4980%经济的有价值的活动的话
1:31:52如果每个活动都需要人类去介入
1:31:54去验证的话
1:31:56还不如不让AI去做这事情
1:32:00所以为什么可信赖性和可解释性
1:32:02可以基于人类介入是很重要的
1:32:04我们再说一下物理
1:32:06就是AI for Physics
1:32:07它跟数学问题是类似的吗
1:32:10还是不一样的
1:32:11数学肯定是物理的一部分
1:32:12很多物理上的一些定律
1:32:13或者是新的结论推导是不一样的
1:32:15但是物理跟数学最大不一样的地方是
1:32:19数学只是在逻辑空间
1:32:20它只要生活在逻辑世界就可以了
1:32:22完全就是人类定义出来的
1:32:23一套逻辑空间里面
1:32:24是理想世界
1:32:25物理必须要走出逻辑世界
1:32:27走向物质世界
1:32:28你必须要去验证
1:32:29你必须要去跑实验
1:32:30所以AI for Physics
1:32:32它可能现在可以帮
1:32:33比如说一些物理问题
1:32:35求解一些偏微分方程
1:32:37去推导一些新的
1:32:38像Anthropic他们那些之前的
1:32:40推导一些新的结论等等
1:32:42那是从数学角度
1:32:44从形式逻辑角度去推出一些结论
1:32:48但是如果你说你要让AI
1:32:50去发展一些新的物理的理论的话
1:32:53你要去验证的话
1:32:54这还是得走向物理世界
1:32:57当然AI for物理它的概念很广
1:33:00你物理可以说是求解方程
1:33:03但是也有说像一个初创公司叫PhysicsX
1:33:06他们是专门做物理世界模型的
1:33:10也是世界模型
1:33:10就是把不同
1:33:11比如说流体力学空气力学这些
1:33:14专门的一些现象做成一个世界模型
1:33:16这样的话他可以预测
1:33:18说白了就是在这个领域
1:33:19在这个task（任务）上面是怎么样去
1:33:22这样的工作可能还是有用的
1:33:25但是目前这方面工作还比较少
1:33:28我发现“发现”这个词非常的有意思
1:33:32或者“发现”人类历史上的很多故事
1:33:35非常的有意思
1:33:36因为它们都存在着一定的随机性
1:33:39比如说流传的一个很广的故事
1:33:41就是牛顿他被苹果砸了头
1:33:44他研究出了万有引力
1:33:46但是这个故事它其实是
1:33:47我觉得大家有点夸张了
1:33:49他其实没有被砸到头
1:33:50但是确实可能看到了苹果掉落到了地上
1:33:52给他了一些灵感
1:33:53但是他在看到苹果之前
1:33:55可能已经是有非常非常久的一个研究了
1:33:58还有一个案例
1:33:58我最近在看一本书叫《十亿美元分子》
1:34:02它当中就聊到一个案例
1:34:04就是比如说我们人类做手术
1:34:06它用的一些抗免疫手段的
1:34:09这个叫环孢素
1:34:10它最初就是从挪威的土壤里面非常随机
1:34:15发现了当中的一种真菌
1:34:17所以我们可以看到人们的发明或者发现
1:34:22很多都是大自然的巧合
1:34:24或者是突然大自然给了我们一些东西
1:34:27我们是被given（给予）的
1:34:28这样的一些灵感在里面
1:34:30有了很随机的一些发明跟发现
1:34:33但是感觉AI它的整个的
1:34:34Discover（发现）的过程是完全不一样的
1:34:36它没有任何的随机感在里面
1:34:39随机不随机是一个事情的发生
1:34:41但是一旦随机事件发生之后
1:34:44你要能够发现这个事情背后的规律
1:34:48这里面需要有一个所谓
1:34:50Abductive reasoning（溯因推理、归因推理）
1:34:53就你一个事情发生在你身上
1:34:54比如说一个苹果掉我头上了
1:34:56这是个随机事件
1:34:57但是人类可以
1:34:58就说像牛顿
1:34:59他可以从这个事件当中来想象
1:35:02什么原因导致这个随机事件发生
1:35:05拿这个作为触发
1:35:06他可能就会发展出一套物理体系
1:35:09但是目前AI可以做得最好的就是
1:35:11人类整个推理的模式
1:35:13一个是演绎推理、归纳推理
1:35:17像归因推理
1:35:18就是把现象能够推出它这个可能原因
1:35:20AI能做得好的
1:35:21目前可能最多就是演绎推理
1:35:23就给你这个前提
1:35:24像数学这样的
1:35:25我定理和定义都给你
1:35:26你能不能推导一个新的结论
1:35:28这是逻辑上相对来说比较容易做到的
1:35:31但是像溯因推理
1:35:32给定一个现象
1:35:33你能不能想象一个合理的解释
1:35:36以至于它能够把这个解释
1:35:38泛化到其他现象里面去的
1:35:40还是像前面一个问题一样
1:35:41这是抽象能力、想象能力
1:35:43而且是个世界模型
1:35:44这都是目前AI做不到的
1:35:46而且我觉得甚至在未来的很长时间
1:35:48都做不到这些事情
1:35:50所以这个的确就是像在任何抽象层面上的
1:35:53这些智力活动
1:35:54在我看来都是AGI的最后一个
1:35:56Last mile（最后一英里）
1:35:57之前很多人说数学是无用之美
1:36:00就是人类研究数学这件事情是属于人类的
1:36:03是美好的中间的推断过程
1:36:05大家非常享受这样的一个推断的过程
1:36:07那些公式那些问题
1:36:09它可能研究出来
1:36:11也对人类的科技进展或者商业化活动
1:36:14没有太大的帮助
1:36:15但是这是属于人类的东西
1:36:17那你觉得之后这个会变化吗
1:36:20不管是数学也好
1:36:22还是像美学、艺术、哲学
1:36:25这些东西你要从效用角度来讲
1:36:27它都是无用之物
1:36:28你说你家里面挂个画有什么用
1:36:30一点用没有
1:36:31但是没有这些无用的一些功夫
1:36:34所谓无用之大用
1:36:35如果没有这些思想过程
1:36:37如果没有美学上的一些概念
1:36:40或者是像数学你纯粹是作为一个好奇
1:36:42作为一个纯粹精神上的一些乐趣
1:36:43而推导出来的话
1:36:44你是没有办法去推导物理的过程
1:36:47其实可能最美好的东西
1:36:48都是从无用的东西开始
1:36:49都是从人类的好奇心和心智的好奇心
1:36:52和对美的追求来开始的
1:36:54不管是艺术也好
1:36:55还是文学或者怎么样
1:36:57一开始都是没什么用的哲学也好
1:36:59但是无用不代表它不会对未来产生影响
1:37:03你在整个思考的过程当中
1:37:05它对你大脑状态的改变
1:37:08以及对你这个世界认知都会改变
1:37:11它其实也是有用
1:37:11只是说这个有用你不是马上能感知到的
1:37:14所以我觉得一般说来
1:37:15任何的理论科学或者是
1:37:17不管数学好特别是纯数学
1:37:19还是像人文领域的艺术、哲学
1:37:23这都是属于所谓无用之大用
1:37:27如果从实用主义的角度来看
1:37:29你觉得现在AI for math
1:37:30或者AI for Physics
1:37:32能够在什么样的程度上
1:37:33去帮助人类的技术加速呢
1:37:36AI for math在很多应用场合
1:37:37其实都可以
1:37:38不管是像前面说的
1:37:39求解一些科技领域的方程也好
1:37:42还是像Axiom AI或者是Harmonic AI
1:37:45就是数学的初创公司
1:37:46他们比如说拿数学去论证过程
1:37:48去做芯片的验证做程序验证的话
1:37:51任何验证领域
1:37:52在这个程度上面都已经可以有些应用
1:37:56和产品化的一些前景
1:37:58在任何可计算的一些领域
1:38:01包括像你要是推导一个新的物理的
1:38:05一些规律或怎么样的一些方程
1:38:07你让AI去推导
1:38:09一定范围之内
1:38:09肯定可以比人类速度更快做得更高效
1:38:12在这些可控的环境里面
1:38:14AI for math对于整个科学发展肯定是有帮助的
1:38:16毕竟很多科学是需要数学化的
1:38:19你只要给它足够的一些前提和条件
1:38:21然后给它一些合适的语境
1:38:22它是可以提出很多新的数学观点的
1:38:24包括哪怕是最近
1:38:26可以说当代理论物理最伟大的物理学家
1:38:31Edward Witten 他就是提出弦理论的
1:38:33他最近好像前不久就发了
1:38:34在arXiv上还写了一个论文
1:38:36就扔了个论文
1:38:37他在论文里面写了一个
1:38:39好像是footnote（脚注）
1:38:40说我这个论文这一段
1:38:42是Claude帮我想出来的或者怎么样
1:38:46哪怕是在最艰深的
1:38:47Edward Witten在这个层面的
1:38:49这些新的研究成果
1:38:50都已经有AI在帮助他加速这样的一个过程
1:38:54所以你可以想以后只会说这样的现象
1:38:56会越来越普遍
1:38:57那你觉得我们现在离AI创造出新的概念
1:39:01那个moment（时刻）
1:39:02那个时刻还有多远
1:39:04这取决于你怎么样定义这个概念
1:39:05概念是非常宽泛的有很具体的概念
1:39:09就像我们前面可能提到的
1:39:10具体的一些事情
1:39:12你通过聚类就可以解决的
1:39:14如果一个表征可以映射到
1:39:15或者说所谓grounding（落地）
1:39:16就是能够接地到这个世界的观测上面的
1:39:19那我叫聚类
1:39:19你看到五把椅子
1:39:21你可能聚类椅子
1:39:23再来第六把椅子
1:39:24因为它整个特征都差不多
1:39:26你就可以意识到类似的一个聚类
1:39:27这已经是个概念
1:39:28任何一个聚类或者说一个概率的流形
1:39:30这个流形它就是一个概念
1:39:32这种是可以早就可以做了
1:39:34但是难是难在
1:39:36像前面创造数学里面抽象的一些概念
1:39:39一个概念可以用在无穷场合
1:39:41但这无穷场合它每一个场合都是
1:39:44拥有稳定的一个相似性的
1:39:46这种抽象概念我觉得是很难
1:39:49甚至可能永远没法用计算程序来做到的
1:39:53所以我看见有很多很多层次
1:39:55这是从具体的到抽象的
1:39:58在某一层之上就很难去做到
1:40:02聊得特别好
1:40:03我觉得今天我们好多的问题
1:40:04聊着聊着就开始聊哲学问题了
1:40:06有很多的人工智能专家
1:40:09很多物理学家
1:40:10他们后来
1:40:11研究研究着科学
1:40:12就开始研究哲学问题了
1:40:14对你往下想肯定是越想越不明白
1:40:18就是这道理
1:40:19越想越不明白
1:40:20真的是这样
1:40:21你觉得现在研究AI的人
1:40:24大家应该去多看看哲学的书吗
1:40:26现在AI的发展
1:40:27在很多历史的哲学的发展过程当中
1:40:29都能找到它的缩影
1:40:32因为哲学探讨的问题就是
1:40:33认知论就是探讨人类怎么样认知世界的
1:40:37从最早的柏拉图所谓理念世界
1:40:40就是你肯定从来没有说
1:40:41一辈子看到一个完美的圆
1:40:44不管是轮胎也好还是盘子也好
1:40:46它都不完美
1:40:46但是你从这些不完美的观察当中
1:40:48你可以看到提出个理念世界
1:40:50就是一个完美的概念
1:40:52从很早的时候就有这么一个讨论
1:40:55它其实就是关于人怎么样去产生知识的
1:40:58怎么样去抽象这些概念的
1:41:01所以你可以看
1:41:02整个哲学发展这根线跟AI的发展线
1:41:05包括跟认知科学发展线
1:41:07它很多讨论的问题其实对象是一样的
1:41:09只是用不同的语言
1:41:11从不同的角度去探讨这问题
1:41:12但是整个对象都是一样的
1:41:14只是不同的镜子去照同一个事物
1:41:18你觉得AI从业者应该多想想大问题吗
1:41:24什么叫大问题
1:41:25就比较top down（自上而下）的
1:41:26就是刚才你说的从上往下思考的问题
1:41:29对我觉得的确是
1:41:32AI的确是目前非常热的
1:41:34可能是科技界最热的一个topic（课题）
1:41:36谁都想在这上面做AI相关的话题
1:41:41做很多工程上改进
1:41:42想怎么样去做set up（配置）
1:41:43怎么样去应用
1:41:44怎么样去把技术给落地
1:41:49这当然是很重要的一个步骤
1:41:51把这个技术给铺开来
1:41:52但是大部分目前的这些应用
1:41:55或者是所谓的研究
1:41:57都是自下往上的这么一个视角
1:41:59别人告诉我Transformer有用好使
1:42:02Scaling law（缩放定律）还没失效
1:42:04Harness你得好好搞
1:42:06Infra（基础设施）要把它（建好）
1:42:09这些东西都是别人告诉我的
1:42:12你把这种功能做好往上推进
1:42:14我就可以把这产品发布
1:42:16但是这个对于短期内商业化
1:42:18和AI落地来说当然很重要
1:42:20但是我觉得在这些快速变动的研究之外
1:42:26你还是要有些立意更高的研究
1:42:30如果你实际思考
1:42:31从上往下思考
1:42:32就是从第一性原理智能是什么
1:42:35人类怎么样去认识世界的
1:42:37你要反过来想
1:42:37到底有哪些特性是目前AI做不到的等等
1:42:41你这么一倒过来想的话
1:42:42你就会发现很多事情AI都做不到
1:42:45而且还需要很多的研究
1:42:47而且不光是在AI领域
1:42:49AI是计算机它就是个计算程序
1:42:52AI其实就是一个
1:42:54计算最终目的就是自动化一些事情
1:42:57AI是自动化人类的思考过程人的智能
1:43:00但是计算能够自动的东西不只是智能
1:43:03它可以自动物理过程、进行建模
1:43:06进行自动过程等等
1:43:08所以你要从这个角度
1:43:10从更一般角度来讲
1:43:12说白了就是计算角度来讲的话
1:43:14它能够最终做到什么事情
1:43:15在AI之外
1:43:16如果有朝一日AI能接近人类水平了
1:43:20计算还能做什么事情
1:43:21这个一想的话
1:43:22还有很多很有意思的一些话题
1:43:24所以总之我觉得的确是
1:43:26在AI目前狂热的状态下面
1:43:29有很多有意思的
1:43:31或者是很重要的一些落地
1:43:33但是也不可避免地会产生很多浮躁
1:43:35和一些比较肤浅的见解
1:43:38所以还是需要一些从上至下的思考
1:43:42你觉得在现在AI这么狂热的情况下
1:43:46AI4S的这条路
1:43:48我想象中它肯定会更慢一点是吗
1:43:52它的商业化它的研发过程
1:43:54因为感觉它是一个非常长期主义的事情
1:43:56它解决的问题其实我们刚才也聊到
1:43:58很多问题其实是更难或者更有挑战性的
1:44:01它可能的商业化没有办法像比如说
1:44:04AI for coding
1:44:04或者是比如说data（数据）行业
1:44:06其他行业落地那么快
1:44:08ARR（年度经常性收入）
1:44:09每年都能翻好几番
1:44:11在这个行业里面
1:44:12资本现在是一个什么样的心态
1:44:14不管是大公司也好
1:44:15还是Neolab（新型实验室）创业公司也好
1:44:17接下来的一个发展的速度会是什么样子
1:44:19AI4S已经可以是有落地的空间
1:44:23已经有很多落地的应用了
1:44:24比如说是药物开发
1:44:25哪怕你最后不是说
1:44:27已经可以卖最终AI生成药
1:44:28但是你当中生成的各种环节
1:44:29各种什么靶点
1:44:31那些分子结构
1:44:32已经可以拿出去商业化了
1:44:33当中一些中间的产物
1:44:34所以我觉得是
1:44:35AI4S不能一概而论
1:44:36AI4S肯定有很多层面
1:44:38有些层面是已经可以市场化的
1:44:41但是如果我们的目标是说
1:44:43达到诺贝尔级别的科学成果的话
1:44:47那肯定还是有很长的路要走
1:44:48在这个层面上
1:44:49它就不是说AI4S
1:44:50它不是说是把science作为一个应用
1:44:53假设是AI已经足够强
1:44:54把science作为应用
1:44:55而是AI and Science
1:44:57就是你不仅要做science
1:44:58但你在做这么难的问题之前
1:45:00你得把AI自己的能力得提高
1:45:01像你AI要有更强的抽象能力
1:45:05有更强的推理能力
1:45:07有更强的做实验的写代码能力等等
1:45:10你如果这点做不到的话
1:45:12你更上层的science是做不到的
1:45:14这个层面上的确会是一个比较长期的主义
1:45:18它不只是科学问题
1:45:18它是一个AI本身基础研究问题
1:45:20而且我一直觉得就说
1:45:21Science不只是一个AI的应用
1:45:23而是它应该能够促使AI本身
1:45:26发展更好的一个刺激或者一个催化剂
1:45:29一个模型
1:45:30如果它在很难的science问题上做好的话
1:45:32它在其他的问题上面也应该可以做好
1:45:35而且可以比现在模型做得好
1:45:36不管是写代码层面上
1:45:37还是做这个推理层面上
1:45:39因为你能把这么难问题解决的话
1:45:40这模型本身就已经很强了
1:45:41所以它不只是一个应用
1:45:43而是作为一个驱动力
1:45:45能够发展出更好的AI
1:45:46所以商业化路径
1:45:48它不是一刀切这么一个判断而是分层的
1:45:52有些层面是商业化
1:45:55各种这么多实验室
1:45:56这些公司都已经可以商业化了
1:45:58但是你要想拿诺贝尔奖的话
1:46:00这个就是要很长时间的
1:46:03很长时间是多久
1:46:05这就很难说
1:46:0610年 20年
1:46:08AlphaFold已经拿过了
1:46:09但这个不是AI自动发现
1:46:11但是我觉得
1:46:13你要在这个层面上拿诺贝尔奖的话
1:46:15我觉得至少得二三十年
1:46:17说白了你要能够在目前的AI范式上
1:46:20还要加强它一些目前没有的能力
1:46:24且不要说它能够凭空创造出一些新的概念
1:46:27或者是一些抽象东西
1:46:28你能把目前已有的这些实验的结果
1:46:31能够进行正反推理
1:46:33就是这些因果推理
1:46:35像前面说的
1:46:36这目前是没有的
1:46:37怎么样能够处理长期记忆
1:46:38我做过无数实验
1:46:39我怎么能够把这么多实验
1:46:41相关的一些记忆给提取出来
1:46:43怎么样能够不断地继续学习
1:46:46能够把一些目前前沿的
1:46:48这些topic（课题）能解决
1:46:49可能就已经五六年过去了
1:46:50然后你再去做些科学实验的话
1:46:52这个肯定会比现在AI更强
1:46:54但这至少我觉得还得要花很多时间
1:46:57对比如说二三十年之后
1:46:59它能够得诺贝尔奖了
1:47:01对于我们的产业来说
1:47:03对人类社会来说意味着什么
1:47:05AI是一个meta technology（元技术）
1:47:07它是一个元技术
1:47:08或者是
1:47:09General purpose technology（通用目的技术）
1:47:11AI本身它是个大脑
1:47:12它可以AI加任何东西
1:47:15所以不光是说AI加science
1:47:16或者technology
1:47:17你也可以说AI加business
1:47:18如果你真有这么智能一个东西
1:47:21它肯定不会说只解决科学问题
1:47:24它可以帮你
1:47:25可以作为像代理CEO这样的这么一个角色
1:47:27在任何人类社会、经济社会的各个角度
1:47:31它都可以做得比现在做的更好
1:47:32就像OpenAI或者是微软
1:47:34他们所谓的AGI的定义
1:47:37它能够以百分之多少的准确率
1:47:39做完百分之多少的人类经济上
1:47:41有价值的一些工作
1:47:42如果AI4S做到这个程度
1:47:44说明这个模型在这么难的问题上
1:47:46已经做了这么好的话
1:47:47它一定可以在其他不同领域也会做更好
1:47:51所以我一直觉得说AI for Science
1:47:52作为一个非常难的挑战性的话题
1:47:54它是作为一个AI本身发展的驱动力
1:47:56而且模型变得这么强之后
1:47:58一定可以让其他所有的相关的经济活动
1:48:00也会变得更高效
1:48:03好的那还有什么问题你想补充吗
1:48:06没有了
1:48:07好谢谢曹原
1:48:08谢谢陈茜
1:48:10以上就是我与曹原对AI for Science这个话题的对话了
1:48:14这个话题其实拆分开来
1:48:16里面有很多值得深聊的子话题和垂类
1:48:19我们也会继续关注
1:48:21但其实这次对话给我印象最深的
1:48:23还是几个对人类价值和事物本质的探讨
1:48:27在不久的未来
1:48:28AI一定会在各个科学的领域上帮助人类
1:48:31去破解很多的疑难问题
1:48:33帮助我们将前沿科学再往前推进一步
1:48:37而一旦理想中的AI进行自进化
1:48:40完成模型到实验的loop闭环
1:48:42将带领人类去到我们从未达到的高度
1:48:45而那个时候我们必须要更清楚人类的价值在哪里
1:48:49是定义是验证是应用还是拥有最终的审判权
1:48:54有一点是确定的
1:48:56那个时候的世界和我们的现在的世界会很不一样
1:49:00好以上就是我们这期视频播客的全部内容了
1:49:03你们的点赞留言和转发
1:49:05是支持我们硅谷101做好深度科技和商业内容的最佳动力
1:49:09我是陈茜那我们下期节目再见 bye～

About this transcript

This page contains the full transcript of 对话前DeepMind曹原：AI for Science爆发，一个新时代到来了 by 硅谷101, generated from the public captions YouTube serves with the video. The transcript has 3,855 words across 3,256 segments, with the original timestamps preserved so you can click any line to jump to that moment in the embedded player.

What you can do with it

Use the transcript to take notes, quote the speaker, build a study guide, generate a summary with ChatGPT or Claude via the YouTube Summary tool, or export it as a timed subtitle file with YouTube to SRT. You can also re-open it in the transcriber to translate the transcript into 100+ languages.

Free YouTube transcript tool

YouTube2Text is a free YouTube transcript generator — no signup, no daily limit. Paste any YouTube link and get the full transcript instantly, with timestamps, click-to-jump, translation to 100+ languages, AI prompts for ChatGPT, Claude, and Gemini, and exports to TXT, SRT, VTT, or Markdown.