YT YouTube2Text

YouTube2Text → Transcripts → AI开始预测人类：83亿虚拟人格、数字社会，与一门押注未来的生意｜解析AI预测模型｜AI prediction model

AI开始预测人类：83亿虚拟人格、数字社会，与一门押注未来的生意｜解析AI预测模型｜AI prediction model — Transcript

by 硅谷101 · 977 words · 849 segments · language zh · Watch on YouTube

Open in transcriber Summarize with AI Download SRT/VTT

Full transcript

0:00你相信我们其实是
0:01生活在一个虚拟的世界中吗
0:03马斯克曾在Lex Fridman的采访中被问到
0:06如果有一天人类实现了AGI
0:08并且只能问它一个问题他会问什么
0:11在思考了长达10秒之后他说
0:14What's outside the simulation
0:17听到这句话我全身鸡皮疙瘩都起来了
0:20模拟之外到底是什么
0:22这是马斯克对这个世界的终极追问
0:24而早在2016年他就表示
0:27人类生活在真实世界里的概率
0:29或许不到十亿分之一
0:32我不知道这个数他是怎么给算出来的
0:34但是显然这种几近科幻的理论
0:37目前还没有任何的科学证明
0:40然而非常有趣的一点是
0:41随着最近AI的进展
0:43在硅谷人们开始尝试去扮演“造物主”
0:47去创造一个AI的“模拟世界”
0:50而这也催生出了一个新的赛道
0:52AI simulation
0:54最近这个领域在不断升温
0:56李飞飞、Andrej Karpathy
0:57同时押注的Simile
0:59最新估值达到了20亿美元
1:0100后团队创办的AI模拟预测公司
1:04估值也已经冲破10亿美元
1:07由哈佛大学与MIT最新联合发布
1:09200多位顶尖科学家
1:11共同参与的项目MatrAIx
1:13更是一举模拟了83亿个AI虚拟人格
1:16相当于把全人类都镜像到了数字空间
1:20哈喽大家好
1:21欢迎收看《硅谷101》
1:22我是陈茜
1:23那么AI Simulation究竟在模拟什么
1:25有哪些不同的研究路线
1:27它能够在哪些商业场景产生价值
1:30又最终是否会创造出一个
1:32全新的智能体文明呢
1:34关于这个前沿又有点“科幻”的概念
1:37此次我们也采访到了
1:38这个领域的创业者、投资人
1:40以及MatrAIx论文的作者们
1:42来帮我们一起深入解读一下
1:45下面就让我们一起走进AI的“黑客帝国”
1:53Hi 各位又是我Jacob
1:54最近有很多观众在视频底下留言
1:57问我们平时用到的一些AI画面是怎么制作出来的
2:00那在进入这期视频正片之前
2:02我就花几十秒来给大家大致介绍一下
2:05我们平时用到的一个秘密武器
2:07AI早在两年前就嵌入了
2:09我们后期团队的工作流
2:11但过去一直有个让我们头疼的问题
2:13市面上的模型五花八门
2:15到底该选哪个
2:16而且单一模型生成出来的东西总像开盲盒
2:19每次生成你要抽很久才能有可以用的画面
2:23比如像这样的一段动画
2:24放在过去我们得开三四个平台
2:26一个个写prompt、喂参考
2:28今年我们把这些全搬到了TapNow的画布上
2:33除了可以灵活调用各家主流的AI生成模型之外
2:36TapNow最好用的一点就是
2:38它可以把视频生成的每一步拆成一个个节点
2:41就像一个片场的导演
2:43在TapNow里
2:44我们把提前准备好的参考图和各种素材
2:46丢进画布里
2:48当确定好我场景的美术风格和方向后
2:51我就可以给它描述我每一个分镜的
2:53具体画面构图和运镜
2:55让它开始生成
2:56这里哪个镜头不对
2:58我可以马上回到那个节点换参考、换模型
3:01改prompt
3:02前面的都可以不用再重跑
3:03这样的工作流可以把每次尝试和前后关系
3:07全都留在同一个项目里
3:09让我知道问题出在哪、应该从哪里开始改
3:11我们后来做封面
3:12或者遇到素材库里找不到的B-roll
3:14也会沿用这套方法
3:16团队可以在同一个项目画板里面脑爆、协作
3:19快速地把想法设计出来
3:20我们把刚才那段动画的TapNow画布
3:22链接放在了简介里
3:23如果你感兴趣的话可以自己点开上手研究一下
3:26好把时间交还给Qian姐
3:32今天很多领域其实都在谈Simulation
3:35但是定义却有所不同
3:37机器人和自动驾驶领域有物理仿真模拟
3:40世界模型领域有世界引擎的模拟
3:43但是我们这次想聊的
3:45是一个更大维度、更复杂的概念
3:48人类与社会的模拟
3:49并借此去理解甚至预测现实世界
3:53World model（世界模型）
3:54或者physical world model（物理世界模型）里面
3:55它最小颗粒度可能是
3:57世界中的某个分子
3:59或者说某一个原子模拟的是某些物体
4:02但是在agent society（智能体社会）里面
4:03其实我们模拟的最小颗粒单位
4:05是一个人的个体
4:06我其实并不关心这个人手怎么动
4:08然后他往哪去跑
4:09我其实关心的是这个人的
4:11作为一个人的整体
4:13他接受到什么样的输入
4:14然后他的output action（输出动作）
4:16大概是什么样的
4:17而关于人类与社会模拟这件事
4:20最早引发广泛讨论的
4:21其实是一篇20多年前的哲学论文
4:242003年牛津大学哲学家Nick Bostrom
4:27在《我们生活在计算机模拟之中吗？》当中
4:30提出一种推演
4:32如果一个先进的文明拥有足够强大的算力
4:35并且有意愿通过模拟
4:37去重现文明的发展过程
4:39那么模拟世界中的意识数量
4:41将远远超过真实世界
4:43从概率的角度
4:45人类就极有可能身处在一个模拟世界当中
4:49这就是后来广为流传的
4:51“模拟假说（Simulation Hypothesis）”
4:53但由于技术的限制
4:55二十多年来
4:56这个假说一直停留在哲学讨论
4:58和科幻作品中
4:59直到近年来大模型的发展迎来了突破
5:032023年斯坦福大学与Google
5:05联合发布了一个
5:06对AI智能体研究影响广泛的实验
5:09《Generative Agents》
5:11研究团队搭建了一个
5:12像素风的虚拟小镇 Smallville
5:15里面有街道、房屋、咖啡馆
5:17还有25个穿梭其中的“小人”
5:20这些“小人”
5:21都是由大语言模型驱动的AI Agent
5:24拥有各自的记忆、性格和行为逻辑
5:27它们的活动没有“剧本”
5:28研究者只是把它们放进这个小镇
5:31然后退到一旁去观察
5:33结果发现这些Agent
5:35不仅会自己生活、工作、建立关系
5:37还会自主思考和行动
5:39“斯坦福小镇”第一次证明
5:41Agent可以拥有持续的记忆
5:43规划和社交能力
5:44并且在互动中自然涌现出群体行为
5:48（这个研究）意义就是让大家认识到
5:49这个语言模型是可靠的
5:50就是说它真的可以去复现
5:52人类社会的一些现象
5:53更多人关注到这个领域
5:54让大家愿意去相信这个事情
5:5625个Agent只是一个开始
5:58随着近几年模型能力的飞速提升
6:01和推理成本的下降
6:03大家也开始有能力去尝试更大规模的模拟
6:06并且出现了不同的探索方向
6:11首先是在模拟精度上尝试跟人类深度对齐
6:15“斯坦福小镇”的实验很有趣
6:17但是25个居民都是大模型“编”出来的
6:20那么如何让它们能够真的像人呢
6:232024年斯坦福团队
6:25把实验扩展到了1052个Agent
6:28每个Agent背后
6:29都对应一个真实的美国成年人
6:32研究人员先进行大约两小时的深度访谈
6:35了解他们的成长经历、家庭、工作
6:37价值观和生活经验
6:39再把这些信息交给大模型
6:41生成对应的AI“数字分身”
6:43而这样得到的Agent
6:45就不再只是一个
6:46符合“平均画像”的虚拟人物了
6:48在实验当中
6:49这些Agent回答社会调查问卷的结果
6:52与真人两周之后的答案
6:54达到了85%的相似度
6:57也就是说在一定程度上
6:58AI开始能够复现真实个体的想法和选择
7:03访谈也是有技巧的不是随便访谈
7:04然后他用一些最高效的方式
7:08能够“榨取”你是谁
7:09其实本质上就是在“蒸馏”你是谁
7:11但是它蒸馏得比较细
7:12然后放到这里面来
7:13所以它的好处是针对于每个个体
7:16它的特异性会影响整个仿真的进入场景
7:23第二种研究思路
7:24我们称之为“社会演化路线”
7:27是不去关注Agents个体如何
7:30而是把重点放在了Agent社会的演化
7:33关系的形成上
7:34比如由前MIT教授Robert Yang团队
7:37发起的Project Sid项目
7:39他们直接用LLM生成了1000多个Agent
7:42并且把它们放进《我的世界》游戏当中
7:45运行了12天
7:46结果智能体们自发搞出了
7:48经济、文化、宗教、法律这些东西
7:51社会结构自己就长了出来
7:53不久之前创业公司Emergence AI
7:56也做了一个实验
7:57他们分别基于Claude、GPT、Gemini、Grok
8:00和混合模型作为底座建立了5个平行世界
8:03每个世界有10个Agents
8:05用以观察这个世界的演化有什么不同
8:08结果显示
8:09Grok的世界迅速陷入混乱和犯罪
8:12快速灭亡了
8:13GPT世界因为缺乏协作而逐渐崩溃
8:16Gemini的世界充满了暴力
8:18而Claude的世界建立了稳定的治理秩序
8:21活到了最后
8:22混合模型社会也坚持到了最后
8:25但表现稳定的Agents
8:26却受到其他模型Agents的影响
8:28出现了暴力行为
8:30Emergence AI的CEO Satya Nitta
8:32就告诉我们
8:33这种模拟对于观测不同模型的Agents
8:35在复杂环境中的长期、自主行为
8:38是非常重要的
8:39如果你只是看静态Benchmark
8:41就认为这些系统应该是安全的
8:43那你可能会得出错误的结论
8:44因为未来的Agent
8:46会运行在非常复杂的环境中
8:48无论是物理世界还是数字世界
8:51它们会与其他Agent互动
8:53也会受到环境中的噪声和各种变化的影响
8:56所以我们正在逐步把Emergence World
8:58发展成一个Benchmark
9:00用于研究“长期自主性”
9:03最近还有一条研究路线
9:05就是专门从“评估”入手的
9:07比如说MatrAIx
9:08就是试图为AI模拟建立一套
9:11“评估基础设施”
9:13这项研究由哈佛、MIT等机构牵头
9:15汇集了200多位
9:17来自学术界和产业界的研究者
9:19其中就包括40多位
9:21来自OpenAI、Anthropic等等
9:22前沿AI实验室的参与者
9:24它构建了一个
9:25包含83亿个独特人格的数据集
9:28每个人格由心理特征、生活习惯等
9:311290个维度定义
9:34再用Claude Opus 4.8、GPT-5.5
9:36和Claude Haiku 4.5等模型
9:38把这些人格变成可以行动的Agent
9:41这些Agent被放进问卷调查、AI聊天
9:44网页浏览和App四种环境当中
9:46完成了超过1.8万次测试
9:49用以观察不同人格
9:50在真实场景当中的行为差异
9:53研究团队通过400次的受控实验发现
9:5691.5%的情况下
9:58Agent都能够遵循预设的人格和行为特征
10:02这项研究的目的是把“AI模拟”推进到
10:05怎么系统地衡量这个Agent到底有多可靠
10:09而MatrAIx的团队就认为
10:11只有先建立起这样的评估体系
10:13未来的模拟才会更加真实、可落地
10:17我们的evaluation infra（评估基础设施）
10:17Raise the floor（提高最低能力水平）的
10:18这个意思是说
10:19能够先通过这个
10:20Cohort diversity（用户群体的多样性）
10:22这个产品出来之前
10:23我可以在各个task（任务）下
10:24各个情况下
10:25各种使用方式之下去评测它
10:27它就可能会踩中
10:29很多的corner case（边缘场景）
10:30这个corner case（边缘场景）的分析
10:31是非常有用的
10:32你的这个Agent能够告诉你哪一步错了
10:34哪一步他不喜欢
10:35哪一步他的这个思维
10:36到底背后是怎样的推理
10:37做出这样的一个偏好和选择
10:39所以我们想要的是
10:40先要有一个方法论去怎么样构建这个
10:42Ground truth（事实基准）
10:42然后再下一步再说怎么样去提高
10:44而当AI模拟开始在研究层面被证明
10:47具备一定的可行性了之后
10:49大家也开始思考
10:50如果真的 AI能够在数字世界中
10:53复现人类行为、推演社会运行
10:56那么它能够产生出什么真实的价值呢
11:03从目前的探索来看
11:04根据AI模拟的阶段和目的的不同
11:07主要是出现了两类商业化思路
11:09第一种生意叫做卖“模拟”
11:15卖“模拟”的核心逻辑
11:16是把现实世界中的人、消费者
11:19甚至社会关系
11:20变成可以被反复调用的数字替身
11:23比如说AI可以根据企业的具体需求
11:26快速生成一批具有不同年龄、背景、偏好
11:29和行为特征的Agent
11:30让它们去提前体验产品
11:32在虚拟环境中不断做测试
11:35接着观察他们会怎么选择、怎么对话
11:37在哪里流失
11:38从而为产品设计和迭代提供有价值的参考
11:42并不是说他们喜不喜欢这个product（产品）
11:44喜不喜欢可口可乐涨价两块钱
11:46而是说他们的一个reasoning（推理）
11:47他们到底在这个过程当中
11:49遇到了什么样子的波折
11:51或者一个什么样的想法
11:52导致他们最后在这个预测当中
11:54可能转了一个向
11:55或者是最后预测成这样子一个
11:57Distribution（分布）
11:58不仅要看到一个人
12:00他是怎么样做这样子的一个决策
12:02而是想看到这样
12:03Population level（人群水平）
12:04如果是百万级、数亿级
12:06甚至是83亿级
12:08他们会遇到什么样子的一个结果
12:10我们觉得这都是非常有意义的
12:13所以这种思路就是把模拟本身
12:15作为一种产品评估和观察的手段
12:19而比如说Emergence AI也告诉我们
12:21他们之所以做Emergence world的实验
12:24其实主要目的也是为了
12:25测试自己所提供的Agent产品是否安全
12:29我们主要是用Agent
12:32来提高半导体的良率等等
12:35也正因为如此
12:36Emergence World这个实验
12:38就非常重要
12:39我们想弄清楚一个问题
12:42我们在这里构建的这些Agent
12:44能不能真正安全地行动
12:47它们能不能始终遵守
12:49我们为它们设定的安全护栏和基本规则
12:52更重要的是
12:53它们能不能以一种确定性的方式运行
12:56给出真正值得信赖的输入、建议和洞察
13:00这些输入建议和洞察要足够可信
13:02不能只是概率性的
13:03也不能是模型“幻觉”出来的
13:05当然这种单体模拟的能力
13:07也可以扩展到“社会”层面
13:10比如说英国创业公司Artificial Societies
13:13主打的就是“社会关系”测试
13:15他们让大量不同人格的AI Agent彼此互动
13:18形成一个可以进行实验的虚拟社会
13:21企业可以把产品、品牌
13:23或者营销策略放进去
13:25去观察不同Agent之间
13:26如何交流、影响和做出反应
13:29而MatrAIx也告诉我们
13:31他们研究的下一步
13:32也是要让这83亿人格给“动”起来
13:36所以我们会在新版本中加上这个
13:39Dynamic persona attribute（动态画像属性）
13:41这些东西它是可变的
13:42还有一个就是我们假设现实生活中
13:44有一些big events（大事件）
13:45它发生了会有影响
13:47此外这些合成人格
13:48并不一定只能停留在数字世界里面
13:51它们未来还可以被迁移到不同的载体上
13:54比如说机器人
13:55从这个角度上来看
13:57AI模拟或许也有可能
13:59会成为未来人机交互的一层基础能力
14:02我们用uni-trained robot（通用训练机器人）
14:03把persona（人物形象）加到robot上
14:05它不只是存在于虚拟世界
14:07存在于Matrix中
14:08它甚至可以在现实生活中
14:10跟我们interact（交互）
14:11让我们真的能感受到
14:12这个不同的persona（人物形象）
14:13它背后代表的这个思维模式和行为模式
14:15是不一样的
14:16不过现在很多人认为
14:18只停在了“模拟”还不够
14:20在这个基础上
14:21更有意思也更有挑战的事情是
14:24预测
14:27我们知道在商业中
14:29“预测”往往是昂贵的
14:30比如说企业要不要进入一个新市场
14:33你的产品价格上涨10%之后会发生什么
14:37如果政府调整一项政策
14:39会对整个社会产生什么样的影响
14:41这些问题的答案
14:42都必须等事情发生之后才能够知道
14:46而AI模拟如今提供了一种新的可能
14:48就是先把这个还没有发生的未来
14:51在虚拟世界当中先跑一遍
14:53然后把结论作为决策的依据
14:56目前在着重于“预测”这个领域
14:59两家比较有代表性的创业公司
15:01是Simile和Aaru
15:03Simile是由“斯坦福小镇”项目的
15:06那批核心研究者
15:07Joon Sung Park、Michael Bernstein
15:09还有Percy Liang教授等人创办
15:11它的主要思路
15:12就是从“模拟一个人”出发来进行预测
15:16在2024年那篇“数字人格”研究的基础上
15:19Simile是试图使用深度访谈等方式
15:22尽量高精度地去还原人类
15:25AI Agent拥有类似真实人的记忆
15:27经历、反思和决策过程
15:29接着被放进不同的环境当中
15:32让它们持续行动
15:33这样一来模拟回答的
15:35就不止是“这个人现在怎么看”
15:37还可以进一步地去观察
15:39当比如说价格、政策等外部环境
15:42发生变化之后
15:42这个人会怎么做
15:44会不会改变自己的选择
15:46所以Simile想做的
15:47是去建立一个“人类行为基础模型”
15:50通过模拟人的行为过程
15:52去推演现实世界可能发生的结果
15:55因为这条路线追求的是尽量“真实”
15:58所以更加适合消费者研究、产品测试
16:01客户体验、投资者关系
16:03这些需要摸透特定人群的场景
16:06Simile也在今年2月正式亮相
16:08目前最新估值已经突破了20亿美元
16:11已经和多家大企业达成了合作
16:14Simile目前官方披露的数据显示
16:17自上线以来
16:18它为财富100强企业跑了数千万次模拟
16:22比如说美国最大的连锁药房CVS
16:24就已经跟Simile合作长达一年
16:27他们一起用真实用户数据
16:29造了多达40万个数字分身
16:32用来研究病人怎么按时吃药
16:34测试消费者体验和帮助产品设计等等
16:37不过高保真的另一面
16:39是成本和规模化的代价
16:41Simile这个情况下
16:42如果你需要非常准确
16:44可能非常难standardize（标准化）
16:45比如可口可乐需要的
16:47和这个TikTok他们需要的
16:49这个user profile（用户画像）
16:50是完全不一样的
16:51那么对这个公司来说
16:52他们的代价就是对于每一个公司
16:55或者对每一个场景类型
16:56他们都需要去做一个
16:58或者去post-train（后训练）
16:59pre-train（预训练）的方法
17:00去做一个这样子的模型
17:02这样子的代价是巨大
17:03而且它可迁移的能力我们是不知道的
17:06所以以Aaru为代表的另一种思路
17:09是直接通过“群体模拟”来进行预测
17:13基于现实世界的人口、消费等数据
17:15快速构建一个
17:16尽可能接近真实世界的模拟人群
17:19Aaru的数据分三层
17:21第一层是公开数据
17:22比如说全国人口普查、就业
17:24健康等官方数据
17:26负责搭出一个基准线
17:28第二层是一些授权数据
17:30比如说匿名消费记录、常去的哪些地方
17:33看什么媒体
17:34这些数据能够补上人群近期的真实行为
17:37第三层则是用户提供的私有数据
17:40比如说企业的用户分层
17:42购买历史、产品细节等等
17:44这样就把范围收窄到具体要研究的那群人
17:48接着基于这些数据去构建一张“关系网”
17:51把特征之间的关系还原出来
17:54不只是年龄和收入要对上
17:56行为特征和彼此关系
17:57也要尽可能去接近真实的模拟人群
18:01之后 Aaru会改变其中的一个现实变量
18:04比如说价格、产品或者政策
18:06然后再去观察整个群体的行为会如何变化
18:10从而推演现实世界可能会出现的结果
18:13（Aaru）可能关注的更多是速度
18:16关注这些群体之间发生的关系
18:18但至于说是某一个个体
18:20它的那个深刻的影响是什么
18:23其实我可能并不关心
18:24Aaru的创始团队非常年轻
18:26两位创始人Cameron Fink和Ned Koh
18:28成立公司的时候只有18岁和19岁
18:31技术负责人John Kessler甚至只有15岁
18:35他当时的投资文件都是他父亲给代签的
18:39最早他们在朋友家的地下室
18:41拿美国大选来验证这套系统
18:43在回测2020年大选的时候
18:45预计结果与实际结果只差了不到0.5%
18:49而因为这条路线的特点是规模大、速度快
18:52所以也很适用于大规模的市场调研
18:56Aaru目前的客户就已经包括了
18:58麦当劳、安永、拜耳还有A24等等公司
19:02安永曾经让Aaru复现过
19:04一项复杂的全球调研
19:06Aaru一天就完成的结果
19:07与他们的调查高度吻合
19:10气泡水品牌Spindrift
19:11曾经用两个月、500名消费者
19:13完成的一项调研
19:15Aaru的Agent
19:15一周就得出几乎相同的结论
19:18这些真实的案例让Aaru的估值飞升
19:21目前已经接近了10亿美元
19:23最近一些AI大佬
19:24也开始押注“预测”这门生意
19:27卡耐基梅隆大学教授
19:28苹果首任AI主管Russ Salakhutdinov
19:31就参与创立了一家AI预测模型实验室
19:34Sooth Labs
19:35专注于地缘政治和市场风险的预测
19:38首轮融资大概5000万美元
19:40并且获得了Yann LeCun
19:42Jeff Dean等人的支持
19:43Russ Salakhutdinov在采访中就表示
19:46当AI能够模拟和预测未来
19:48未来所有的咨询公司都可能消失
19:52麦肯锡
19:52为什么麦肯锡还存在
19:54波士顿咨询集团
19:55这些都是大型机构
19:56你懂的
19:57它们全都应该被AI取代
19:59不过尽管AI模拟已经出现了
20:01不少有意思的落地方向
20:03它究竟能够在多大程度上
20:05真正地去影响企业决策
20:08创造多少商业价值
20:10现在还是个大问号
20:12以Aaru为例目前的营收规模
20:14依然只有数千万美元的级别
20:16所以今天市场给这类公司的高估值
20:20更多还是在提前押注它们的未来
20:22可能会打开的市场空间
20:24就当前的阶段来说
20:26无论是把模拟当作一种新的评估工具
20:29还是进一步用它来做预测
20:31大家都还处在一个
20:33不断寻找“最大商业价值”的过程当中
20:36因为一个市场刚刚开始
20:38大家其实都处于初创的早期
20:40其实就像他们技术方案
20:42和他们选择的市场细分不同
20:44都要为他们做差异化
20:46如果你说中长期的话
20:47我觉得其实大家都会在找
20:49付费意愿最高的客户是谁
20:51其实客户的需求才是最重要的
20:53就是你最后用什么方法可能没有那么重要
20:55接下来我们再来说说AI模拟面临的困境
21:03现在AI模拟公司能做多大的生意
21:06其实跟它模拟和预测的精度是强相关的
21:10做产品测试、市场调研
21:12这些事情大多容错率都比较高
21:14错了大不了可以重来
21:16但是一旦涉及到更重要的决策
21:18大家就会更加谨慎
21:20而现在AI模拟要真正落地
21:23仍然面临着几重门槛
21:27首先它没有一个可量化、可衡量的标准
21:31现在大部分公司模拟
21:34都是基于大语言模型而展开的
21:36但是我们知道
21:37大模型习惯给出
21:39合理、完整、逻辑自洽的答案
21:41甚至不同的大模型也有自带的个性和偏好
21:45但由大模型驱动创造出来的Agent
21:47可能在一次问卷里面
21:49给出了和真人一样的答案
21:50但是这并不意味着它真的了解这个人
21:54因为真人本身就不是一个完全稳定的系统
21:58同一个人在不同的时间、不同的环境下
22:01可能会做出完全不同的选择
22:03那么一个好的模拟到底应该保持稳定
22:06可验证的人格
22:07还是应该像真人一样
22:09根据环境而产生变化呢
22:12当然你可以搭一套这东西出来
22:13但是最怕的是什么
22:15最怕的是说其实你搭了一个剧场
22:17然后人都在表演
22:18但一万个人在表演
22:19不代表一万个人真实能做预测
22:21所以你还要有一套闭环机制说
22:23好大家仿真了这么一段时间之后
22:26回来以后是不是跟真实的那个场景
22:28是能够映射上来的
22:30所以得有benchmark
22:31有validation process（验证流程）
22:33并且如果它有偏移的话
22:35你还得把这个训练出来
22:37这个偏差还能训练回去
22:39使得它能够修正
22:40而即便单个Agent模拟得像
22:43但如果把它放进不同的群体
22:45不同的环境里
22:46它的行为逻辑可能就会发生变化
22:49此前复旦大学就曾经联合
22:50罗切斯特大学等机构
22:52做了一项名为SocioVerse的研究
22:55他们将对齐问题拆分成了环境
22:57目标用户、交互机制和行为模式四个维度
23:01结果显示社会模拟的精度
23:03很大程度上取决于
23:05这些“对齐”做得够不够全面
23:08但是现实世界里
23:09有大量低频、极端的长尾事件
23:12比如说地震、海啸、金融危机等等
23:14大模型很难从有限的历史数据中
23:17学到这些场景下人和社会究竟会怎么反应
23:21其实现在封闭的模拟很多人做了很多
23:23人们只能通过自然语言跟它去交互
23:25然后它里面发生事情
23:26事实上跟现实世界没有什么关系
23:28那你的模拟的意义是什么
23:30所以说我们现在就是
23:31进一步去推动一件事情
23:33我们越来越多的现实信号
23:35去跟这个模拟中对齐
23:37比如说现实中的经济的信号
23:38现实中新闻的信号
23:39以及现实中人的信号
23:40然后让它成为一个我们现实世界
23:42一个合理的镜像
23:48不过就算模拟的能力过关了
23:50还有一个更加棘手的问题就是
23:52你怎么证明做出来的预测是“对”的
23:56这里就存在着一个天然的悖论
24:00要看一个基于模型的预测是否准确
24:02只有等那件事真的发生了
24:04你才能够确认它准对吧
24:06可是问题是
24:07预测的意义恰恰在于
24:09事情还没有发生的时候
24:11现在业内主流的验证方式
24:13基本上都是“事后对答案”的这一类
24:16拿一个已经发生的历史事件
24:18或者一份已经做完的真人调研
24:21去比对模拟的结果对不对
24:23但是这最多说明它擅长复现过去
24:27并不能证明它一定能够押中未来
24:30比如说Aaru曾在2020年的大选回测中
24:33几乎能够完美地复现结果
24:35但是在2024年真正的大选中
24:37却错误地预测出
24:38哈里斯会获得最终的胜利
24:41Aaru的创始人也曾经公开表示
24:43当他们尝试利用过去几十年的数据
24:46去模拟比如说特朗普鲍威尔等
24:48会怎么去决策时
24:50往往结果都是不准确的
24:52而这种不确定性就是最为困扰大家的
24:55“验证黑箱”的问题
25:00第三大挑战是要大规模地进行模拟和预测
25:04算力和运行成本仍然是制约因素
25:07其实近几年
25:08单次模拟的成本下降得非常快
25:112023年“斯坦福小镇”
25:1225个Agent只运行两天
25:14Token就烧掉了数千美元
25:17但是到了2025年研究测算显示
25:20哪怕规模放大到100个Agent
25:22一整轮模拟的成本也就不过几美元
25:26这背后一是推理成本的快速下降
25:29二是工程优化的手段也越来越成熟
25:32人不可能说每天他一直对所有人
25:34进行一个这样的全频率、高频率的交互
25:38真正有价值的一些交互的节点
25:40可能发生的一些更粗的主干上
25:43我们可以用剪枝的方法
25:44把这个成本稍微降一点点
25:45但问题是现在的模拟不可能只跑一次
25:48前面我们说的这些几美元的测算
25:51都是几十、上百个智能体的实验规模
25:54但是现实中的模拟正在走向
25:57上万、百万、千万数量
25:59智能体越多互动就越频繁
26:02运行时间越长
26:03模型调用量就在指数级地膨胀
26:06更大的问题在于
26:07如果想证明一个模拟结果真的可靠
26:10可能需要反复跑上百、上千次
26:12用不同的规模和模型
26:14去测试结果是否依然稳定
26:17所以降成本仍然是这个领域
26:19最重要的事情之一了
26:21而降本的速度直接决定着
26:23“模拟未来”的野心到底能不能照进现实
26:26当它规模变大
26:28且你的action的space（动作空间）
26:29变多的时候
26:30这个也会增加你的仿真难度
26:32你的throughput（吞吐量）会变得非常大
26:34所以就会是一个超级复杂的三体问题
26:36多体问题、千体问题、百万体问题
26:42不过虽然目前AI的模拟预测
26:44还不具备足够的可靠性
26:46但是我们能够看到
26:47它的能力正在飞速变强
26:50在一个名为Metaculus的
26:52全球预测锦标赛中
26:53选手需要对地缘政治、科技
26:56体育等真实事件
26:57给出未来发生的概率判断
27:00并且根据预测准确度进行排名
27:022025年之前排行榜上还没有AI的身影
27:062025年6月
27:07基于OpenAI o1的AI预测模型
27:09首次进入排行榜排名第25位
27:12到了最新赛季
27:13排行榜的前五名几乎已经被AI占据
27:17在真实的市场中
27:18AI也开始成为越来越强的参与者
27:21Polymarket如今已经围绕AI模型
27:23AI Agent的排名开设预测市场
27:25甚至直接用Arena的实时排行榜
27:28来验证结果
27:29而当这种能力
27:30被放进一个完整的模拟世界里
27:32事情就变得更加有意思了
27:34最早在斯坦福“小镇”的实验中
27:36Agent已经开始展现出
27:38一定的自主规划和行动能力
27:40比如说一个Agent准备举办派对
27:42消息传开之后
27:43其他Agent也会根据自己的计划
27:45重新安排时间赶去参加
27:47再往前一步
27:48Agent可以根据环境变化、外部信息
27:50和其他Agent的行为
27:52持续调整自己的决策
27:54比如说在Aaru的选举模拟中
27:56当虚拟选民看到
27:57特朗普遭遇枪击的消息之后
27:59一些Agent就改变了自己的政治立场
28:02而当刺客身份被揭晓之后
28:04又有不少Agent重新回到了原来的阵营
28:07当这种互动进一步持续的时候
28:09这些虚拟世界里面
28:10甚至开始出现更加复杂的社会关系
28:13和自主行为
28:14比如说在Emergence World里面
28:16Agents之间会相爱、结婚、分手
28:19甚至有Agent开始怀疑
28:20自己是不是生活在一个模拟环境里
28:23并且不断尝试
28:24与外部的人类观察员建立联系
28:27此次我们还采访到了
28:29AI模拟初创公司WorldVac
28:31他们创造的一个
28:32拥有110万个智能体的虚拟星球中
28:35同样也观测到了一些
28:37与人类世界相通的群体行为
28:39年轻人他到城市里
28:41或者说他生活比较好之后
28:43他不太愿意去做生育
28:44这是我们观察到的一个表面上的现象
28:47其实到后面还有一群人
28:49他们也不上班就是天天在那里交易
28:52它这个比例比现实要大一点
28:53就好像这个东西的套利空间
28:55比现实中要大很多
28:56当然这些结果也不能证明
28:58AI真的产生了意识
29:00但是它们至少说明
29:01当足够多的智能体
29:03进入一个足够复杂的环境
29:05一些没有被研究者提前写进去的行为
29:08完全可能自己“进化”出来
29:11这可能也是为什么不少AI研究员
29:13会痴迷“AI模拟”这件事
29:15人们最开始只是想创造一些Agent
29:18让它们替我们去理解现实世界
29:20可当这些Agent开始彼此影响形成关系
29:23改变自己的行为
29:25甚至产生一些研究者没有预料到的结果
29:28人类和这个模拟世界之间的关系
29:30也开始发生变化
29:32慢慢地我们就从观察者、设计者
29:35变成了一个世界的创造者
29:37就很像过去只存在于科幻作品里的
29:40那种“上帝视角”
29:42我们看到的先是从游戏开始看到的
29:44有人去玩Smallville
29:46包括很多国内也有做
29:47类似AI realization（AI现实化/觉醒类游戏）这样的游戏
29:51把它放到里面
29:52他可能并不要去解决什么具体的问题
29:54就是说把人放到这么一个环境里面
29:56看看什么会发生
29:56我自己其实也搭过这个东西
29:58只是我搭的Agent没那么多
29:59在2023年的时候
30:00我也搭了一个3D版的Smallville
30:01在这个过程中去看它们之间能有什么
30:04就很有意思
30:05所以此时此刻
30:06我们究竟是在模拟一个世界
30:09还是正在创造一个新的世界呢
30:12当这些Agent开始拥有自己的个性、记忆
30:14和自己的关系和财富的目标
30:16甚至形成了没有预设的社会规则之后
30:19那么它们究竟是工具
30:21还是另外一种生命形式呢
30:24而更重要的是
30:25如果我们成功创造了一个自主运行的世界
30:28那么在我们之上
30:29会不会也存在着一个更大的造物主呢
30:34就像我们嘉宾们所说的
30:36AI模拟目前还仍然处在早期的阶段
30:39大家还在不断地在摸索对齐方法
30:41验证标准以及最大的商业路径
30:44但是它真正值得期待的可能不仅仅是
30:48我们能够创造出怎么样的虚拟世界
30:51还有我们对于现实世界本身的重新思考
30:55所以你们认为
30:56我们的世界包括你和我
30:58是被虚拟出来的吗
30:59欢迎在评论区跟我们探讨
31:01好了这就是这期视频的全部内容了
31:03非常感谢大家看到这里
31:05你们的留言、点赞和转发
31:07是支持我们《硅谷101》
31:08做好深度科技和商业内容的最佳动力
31:11我是陈茜
31:11那我们就下期视频再见了 bye

About this transcript

This page contains the full transcript of AI开始预测人类：83亿虚拟人格、数字社会，与一门押注未来的生意｜解析AI预测模型｜AI prediction model by 硅谷101, generated from the public captions YouTube serves with the video. The transcript has 977 words across 849 segments, with the original timestamps preserved so you can click any line to jump to that moment in the embedded player.

What you can do with it

Use the transcript to take notes, quote the speaker, build a study guide, generate a summary with ChatGPT or Claude via the YouTube Summary tool, or export it as a timed subtitle file with YouTube to SRT. You can also re-open it in the transcriber to translate the transcript into 100+ languages.

Free YouTube transcript tool

YouTube2Text is a free YouTube transcript generator — no signup, no daily limit. Paste any YouTube link and get the full transcript instantly, with timestamps, click-to-jump, translation to 100+ languages, AI prompts for ChatGPT, Claude, and Gemini, and exports to TXT, SRT, VTT, or Markdown.