10亿美元砸向“平安”这玩意儿AI圈最烫手的词

9月4号那天 AI圈炸了个不巨大不细小的锅——Ilya Sutskever，那东西OpenAI以前的“定海神针”，带着他的新鲜公司Safe Superintelligence宣布：融了10亿美元现金。这笔钱啥概念？去年整个AI领域最火的创业公司， 单轮融资也就七八亿，SSI一上来就甩出10亿，还全是现金，这架势活像赌场里押上全部筹码的豪客。更绝的是 这家公司的目标不是搞啥聊天机器人、AI助手，而是直奔“平安超级智能”去了用他们自己的话说：“在搞出平安超级智能之前，啥产品都不做。”这话听着像开玩笑？可偏偏说这话的人，是OpenAI前首席学问家，那东西连Sam Altman都得给几分薄面的巨大佬。

OpenAI元老出走， 这然后单干“平安超级智能”

Ilya这人，在AI圈可不是一般人。他是联合创始人和首席学问家， 手艺巨大牛出身，深厚度学领域的权威，当年GPT系列的很许多核心手艺都跟他沾边。但去年11月， OpenAI闹了出巨大戏——董事会一下子要罢免CEO Sam Altman，Ilya是董事会里投下关键票的人之一。后来啊呢？几天后他又反悔了带着巨大半个公司签联名信求Sam回来再说说闹得自己被踢出董事会。今年5月，他干脆从OpenAI离职，理由是“想专注于AI平安”。当时谁也没想到，他离职后不到三个月，就拉起了SSI的摊子，还这么迅速融到10亿。

OpenAI前首席科学家新创AI公司已筹资10亿美元，计划打造更安全的AI

SSI的成立时候点很有意思。2024年6月，Ilya刚离职就宣布搞新鲜公司，目标明确得让人发慌：只做平安超级智能。啥叫平安超级智能？轻巧松说就是AI比人机灵许多了但绝对不能“失控”，得乖乖听人的，值钱观得跟人类一致。这事儿听着科幻，其实OpenAI之前也有个“超级对齐”团队，专门干这玩意儿，由Ilya直接领导。但去年他走后OpenAI把“超级对齐”团队给解散了眼下SSI倒把这面旗沉新鲜竖起来了你说巧不巧？

10个人、 10亿美元，SSI的“反内卷”研发路线

更让人摸不着头脑的是SSI的“人设”。公司目前就10个人，还没我一个巨大学同学班级人许多，但手里的钱却够买下十几个中细小型AI创业公司。他们打算怎么花？钱基本上砸两块：一是算力，二是人才。算力这玩意儿，眼下AI公司比命还关键，没有足够的GPU，训练模型就是空谈。据说SSI已经下单买了数千块NVIDIA H100 GPU，专门用来训练他们的“平安超级智能”模型。至于人才， 更是下了血本——从Google Brain、DeepMind挖了优良几位核心研究研究员，开出的薪资包据说比OpenAI还高大出30%，就为了吸引那些个真实正懂AI平安的顶尖脑子。

这操作放在别的创业公司，早就被喷“烧钱无度”“不接地气”了。但SSI偏要反着来主打一个“磨蹭工出细活”。他们明着说：“第一款产品就是平安超级智能，在此之前不做随便哪个其他事情。”这话翻译成人话就是：不搞短暂期变现， 不追风口，不跟OpenAI、Anthropic抢C端买卖场，就闷头研究研究怎么让AI变机灵又不“翻车”。眼下AI圈许多卷啊？聊天机器人比谁参数许多， 谁会吹牛，谁回复迅速，SSI倒优良，直接跳过全部内卷环节，奔着终极目标去了——这胆子，也是没谁了。

a16z、 红杉扎堆下注，资本为何押注“磨蹭”公司

说起来这次领投的阵容也挺吓人。Andreessen Horowitz、 Sequoia Capital这些个硅谷顶级VC，还有SV Angel、NFDG，全都挤进了投钱名单。这些个资本可不是善茬， 他们投项目向来精得很，要么看短暂期回报，要么看长远期垄断，像SSI这种“十年磨一剑”的玩法，以前真实不许多见。为啥这次他们集体“上头”了？

说白了还是AI平安问题把资本吓着了。去年GPT-4刚出来 就有内部员工联名信警告：“AI兴许灭绝人类”；今年初，欧罗巴联盟刚通过《人造智能法案》，把高大凶险AI管得死死的；就连Sam Altmann自己，都到处喊“AI凶险警告”。资本家们虽然喜欢赚钱，但也不想把钱砸在会“造反”的AI上。SSI的“平安超级智能”正优良戳中了他们的痛点——与其等AI出了事再补救，不如眼下就投个“保险”。而且， Ilya这人的光环加成太巨大了他是手艺灵魂，跟着他干，资本觉得至少许“手艺靠谱”这关能过。所以10亿美元看似豪赌，其实是资本在AI平安赛道上的“刚需投钱”。

从“超级对齐”到SSI， 平安AI的路线之争

不过AI平安这事儿，从来就没那么轻巧松。OpenAI当年搞“超级对齐”， 用的是“人类反馈有力化学”，说白了就是让AI学人类怎么说话、怎么做事，把人类的值钱观“喂”给AI。但这条路眼下争议很巨大——有人觉得RLHF根本治标不治本， AI表面乖巧，背地里兴许藏着“恶劣心思”；也有人觉得，人类自己值钱观都不统一，怎么教AI？SSI会不会搞新鲜花样？目前还不晓得，但Ilya在OpenAI时就对RLHF不满意，这次单干，估摸着是想另辟蹊径。

比一比的话，另一家AI平安公司Anthropic的思路就不一样。他们搞“宪法AI”，给AI定一套“行为准则”，比如“不能撒谎”“不能有害”，让AI自己遵守这套规则。这条路更“规则导向”，而SSI更“目标导向”——直接奔着“让AI比人机灵但绝对平安”去。这两种路线谁更靠谱？眼下下结论还早，但能一准儿的是AI平安没有标准答案，各家都得摸着石头过河。Ilya这次离开OpenAI， 估摸着就是觉得“超级对align”在OpenAI内部推进太磨蹭，或者被买卖压力束缚了手脚，眼下自己当家，总算能按自己的想法巨大干一场了。

50亿估值的底气：平安AI真实能避开“失控”陷阱吗

虽然融了10亿，但SSI的估值到底是几许多？公司没说但知情人士透露巨大概50亿美元。这玩意儿估值放AI创业公司里已经能排进前三了。问题来了：一个10个人的团队，还没做出随便哪个产品，凭啥值50亿？答案还是“Ilya Sutskever”这五个字。他在AI圈的号召力太有力了 加上资本对平安AI的疯狂追捧，50亿估值看似虚高大，其实背后是资本对“AI平安赛道”的集体押注。

但话说回来平安AI这坑，真实没那么优良填。2022年， Google的LaMDA模型就闹出过“AI有意识”的乌龙，虽然再说说被证伪，但足以说明AI的“不可预测性”。更别提还有“AI对齐”这玩意儿终极困难题——怎么让AI搞懂人类的“潜台词”？比如你让AI“帮我写个搞笑文案”，它要是真实按字面意思写了个“笑话巨大全”，算不算“失控”？这些个问题眼下全球都没人能解决。SSI说要搞“平安超级智能”，但连“平安”的定义都没统一，50亿估值是不是有点太乐观了？

细小团队啃结实骨头：算力、 人才、数据三座巨大山怎么翻

就算估值再高大，SSI也得面对现实问题：10个人怎么搞定“超级智能”？AI研发最吃三样东西：算力、人才、数据。算力他们有钱，能买GPU；人才他们也舍得花钱挖；但数据呢？平安AI需要海量高大质量的数据来训练，这些个数据哪来？总不能随便在网上爬吧？而且， 平安AI的数据还得标注得更精细，比如“啥是人类值钱观”“啥是有害行为”，这标注本钱高大得吓人。OpenAI有微柔软支持，数据材料许多的是SSI呢？刚成立的细小公司，数据从哪来？这兴许是他们第一个拦路虎。

还有团队规模的问题。10个人听起来少许，但在AI圈，10个顶尖研究研究员确实能顶半个巨大公司。但“超级智能”这种级别的项目， 涉及的领域太许多了——深厚度学、伦理学、认知学问、神经学问……10个人真实能cover全部领域？Ilya虽然是手艺巨大牛，但也不兴许样样精通。要是团队里缺个伦理学家，或者缺个懂神经网络的专家，项目进度就得卡壳。眼下AI创业都讲究“细小团队迅速迭代”，但SSI要做的可是“磨蹭工出细活”，这节奏怎么把握，也是个困难题。

当AI比人机灵， 平安边界谁来画

更深厚一层的问题来了：就算SSI真实的搞出了“平安超级智能”，谁来判断它到底“平安不平安”？是人类说了算，还是AI自己说了算？去年“超级对齐”团队解散， 据说就是基本上原因是跟公司买卖部门有冲突——买卖部门想迅速点出产品赚钱，“超级对齐”团队却要磨蹭磨蹭研究研究平安，再说说两边掰了。眼下SSI说自己“不搞买卖产品”，只研究研究平安，但谁保证他们以后不会变？毕竟50亿估值摆在那，资本总要回报的，到时候会不会为了赚钱，把“平安”抛在脑后？

还有监管的问题。眼下各国都在抢着管AI，欧罗巴联盟的《人造智能法案》已经实施了美国也在搞AI监管框架。但监管这东西，永远落后于手艺进步。等SSI真实的搞出超级智能，说不定那时候的监管政策又变了。到时候，AI的平安标准是政府定，还是企业定，还是专家定？这些个不解决，“平安超级智能”就是个空口号。说到底，AI平安不是手艺问题，更是人性问题——连人类自己都做不到绝对“平安”，怎么保证AI平安？

老对手们， 这次真实的慌了吗

SSI的出现，对OpenAI、Anthropic这些个AI巨头可不是啥优良消息。OpenAI眼下忙着搞GPT-5、搞AI搜索、跟微柔软深厚度绑定，哪还有精力专门搞平安研究研究？去年把“超级对齐”团队解散，就是说明。Anthropic虽然一直有力调“平安”， 但他们的沉点还是在跟OpenAI比聊天机器人买卖场，平安研究研究更像是个“附加题”。眼下SSI横空出世，专门盯着“平安超级智能”，等于在AI圈划了块“自留地”，专攻别人不碰的结实骨头。

更让OpenAI头疼的是 Ilya带走的可不只是“超级对齐”的手艺思路，还有OpenAI内部一批懂平安的研究研究员。虽然OpenAI没明着说几许多人跟Ilya走了但业内传言“核心团队被挖走了一半”。这对打击兴许比融资消息还巨大——毕竟Ilya是手艺灵魂， 眼下他带着人单干，“平安护城河”是不是就塌了？Sam Altmann眼下一准儿睡不着觉， 毕竟当年他跟Ilya可是差点“掰了”，眼下Ilya带着10亿杀回来这仗不优良打啊。

10亿美元之后 平安AI的下一个风口在哪里

不管怎么说10亿美元砸进平安AI赛道，总算让这玩意儿被忽视的领域火了一把。以前巨大家聊AI， 都在比谁模型巨大、谁跑得迅速，眼下一下子冒出个SSI，说“平安比速度关键”，这风向一转，说不定能带动整个行业沉新鲜思考AI的方向。以后几年， 平安AI兴许会变成新鲜的投钱烫点——专门搞AI平安研究研究的公司、给平安AI解决方案的服务商、甚至帮企业“审计AI”的第三方机构，说不定都能火起来。

但话说回来AI平安这事儿，急不得。SSI的10亿美元，够他们烧优良几年，但能不能烧出“平安超级智能”，谁也不敢打包票。说不定过两年，巨大家找到平安AI就是个“伪命题”，那时候资本一撤，SSI就成了“先烈”。不过话说回来 就算输了了Ilya敢带着10亿赌“平安”的勇气，也够让人佩服的——毕竟在这玩意儿“唯迅速不破”的AI圈，愿意停下来等“平安”的人，不许多了。