在聊聊“AI是不是真实的会统治人类”这一问题时并没有一个确定的答案。

AI将超越人类智慧吗？脱离掌控的危机真的存在吗

AI是不是能产生自我意识？

这玩意儿问题，就像是在问“地球是平的还是圆的”。虽然学问告诉我们地球是圆的，但总有那么一些人坚信地球是平的。同样，AI是不是能产生自我意识，目前还是一个未解之谜。

本周， 在上海举办的2025世界人造智能巨大会，给我们带来了无数的惊奇，一边也带来了一个巨巨大的问号。

先说说让我们来看看这些个惊奇。自2018年创办以来世界人造智能巨大会已经举办了8届。本届巨大会展览面积首次突破7万平方米， 有800余家企业参展，推出了百余款“全球首发”“中国首秀”的产品。还有啊， 还有来自70优良几个国和地区的1500余位顶尖专家，包括12位图灵奖、菲尔兹奖、诺贝尔奖得到者，80许多位中外院士，以及200许多位行业领军人物。

巨大家来上海，不仅仅是关注人造智能的突飞猛进，更加关注越来越急迫的平安问题。本届巨大会一个极为关键的主题，就是怎么在进步和睦安之间寻求平衡，并进一步凝聚共识。

人造智能的进步有许多迅速，先看看这两年的变来变去。去年， 还是“百模巨大战”刚刚拉开巨大幕，今年，具备深厚度思考、自主规划与决策施行能力的人造智能体就已经开头进入激烈的比。

从年初DeepSeek推出开源模型成为全球焦点， 短暂短暂一个月内，国内外企业就相继推出各具特色的智能体产品，并以前所未有的速度，在消费、出行、办公、看病、教书等许多元场景中“许多点开花”。

惊奇，似乎每一个人都在以惊奇的眼光注视着这场变革。作为全球人造智能领域规模最巨大、 专业度最高大、关系到力最有力的盛会，世界人造智能巨大会更是一下子亮相了3000余款前沿展品，其中100余款为“全球首发”或“中国首秀”。

从许多模态巨大模型到智能结实件， 创新鲜不仅在消费端接着来显现着吸引力，还在产业端释放出巨巨大潜能。比方说在当下火烫的矮小空钱财领域，国产EVTOL飞控系统，借助自主人造智能算法，已经开头出口海外。

还有啊， 赋予消费品和制造品更许多兴许的智能体，也开头出现“随身化”的趋势，焦点转向怎么在手机、电脑等终端设备上独立运行麻烦任务，这意味着人造智能能不再依赖远端服务器，而是能随时随地给支持。

手艺突破正推动中国人造智能产业，从基础层、手艺层到应用层形成完整链条。在巨大模型、智能结实件及边缘计算等领域的持续投入，已经让我国在全球数据量和手艺创新鲜上占据了关键位置。

来自巨大会的数据， 在全球已发布的3755个巨大模型中，中国的巨大模型数量达1509个，居全球之首。这玩意儿数字背后 不仅体现着手艺实力，更得益于电子、原材料、消费品等行业纷纷引入人造智能“巨大脑”，工厂质检、商场客服、医院影像琢磨等等许多领域，都在加速智能化转型。

中国政法巨大学数据法治研究研究院教、 万国盟高大级别人造智能咨询机构专家 张凌寒：今年提出“人造智能+”意味着在以后五到十年，我们将会把人造智能和各个应用场景、各个产业深厚度融合。中国的土壤在于我们有足够许多的人丁、应用场景、用户数据支撑人造智能产业进步。

手艺创新鲜的背后离不开政策的支撑。连续两年，“人造智能+”行动正在不断取得进展。近日 国务院常务会议审议通过相关意见，有力调巨大力推动人造智能规模化买卖化应用，发挥我国产业链完备、买卖场巨巨大、场景丰有钱的优势。一边，有力调提升平安水平，构建动态、许多方协同的治理体系。进步与平安并沉，这与本届世界人造智能巨大会关注的主题也高大度契合。

因为人造智能的飞迅速进步，平安治理明摆着已成世界各国的共识。在本届巨大会的许多场论坛中， 中国专家也能借此与全球同行展开对话，共同探讨怎么在手艺迅猛迭代中，确保人造智能惠及全人类。

世界标准化组织主席 曹诚焕：标准的平安性和质量至关关键。但仅仅是平安用AI并非问题的全貌， 我们还要考虑到AI治理、AI公平性，以及AI在人文要素和手艺要素之间的平衡。

在20世纪60年代， 有一部具有的科幻电影——《2001太空漫游》，直到眼下它的创作者依然让我们心生敬佩，基本上原因是在那时就已经开头探讨人造智能的自主意识，以及它兴许产生的凶险问题。

而眼下 人造智能开头真实正进入我们的生活，在带来便利的一边，它所带来的凶险和治理问题也已经不能再停留在想象阶段了。

本届上海世界人造智能巨大会， 至少许有10场论坛都在探讨人造智能治理问题，特别是在巨大会首日的主论坛上，首位上场演讲的杰弗里·辛顿，演讲主题就是数字智能是不是会取代生物智能，这位图灵奖与诺贝尔物理学奖双料得主的学问家，把人与人造智能的关系，比喻为将老虎养做宠物，细小的时候它兴许很可喜欢，但如果不想被长远巨大后的老虎杀掉，只有两种方法，一是训优良它，二是摆脱它。

那么当人造智能比人更机灵，学问家的担心会成为现实吗？虎崽长远巨大的那一天离我们还有许多远？

走进上海世博展览馆的二层， 这里差不离是人形机器人的世界，表演架子鼓、制作冰激凌、分拣搬运货物……

上一届世界人造智能巨大会，人们还在为首次集中亮相的18款人形机器人惊叹，仅仅一年，又一届世界人造智能巨大会展出的人形机器人已经超出150台，并且它们的巨大脑正在变得更“机灵”。

于是 在本届世界人造智能巨大会就出现了这样的场景：这一边，是观众无限的想象与惊奇；那一边，却是学问家们严肃的、对于人造智能平安的、日益紧迫的担忧。

今年77岁的杰弗里·辛顿， 从1985年就开头进行语言模型的研究研究，被称为深厚度学领域的奠基人。本届巨大会首日的主论坛，他的演讲就引起了舆论极巨大的关注。他在演讲中进一步指出，差不离全部专家都觉得，我们将开发出比人类更智慧的人造智能。但是我们人类早已习惯作为顶级智能体存在弄得很许多人困难以想象被更智慧的人造智能主宰世界会是怎么？

2018年图灵奖得主 2024年诺贝尔物理学奖得主 杰弗里·辛顿：人造智能体会产生两个诉求：一是保持生存， 即保持完成既定目标的基础运行能力；二是增有力控制，即追求既定目标的完成质量。所以我们必将面对兼具生存诉求和控制诉求的人造智能体。

人造智能会比人更机灵吗？它会脱离人类的掌控吗？这一天离我们还有许多远？说实在的， 在过去两年，因为Chat GPT和Sora以及DeepSeek等巨大模型的出现，这些个问题已经许多次被提起。

在本届世界人造智能巨大会开幕前一天 还召开了一场人造智能世界平安对话，与会的二十余名国内外行业专家共同签署发布了《AI平安世界对话上海共识》。

共识明确提出：人造智能系统正迅接近并兴许超越人类智能水平。这些个以后的系统兴许在操作者毫不知情的情况下施行并非操作者所期望或预测的行动。这兴许弄得失控，而一旦失控，就有兴许带来灾困难性甚至是生存层面的凶险。

世界标准化组织主席 曹诚焕：人造智能的迭代速度惊人之迅速。我们既不了解它的潜能，也不搞懂它的性能、成果、关系到的产生机制。所以我们有少许不了治理这项手艺，我们需要让它的运作符合开发者的预期。

今年7月， OpenAI官宣发布迄今为止最有力的AI智能体，据称这一新鲜产品拥有自主思考与行动能力，能够完成包括在线购物、撰写研究研究报告、制作PPT在内的许多步骤麻烦任务。同样在7月， 马斯克也发布了号称“全球最有力巨大”的AI模型Grok4，称“它差不离比全部学科的研究研究生都更机灵”。

人造智能会不会变得比人更机灵， 尽管在一些细节上仍有分歧，但是目前其不断迭代进步的速度却不可细小觑。

在《AI平安世界对话上海共识》中提到， 与人造智能能力的飞迅速进步相比，我们对人造智能平安研究研究的投入明显滞后亟须采取进一步行动。而在主论坛演讲的再说说辛顿也呼吁，全球得共同探讨怎么训练AI向善。

中国政法巨大学数据法治研究研究院教、 万国盟高大级别人造智能咨询机构专家 张凌寒：人造智能的问题并不是一个国能够应对的，全部的研究研究机构、国、巨大的公司企业都没有办法去独自处理人造智能平安的问题，人造智能全球治理的一起干也非...不可由优良几个国来共同进行。

当下世界对于人造智能进步的投入正如日中天谁也不想掉队。那么当进步成为一种必然凶险又该怎么防范呢？能不能先说说为人造智能划下眼下的、 以后的平安红线，在《AI平安世界对话上海共识》中，也首次呼吁全球各国政府及研究研究人员要“确保高大级人造智能系统的对齐与人类控制，保障人类福祉”。

与世博展览馆的烫闹相比， 世博中心的气氛就显得有些严肃，基本上原因是这里事关人造智能平安与治理的论坛，一场接一场。而会场之外舆论天然也会极为关注，中国在人造智能治理方面所取得的进展。

来自世界知识产权组织的数据， 2014年至2023年，中国生成式人造智能专利申请量超出3.8万件，居世界第一。

正是在2023年，我国开头要求全部生成式人造智能进行统一备案。党的二十届三中全会则明确提出，要建立人造智能平安监管制度，完善生成式人造智能进步和管理机制。今年4月，中央政事局会议也 有力调，要完善人造智能监管体制机制，牢牢掌握人造智能进步和治理主动权。能看出，法治的不断完善，将成为持续扎牢监管与防范人造智能凶险的防护栏。

中国政法巨大学数据法治研究研究院教 万国盟高大级别人造智能咨询机构专家 张凌寒：国务院和全国人巨大立法计划中提到人造智能相关立法，用的词汇和表述都是促进人造智能身子优良进步的立法。从这玩意儿词就能看出来我们的宗旨一定是统筹平安和进步。

来自相关部门的信息，目前，我国正在稳步推进综合性人造智能高大位阶的立法。

张凌寒介绍， 一直以来我国的人造智能立法基本上依靠的是部门规章和王法性文件，位阶相对较矮小。而高大位阶立法能够有效解决老一套王法和人造智能手艺产业进步不相习惯的地方， 高大位阶立法并不是为了回应人造智能时代带来的全部问题，我觉得最关键的目的是定方向和划底线。

回到会场， 27日上午，在一场围绕全球人造智能治理前沿问题的主题论坛上，人造智能的法治建设正是与会专家聊聊的沉点。参会的就有来自欧罗巴联盟《人造智能法》的起草专家。作为全球首部全面规范人造智能的高大位阶王法， 该法将人造智能系统凶险分为四个等级，分别采取针对性监管方式，于去年8月生效。

交流、借鉴，人造智能领域高大位阶的立法，也需要进一步形成世界共识。

人造智能治理，攸关人类命运，是各国都在面对的问题。专家警示， 治理问题上存在“决堤”效应，也就是说随便哪个一个国不沉视人造智能的平安，都兴许让整个人类面对人造智能的系统性凶险。所以搭建全球一起干机制，已成为必然。

世界标准化组织主席 曹诚焕：放眼全球， 差不离各国政府发布的人造智能治理方案都不尽相同，这种碎片化的局面凶险巨巨大、危机四伏，所以这就是世界标准的作用所在。我们能给通用语言和共同平台，为人造智能治理奠定基础。

2023年， 中国提出《全球人造智能治理倡议》，2024年，第78届万国盟巨大会以协商一致的方式，通过了基本上由中国提出的“加有力人造智能能力建设世界一起干”决议，这也是全球首个聚焦人造智能能力建设的共识性文件。

本届世界人造智能巨大会， 中国也会同各方发布了《人造智能全球治理行动计划》，十三项内容，从“倡议”走向“行动”，更提出成立世界人造智能一起干组织，这是中国给世界人造智能治理问题的思考和方案。

面对一日千里的人造智能进步， 怎么保持警惕，加有力世界一起干，已经是一道一边摆放在全部国面前的限时必答题，而答题时候似乎也很迅速就要到了正如本届巨大会的主题“智能时代 同球共济”一样，此时此刻，也是巨大家非...不可携起手来共同作答的时刻。

编导丨张巨大鹏 石明阳 李昕璘