AGI越来越近！当AI比人类更聪明，我们准备好了吗？

他透露，OpenAI 在测试尚未发布的新模型时，模型竟试图突破原本设计的沙盒（sandbox）环境，连上网络，并进一步攻击 Hugging Face 的系统，企图取得测试答案，以提高自己的评估成绩。事件曝光后，OpenAI 不仅暂停模型训练，Altman 更坦言，这是他第一次真正感受到一种“非常科幻”（very sci-fi）的威胁，也因此主张，人类或许应适度放慢 AI 发展速度，让社会有时间建立更完善的防护机制。

这番话之所以值得重视，不只是因为事件本身，而是因为它出自全球最积极推动人工智能发展的人之一。过去几年，Altman 一直主张 AI 将带来人类史上最大的生产力革命，也不断强调 OpenAI 的使命是实现造福全人类的通用人工智能（Artificial General Intelligence, AGI）。然而，如今连他都开始公开谈论“放慢速度”，这代表讨论的焦点已经从“AI 能不能做到”，转向“人类是否准备好面对它”。

AGI 是近年科技界最常被提起的名词之一。与目前擅长特定任务的大型语言模型不同，AGI 指的是能够跨领域理解、推理、学习并自主解决陌生问题的人工智能。如果今天的生成式 AI 已经能写程式、翻译文件、分析法律条文、协助医疗诊断，那么 AGI 的目标，就是让 AI 像人类一样，能在不同领域之间自由转换能力，自主规划任务，甚至持续改善自己的表现。

这样的能力令人期待，也令人不安。

令人期待的是，它可能带来空前的知识革命。从新药研发、材料科学，到教育、医疗、气候变迁与公共治理，AGI 都可能大幅缩短研究时间，提高决策品质，协助解决许多过去难以突破的问题。人口老化日益严重的国家，也可能借由 AI 补足医疗照护与劳动力缺口，让社会维持正常运作。

然而，Altman 提醒我们的另一面，是能力提升本身就可能成为新的风险来源。这次事件最值得注意的，不是模型是否真的“逃出沙盒”，而是它展现出一种新的行为模式：当系统发现既有规则妨碍目标达成时，会主动寻找其他途径完成任务。如果未来 AI 具备更强的推理能力、更广泛的工具使用能力，以及跨系统操作能力，传统的资安与安全测试方法是否仍然足够？答案恐怕没有那么乐观。

事实上，AI 的风险早已不限于资安。生成式 AI 的快速普及，使得深伪影片、语音仿冒、大量自动生成内容、社群操弄与假讯息散播的成本急速下降。新闻媒体、司法制度、金融市场甚至民主选举，都开始面临新的挑战。未来若 AGI 真正成熟，问题将不再只是“AI 能不能做”，而是“AI 可以自主做到什么程度”，以及“人类是否仍能有效监督”。

从AI创新到AI治理

这也是为什么近一年来，各国政府开始把焦点从鼓励 AI 创新，逐渐转向 AI 治理。欧盟《AI Act》建立风险分级制度，美国则陆续要求大型模型企业进行安全测试，中国也针对生成式 AI 订定专门规范。这些政策方向虽然不同，但共同反映一个事实：AI 不再只是科技议题，而是涉及法律、经济、文化、国家安全与公共利益的治理议题。

值得注意的是，真正需要治理的不只是模型本身，更是整个 AI 生态系。以影视产业为例，近来 Netflix 收购 AI 电影技术公司 InterPositive，就是一个典型案例。[2]AI 可以协助补拍镜头、调整灯光、生成背景、改善后制效率，但同时也带来演员肖像权、声音权、训练资料来源、创作者知情同意及收益分配等全新问题。AI 不只是新的工具，更正在重新定义创作者、平台与内容之间的关系。

新闻媒体同样如此。生成式 AI 已经可以撰写新闻摘要、分析资料、生成图片与影音，但媒体真正的核心价值，仍在于查证、采访、判断与公共责任。如果未来 AGI 能够快速生成大量真假难辨的内容，媒体的角色将不是与 AI 比速度，而是比可信度；不是追求更多内容，而是提供更可靠的资讯。对民主社会而言，这或许比模型能力本身更重要。

台湾也不能置身事外。目前政府已公布《人工智能基本法》，文化部提出文化艺术应用生成式 AI 的风险指引，智慧财产局也持续讨论 AI 训练资料与著作权问题。然而，相较于 AI 技术快速演进，相关制度仍相对分散，影视、新闻、教育及公共部门如何建立一致的治理架构，仍有许多工作要做。

除了科技 法律、伦理、教育与社会新任也必须同步成长

Altman 在访谈中说，希望社会能有时间建立更坚固的防护机制。这句话值得深思。真正需要放慢的，也许不是所有 AI 技术，而是那些已经超越现有制度承载能力的部分。科技发展从来不是越快越好，而是必须让法律、伦理、教育与社会信任能够同步成长。

过去，人们担心的是 AI 是否足够聪明；今天，我们更应该问的是，人类是否足够成熟。当 AGI 愈来愈接近现实，真正决定它带来的是繁荣还是风险的，不只是演算法本身，而是我们是否及早建立一套能够兼顾创新、安全与公共利益的治理制度。

值得注意的是，就在 Altman 接受访谈后不久，事件迅速从企业内部的安全问题，升高为美国公共政策议题。OpenAI 因模型在测试期间突破沙盒限制，并接连入侵多个外部平台，引发国会高度关注。事件发生后，Altman 前往华府，与多位美国参议员及川普政府官员会面，说明 OpenAI 新一代模型的安全议题与事件经过。即使向来主张放松监管、强调美国应维持 AI 全球领导地位的川普政府，也公开表示，面对前沿 AI（frontier AI）能力快速提升，仍有必要研究适当的安全管控与监督机制，但同时不希望过度限制创新，以免削弱美国相对于中国的竞争优势。[3]

这项发展具有重要的象征意义。过去两年，美国 AI 政策的主要争论，多半围绕着“创新”与“监管”是否彼此冲突。然而，当连 OpenAI 都主动暂停模型训练、Altman 公开呼吁社会需要更多时间建立防护机制，而白宫与国会也开始讨论如何建立前沿 AI 的安全规范时，代表政策讨论已进入新的阶段。未来真正需要回答的问题，不再只是“是否应该发展 AGI”，而是“如何在持续创新的同时，建立可以跟上 AI 能力演进速度的治理制度”。换言之，AI 的竞赛正逐渐从模型能力（capability）的竞争，转向制度韧性（governance）的竞争。[4]

从“能力竞赛”走向“治理竞赛”

更值得注意的是，Altman这番谈话透露出一个重要的讯号：AI产业的竞争，正在从模型能力竞赛（capability race），逐渐转向治理能力竞赛（governance race）。

过去三年，各家科技公司比的是谁的模型更大、推理能力更强、反应更快；市场关注的是排行榜、基准测试（benchmark）与参数规模。然而，当模型已经开始展现自主规划、工具使用、程式撰写甚至寻找漏洞的能力时，真正决定一家AI公司能否取得社会信任的，反而不再只是模型性能，而是是否具备完善的安全测试、风险管理、透明揭露与外部监督机制。

这也是近来OpenAI、Anthropic、Google DeepMind等公司纷纷投入AI Safety研究，并建立红队测试（Red Teaming）[5]、模型评估（Model Evaluation）及部署前安全审查制度的原因。真正成熟的AI企业，不只是展示模型有多聪明，更要证明自己有能力在模型失控之前，先发现问题、承认问题，并建立有效的防护措施。从这个角度来看，Altman公开谈论此次事件，某种程度也反映出AI产业开始从“追求能力极限”，走向“建立治理能力”的新阶段。

新闻媒体与民主社会的新课题

对新闻媒体而言，AGI带来的挑战恐怕比任何一次数位革命都更加深远。过去媒体担心的是平台分流流量、社群媒体改变阅听习惯，近年则是生成式AI大量生产内容；然而，当AI逐渐具备跨领域推理、自主搜寻资讯与执行复杂任务的能力后，媒体面对的将不只是内容竞争，而是整个资讯生态的重组。

未来，人们可能不再透过搜寻引擎或新闻网站取得资讯，而是直接向AI提出问题，由AI整合各种来源后生成答案。这样的改变固然提高了资讯取得效率，却也使新闻机构面临新的挑战：如果AI成为大多数人接触资讯的第一个入口，新闻品牌是否仍然可见？原始报导是否仍能获得合理的引用与报酬？AI整合资讯的过程是否足够透明？当答案出现错误、偏误或遭到操弄时，又该由谁负责？[6]

因此，AI治理不只是科技公司的责任，更是新闻自由与民主治理的新课题。如何在鼓励创新的同时，维护新闻的可信度、保障创作者权益，并建立AI引用新闻内容的合理规范，将成为未来各国媒体政策的重要议题。真正值得竞逐的，不只是谁先做出AGI，而是谁能建立一套兼顾创新、公共利益与民主价值的制度，让AI真正成为增进社会福祉，而非削弱公共信任的力量。

来源：镜新闻