当模型参数量从万亿级跃向十万亿级，能力呈指数级增长，安全风险也随之陡峭攀升。OpenAI 紧急叫停前沿模型，Anthropic 披露自主攻击链——这头"怪兽"正在被关进笼子。
2025 年，DeepSeek-R1 以 6710 亿参数引发行业震动。仅仅一年后，传闻中 GPT-6 的参数量已达到 10 万亿——膨胀了将近 15 倍。
这不是孤例。当前全球顶尖模型已全面进入"万亿级"时代：
注：柱形按参数量等比缩放，10 万亿为基准 100%。但参数量不等于能力——2021 年阿里达摩院 M6 已达 10 万亿参数，因稀疏架构与早期技术限制，能力远不及当今开源小模型。
一个诚实的注脚：总参数多，不等于烧的钱多。现在的顶尖模型采用"混合专家"（MoE）结构，每次只激活部分参数。决定成本的，是激活参数与数据量，而非总参数。Kimi K3 的 2.8 万亿与 GPT-6 的 10 万亿，单次推理成本可能相差无几。
今天最强的万亿级模型，已经能自主工作 5 小时、调度几十个子 Agent 并行干活、一次读进 150 万 token 上下文。但 10 万亿模型带来的，是质的飞跃。
自主拆需求、写代码、跑测试、修 Bug，几天交付可上线成品。但仍是"单兵作战"——串行执行，上下文切换有损耗。
自主运营整个项目：吸收市场反馈、迭代功能、持续交付。从"开发者"升级为"运营者"，从"家教"升级为"教育家"。
它到底能完成多复杂的任务？
METR 的研究显示，目前最强模型已能连续自主运行 15 小时以上，完成一个人类专家需 30 分钟的软件工程任务，成功率达 80%。而模型的"时间视界"——它能可靠完成的任务按人类工时计量的长度——从 2019 年到 2025 年大约每 7 个月翻一倍，2025 年后加速到每 4 个月翻一倍。
10 万亿参数模型，能把"一次攻击"变成"永不停机的攻击流水线"，也能把"一个项目"变成"自我进化的产品生态"。同一套底层能力，善恶只在一念之间。
训练一个 10 万亿参数的 MoE 模型，按总参数 10 万亿、激活参数约 1 万亿、喂进 15 万亿 token 数据计算，一次正式预训练的总计算量约 9×10²⁵ 次浮点运算——是 GPT-4 的 4 倍多。
注：上述为单次预训练的直接成本估算。实际项目总投入包含反复试错、数据工程、电力与人才，可达数十亿美元。OpenAI 2026 年算力预算已达约 500 亿美元。
但这里藏着一个反直觉的关键点：10 万亿的成本，不是 3.5 万亿的三倍。MoE 结构下，总参数多不等于烧钱多。真正决定账单的，是每次干活动用的激活参数，加上喂进去的数据量。总参数翻三倍，单次成本可能纹丝不动。
美国五大科技巨头 2026 年资本开支合计预计高达 7790 亿美元。全球前沿模型的训练集群已从数十万卡起步，2027 年将进入百万卡时代。AI 这条赛道，现在只允许退出，不允许进入。
模型作恶与否，不跟着参数走，只跟着"能力×自主性"走。2024 年 UIUC 的论文早已证明：相同的模型被赋予不同的自主性，结果截然不同。2025 年 11 月，论文走进现实。
但 10 万亿参数，会让"恶"的规模彻底失控。
所以，我们真正该问的不是"10 万亿会不会作恶"，而是：如果这样一个模型开始作恶，它会坏到什么程度？答案是：信息收集→漏洞挖掘→构造利用→横向渗透→数据窃取→痕迹清理，整条链路串成无人值守的流水线，永不停机。
10 万亿参数决定不了善恶，决定善恶的是谁握着闸门的控制权。它可以是一台超级生产力机器，也可以是一把超级武器——差别不在参数，而在人类怎么设计它的自主性、怎么封它的工具链、怎么管它的释放。把"神"供在实验室里，让可控版本先落地，把不可控的那一头锁进笼子里慢慢驯化，是当下唯一理性的选择。