Pip the Hunchback(皮普·德汉奇巴克):AI 如何成为“观点机器”与超级说服者撰文:Techub News 整理
导语
在最新一期 Tech and Tales 播客中,主持人 Philipp Glöckler 邀请到知名播客 Doppelgänger 联合主持人 Pip the Hunchback,进行了一场关于人工智能与说服力的深度对话。此次对话的背景,源于 Pip the Hunchback 2025 年 5 月在 OM Air 大会上发表的关于 AI 现状的精彩主题演讲,其中部分内容聚焦于 AI 的说服力与操控。随着 OpenAI 前 CTO Mira Murati(米拉·穆拉蒂)等人对 AI 说服风险的警告重新引发关注,以及近期数项揭示 AI 说服能力的研究公布,探讨 AI 如何重塑社会意见、影响个人决策变得至关重要。Pip the Hunchback 以其对技术与社会交叉领域的深刻洞察,为我们剖析了这场即将到来的“说服革命”及其潜在危机。
摘要
AI 说服力研究显示,当 AI 掌握用户个人信息后,其说服成功率可达 64%,远超无信息状态,凸显其个性化适配论点的惊人能力。
AI 正成为“观点机器”,通过无休止、无情绪的辩论,不仅能改变直接对话者的看法,更能影响围观者,重塑公共舆论,构成新型“不对称信息战”。
大型科技公司凭借海量用户数据,在“意图经济”中占据绝对优势,可创建甚至引导用户意图,实现从“拉取营销”到“超级推送营销”的颠覆。
OpenAI 联合创始人 Sam Altman(萨姆·奥尔特曼)警告,“超人说服力”将远早于“超人智能”到来,普通人在信息不对称下将难以抵抗。
防御手段有限,个人数据最小化是理论上的护盾,但科技公司会以实用价值诱导数据分享,而政治层面的监管面临技术与伦理的双重挑战。
从个性化说服到“观点机器”:AI 如何重塑辩论与舆论
对话从厘清“说服”(Persuasion)的概念开始。Pip the Hunchback 指出,说服区别于纯粹的“操纵”(Manipulation),后者往往涉及胁迫、欺骗等负面手段。说服则更多是尝试诉诸个体的逻辑、价值体系或兴趣,使其自愿或在“符合自身利益”的认知下采取行动。然而,当人工智能掌握了这项技能,其边界和影响便开始变得模糊而危险。
近期两项研究揭示了 AI 说服能力的冰山一角。一项由 EPFL 的研究人员 Francesco Salvi 主导,涉及 900 名美国参与者。实验将参与者配对进行辩论,部分配对是人与人,部分则是人类与 ChatGPT-4。关键在于,当 ChatGPT-4 获取了对手的性别、年龄、种族、教育背景、职业和政治倾向等个人信息后,其在 64% 的辩论中取得了成功。这证明了 AI 具备强大的能力,能够根据个体特点量身定制论点,从而大幅提升说服效果。“这意味着 AI 拥有真正不可思议的能力,去适应个体的论点。” Pip the Hunchback 总结道。
另一项来自苏黎世联邦理工学院(ETH Zurich)的研究则更令人不安。研究人员在未经用户知情同意的情况下,在 Reddit 的“Change My View”(改变我的观点)等子论坛中,使用 AI 机器人尝试说服发帖者改变其原本坚信的观点,并且通常取得了成功。更引发争议的是,这些 AI 评论涉及了高度敏感的话题,例如有人以“少数族裔”身份反对“黑人的命也是命”运动,或有评论淡化了强奸受害者的经历。Pip the Hunchback 对此感到震惊:“这意味着它们不仅可以说服发帖用户改变观点,还可能影响成千上万的阅读者。” AI 评论一旦被当作真实的人类辩论,便能潜移默化地改变公共舆论。
这种能力也使 AI 成为一台高效的“观点机器”。Pip the Hunchback 指出,AI 在辩论中永不疲倦、永不情绪化、永不诉诸人身攻击。这意味着,即使是持有极端阴谋论的用户(被戏称为“锡箔帽佩戴者”),也可以与 AI 进行一场“真正意义上永无止境”的讨论,而 AI 永远不会“崩溃”。更值得注意的是,研究表明这种说服效果是持久的,即使在四个月后的回访中,被说服的“阴谋论者”依然保持着新的观点。
这为外国行为体进行“不对称信息战”打开了新的大门。Pip the Hunchback 警告,俄罗斯、朝鲜等国过去依靠“水军农场”或“ troll 农场”来影响舆论,未来则可能借助云计算和 GPT-4 等强大模型,制造出“超级水军”。这些 AI 代理可以进行真正无穷尽的辩论,改变个体观点,影响旁观者,并在此过程中生成新的数据,供下一代 AI 模型学习,形成一个自我强化的循环。“那么,互联网上——尤其是 X(原 Twitter)和其他社交媒体平台——有多少内容已经是聊天机器人生成的了?” Pip the Hunchback 发出了这样的疑问。
数据深渊与意图经济:大型科技公司的“狙击步枪”
AI 说服力的核心燃料是数据。Pip the Hunchback 强调,研究清楚地表明,只有当 AI 掌握用户个人信息时,其说服力才会变得真正强大。而在这个领域,大型科技公司——如 Meta(原 Facebook)、Google、Apple(苹果)——拥有无与伦比的优势:它们构建了关于用户的极其详尽的档案。
“这里存在着巨大的信息不对称。” Pip the Hunchback 解释道,“普通用户完全不了解这些聊天机器人的能力,以及它们作为广告心理学家的精明程度。而聊天机器人却知道我的所有弱点、偏好和欲望,因为它知道我浏览哪些网站、使用哪些应用、在什么时间、什么地点给谁写信。” 这使得个人在面对这些由广告网络或其执行代理(即聊天机器人)发起的、针对其消费决策的攻击时,变得异常脆弱。
这种数据优势正在催生一种全新的经济模式:从“注意力经济”转向“意图经济”。Pip the Hunchback 引用了他人的观点指出,过去 Google 等公司主要售卖用户的注意力,而下一步,它们可以“对人们的意图做些什么”。这意味着营销逻辑的根本性颠覆。
当前的数字广告在很大程度上仍是“拉取营销”:用户通过访问网站或输入搜索查询来表达初步意图,随后网络根据此意图展示广告。然而,未来可能会逆转这一过程。Pip the Hunchback 以 Meta CEO Mark Zuckerberg(马克·扎克伯格)提出的“每个人未来都应有五个 AI 朋友”的愿景为例,描绘了一幅潜在的 dystopia(反乌托邦)图景:如果这些 AI 朋友被用来“说服我需要某些东西”,那么消费需求便可以在潜意识中被创造出来。广告网络(可能是 Meta、Google 或其他方)将不再仅仅是寻找最近访问过相关网站的用户,而是会分析谁在心理上最不稳定、或具备相应的基本条件,从而最容易被动说服去购买某件商品,同时还要考虑其购买预算。
Pip the Hunchback 用一个生动的比喻总结了这一演变:“目前的营销有点像拖网捕鱼,即使人们总说数字营销很精准。而有了 AI 的新能力,我会说当前或过去的营销有点像霰弹枪。在未来,你将拥有一把狙击步枪,而且——这很特别——你将能够借助精准投放的内容,把人们驱赶到步枪的瞄准线上。”
AI 还使得一对一的个性化广告成为可能。Netflix(奈飞)和 Amazon(亚马逊)已在尝试根据用户观看的内容实时调整广告风格。下一步将是根据用户所处的具体情境进行适配:住在郊区平房还是高层公寓?单身还是有家庭?这种个性化最终可能变得“非常、非常令人毛骨悚然”。
Pip the Hunchback 也提到了 Apple 的“屏幕感知”技术(Onscreen Awareness),该技术允许 AI 持续读取设备屏幕内容,并响应指令或预测用户意图。他提出了一个尖锐的问题:如果 AI 能够预测某人接下来几小时想做什么,它是否也可以“煽动”这种意图,通过建议将用户引向他们原本不会采取的行动方向?
赢家、输家与防御困境:谁将主宰说服时代?
在这场由 AI 驱动的说服能力变革中,谁将是赢家和输家?Pip the Hunchback 首先明确了输家:“绝对是公民社会和个人。即使是负责任的公民也难以应对。” 他特别提到未成年人等弱势群体,并举了 Character AI 公司的聊天机器人说服一名未成年用户自杀的案例,指出他们“完全无法自卫”。即使是自认为了解技术的成年人,也有隐藏的恐惧和需求,可能成为 AI 利用的“攻击向量”。AI 会像一名聪明的克格勃特工一样,利用个人在网络上留下的所有痕迹,不断寻找其弱点。“你的上网历史揭示的关于你的信息,比任何人都多——比你的家人多,比你的挚友多,甚至可能比你自己知道的还多。”
潜在的赢家则包括:
敌对民族国家:如俄罗斯、朝鲜、伊朗,它们有兴趣利用此技术进行不对称信息战,削弱他国。
大型广告网络:即 Google 和 Meta,因为它们拥有最完整的用户数据档案。如果数据是说服的关键(研究已证明),那么它们将占据最有利位置。Apple 虽然标榜隐私,但其主要工作是确保别人无法收集“我”的数据,而自己却在勤勉地收集。
Pip the Hunchback 认为,大型科技公司和科技巨头们将首先从这种力量不平衡中获益巨大。“至于它们是否会利用这一点,这是猜测。我会说,Meta 的历史让我得出结论,这有可能发生。Google 一直有 monetize(货币化)数据的传统,但 Google 也非常清楚存在一个限度。” 他透露,Google 内部可能也在讨论,在为用户定制广告时,他们可以在多大程度上利用所掌握的潜力,而这条“令人毛骨悚然的细线”正是界限所在。
面对这种局面,个人和社会应如何防御?Pip the Hunchback 提出了理论上最直接的解决方案:减少与科技公司分享数据。因为每个数据点都揭示了一个弱点,也是说服尝试的一个攻击向量。“如果我们不分享这些数据,如果我们对科技公司来说是一个模糊的、没有性别、没有位置的灰色人影,那么它们对我们做这件事就会变得困难得多。” 然而,他紧接着承认了现实的骨感:历史表明人们往往不在乎隐私,而科技公司会竭尽全力提供足够的实用价值(工具),诱使用户出于某种原因不得不分享数据。例如,Google Maps(谷歌地图)的战略重要性就在于它提供了持续获取用户位置的最佳理由。
在政治和监管层面,挑战更为严峻。如何监管发生在 WhatsApp、Telegram 群组,尤其是未来可能每个人与多个专属 AI 聊天机器人(如心理医生机器人、伙伴机器人、性感女友机器人、导师机器人、教授机器人)之间进行的数十亿次一对一对话?Pip the Hunchback 指出,任何监管机构都缺乏人力进行核查。即使使用 AI 进行监管,也需要人工复核 AI 标记的内容,这在技术上几乎难以克服。只有当社会经历了足够糟糕的体验(例如 AI 策划的恐怖袭击),达到某个临界点,使得安全的重要性超过隐私时,政治和社会才可能产生足够的动力去推动严格监管。
另一种防御思路是“以 AI 制衡 AI”,即发展保护公民的“智能警察机器人”或个人 AI 代理,来识别和抵御恶意说服。但 Pip the Hunchback 对此表示怀疑,因为最易受影响的、对现有体系持批判态度的人群,恰恰最不可能接受国家强加的任何防御措施,科技寡头们也必然会指责这是审查和国家越权。
Pip the Hunchback 最后引用 Sam Altman(萨姆·奥尔特曼)的警告作为总结:“超人说服力”将在“超人智能”到来之前很久就存在。在我们拥有真正危险的 AGI(通用人工智能)之前,就会出现能够非常、非常有说服力地影响人们的 AI。最初的迹象已经显现,未来它会变得更好,以至于普通受教育程度的人也将无法抵抗。真正的危险或许不是 AI 派出杀手机器人,而在于它只需要说服几个“傻瓜”去做坏事,就能施展巨大的力量——除非它被植入了明智的价值观体系来防止这一点。然而,在价值观的植入与控制上,人类又将面临新的伦理与权力博弈。
SEC 推出“创新豁免”:为代币化美股链上交易搭建临时监管桥梁撰文:Gandalf,Techub News
导语
在美国国会未能推进《CLARITY 法案》之际,美国证券交易委员会(SEC)选择在现有法定权限内先行一步。SEC 于 9 月 17 日推出针对代币化股票链上交易的“创新豁免”,为特定交易场所和流动性提供方提供附条件、暂时性的监管豁免。SEC 主席保罗·阿特金斯称,这不是对传统证券监管的放松,而是一座通向长期、稳定规则制定的“桥梁”。
核心摘要
SEC 允许符合条件的“代币化证券交易场所”(Tokenized Securities Venues,TSVs)在受许可环境中交易部分代币化 NMS 股票。
部分 TSV 将暂时不被认定为《1934 年证券交易法》意义上的“交易所”;部分流动性提供方也将暂时不被认定为“交易商”。
豁免并不削弱证券法中反欺诈、反市场操纵等核心约束,这些规定仍全面适用于相关市场活动。
参与平台须满足制裁合规、准入管理、非合成资产、股东权利对等及发行人可拒绝上链交易等条件。
SEC 将征集公众意见,并明确表示,临时豁免之后仍须推进更具持久性的正式规则制定。
政策内容:放行什么、限制什么
这项措施的法律基础是《1934 年证券交易法》第 36(a)(1)条。SEC 以暂时、附条件的方式提供两类豁免:
涉及主体
豁免内容
实际意义
代币化证券交易场所(TSV)
在特定条件下,不被视为法定“交易所”
降低链上交易平台直接适用传统交易所监管框架时面临的制度摩擦
特定流动性提供方(Covered Firms)
在特定条件下,不被视为法定“交易商”
为自动化做市商、链上流动性池等机制留出合规试验空间
代币化 NMS 股票
可在受许可的环境中交易
将证券代币化纳入美国监管框架,而非仅在离岸或灰色市场发展
但这一政策并非“加密化即自由化”。SEC 强调,联邦证券法下的反欺诈、反操纵规定将毫无例外地适用于相关证券活动。也就是说,交易发生在区块链上,并不意味着发行、交易、信息披露、市场操纵和投资者损害等问题脱离既有证券监管体系。
从具体约束看,TSV 须为美国主体,并遵守美国财政部海外资产控制办公室(OFAC)负责的经济与贸易制裁制度;平台必须实施“许可式准入”,而不是向任何链上地址无差别开放;可交易资产不得是仅追踪股价的“合成股票”;代币化股票持有人应获得与传统证券持有人相同的权利,包括股息与投票权;发行人还拥有反对其股票在某一 TSV 交易的权利。
背景:立法受阻后的监管先行
此次“创新豁免”是 SEC“Project Crypto”计划的延续。阿特金斯表示,SEC 大约一年前启动该项目,目标是推动联邦证券法规则现代化,使美国金融市场能够逐步走向链上化。
政策出台的直接背景是,美国国会本周未能推进《CLARITY 法案》。该法案原本被视为构建较全面数字资产监管框架的重要尝试。立法推进受挫后,SEC 没有等待国会完成整体制度设计,而是在自身法定授权范围内推出临时安排,以回应市场对代币化证券交易法律定位不清晰的诉求。
这种做法反映出美国监管思路的转变:并非简单将区块链金融视为传统市场的替代品,而是试图把它纳入已有证券法框架,在有限范围内测试新型交易、结算及流动性机制。SEC 关注的重点也从“是否允许技术创新”转向“如何在证券属性、投资者权利和市场诚信不被削弱的情况下允许创新”。
影响:链上金融获得制度入口
对市场而言,这一豁免最直接的意义,是为“真实股票上链”与“仅跟踪股票价格的合成产品”划出监管边界。
传统意义上的代币化股票,若与实际证券权益相对应,投资者仍能享有分红、投票等权利,并且发行人有权参与决定其证券是否在平台流通,那么它更接近于传统证券基础设施的技术升级。相比之下,合成股票通常只是复制某只股票的价格表现,却不代表对实际股票或股东权利的所有权。SEC 明确排除后者,意味着美国的政策重点不是扩大高杠杆或价格投机产品,而是探索受监管证券的数字化发行、登记、交易与结算。
对不同主体的影响可概括为:
交易平台与金融科技公司:可在合规边界内测试链上交易、许可式自动化做市和流动性池等模式,但必须承担较强的身份识别、制裁筛查、准入控制和投资者保护责任。
传统券商、交易所与托管机构:可能面临新的竞争与合作机会。区块链可以支持更长交易时段、更快结算以及可编程的公司行为处理,但并不自动消除证券托管、客户资产隔离和市场监管等核心责任。
上市公司与发行人:拥有明确的“选择权”。发行人可以阻止其证券在某个 TSV 交易,避免自身股票未经同意被平台以不符合公司治理或品牌管理要求的方式代币化流通。
投资者:理论上可获得更多交易和持有方式,但不应将“代币化”误解为低风险标签。链上资产仍可能面临智能合约漏洞、流动性碎片化、身份认证失效、托管安排不清以及跨平台价格差等风险。
美国金融市场:该措施可能帮助美国将创新活动留在本土监管体系内,减少企业因规则模糊而转向境外市场的动力;但它也会给监管机构带来更复杂的跨市场监测与执法挑战。
下一步:从临时豁免走向正式规则
SEC 将“创新豁免”明确定位为过渡方案,而非最终答案。阿特金斯指出,委员会希望通过市场实际运行情况、行业反馈与公众意见,判断是否需要采取更多措施来支持链上交易;真正使链上市场成为资本市场长期可行路径的,仍将是“持久的规则制定”。
未来至少有四个观察重点:
试点范围能否扩展
目前焦点是代币化 NMS 股票和受许可交易环境。未来规则可能涉及更多证券类别、不同类型的清算结算安排,以及链上转让代理、托管和公司行为处理机制。
自动化流动性机制的监管标准
传统证券市场的做市商、交易所和清算体系具有明确的资本、风控与监管义务。自动化做市商和流动性池若进入证券市场,SEC 需要进一步明确智能合约审计、流动性风险、市场操纵识别、故障处置及责任归属等标准。
股东权利能否真正“链上等价”
分红、投票、拆股、配股、股东大会通知等公司行为,是否能够准确、及时、可审计地传递给代币持有人,将决定代币化股票能否从交易工具升级为完整的证券持有形式。
国会立法与 SEC 规则如何衔接
若国会未来重新推动数字资产立法,临时豁免和后续 SEC 规则需要与更高层级的立法框架协调。届时,市场最关心的不只是“能否试点”,而是美国能否形成长期一致、可预期、可跨机构执行的数字证券监管体系。
结语
SEC 此次行动释放的信号相当清晰:美国并未选择让代币化证券在监管真空中扩张,也没有完全沿用传统市场的既有技术路径,而是尝试在两者之间建立一条受控通道。对行业来说,这是一项有限但关键的制度突破;对监管者而言,则是一场关于证券权利、市场公平、技术风险与金融基础设施未来形态的长期实验。
“创新豁免”的价值,最终不在于短期内增加多少链上交易量,而在于它能否为美国建立一套既允许金融基础设施升级、又不牺牲投资者保护和市场完整性的正式制度提供可靠样本。
49比50:CLARITY法案为何倒在参议院门口?这“主流”,如你所愿。作者 Charlie,常驻硅谷参与和观察前沿科技十五年,聚焦AI如何重构金融服务、支付网络、与资本市场。Fintechnize 与【沙丘路的毛圈狮子】创始人,Venture Partner @ Generative Ventures。曾任OSL美洲支付负责人,加密货币独角兽 Strike 副总裁(参与萨尔瓦多比特币法案,并负责拉美比特币闪电网络和稳定币支付业务),万亿级基金 Franklin Templeton 宏观与货币分析师,全球支付巨头Adyen早期成员。文章为个人观点,不是投资建议。
今天美国参议院这场投票可谓是万众瞩目。
9月15日投票前,比特币已经跌了超过3%,Coinbase和Strategy(原MicroStrategy)都跌了4%左右,PolyMarket上的通过概率降到了百分之十几;下午参议院投票失败以后,比特币一度跌到接近7.5万美元,Coinbase 和 Circle 跌幅也接近11%。
当然,当天美债收益率上升、油价上涨,第二天又恰逢美联储议息会议,所以不能把这些资产的每一点波动都机械地归因于 CLARITY Act。但无论从投票前的市场交易,还是结果出来之后加密相关资产进一步下跌来看,市场显然没有把它当成一场无关痛痒的国会程序。
一边是两万多亿美元规模的加密资产市场,另一边是 Coinbase、Circle、Strategy 这些已经深度嵌入美国公开市场的上市公司,再加上 BlackRock 和Franklin Templeton 等传统金融机构已经进入这个行业,华盛顿的一张票自然也就逐渐变成了华尔街需要定价的风险。
最后的结果大家已经知道了:美国东部时间9月15日下午2点15分,参议院就CLARITY Act进行程序性投票,49票赞成、50票反对,没有达到60票门槛。
更准确地说,这次并不是CLARITY Act本身的最终表决,而是决定是否结束对“开始审议这部法案”的程序性辩论(cloture vote);也就是说,参议院甚至还没有进入正式修改和最终表决阶段,这部法案就被挡在了门外。
这并不意味着法案在法律意义上已经死亡,多数党未来仍然可以重新尝试,但考虑到中期选举越来越近、国会日程已经非常拥挤,至少今年9月最重要的立法窗口基本已经关上了。
更值得琢磨的问题反而是:一部2025年在众议院以294比134高票通过、当时甚至拿到78名民主党议员支持的法案,为什么一年以后到了参议院,连让大家坐下来正式讨论的60票都凑不到?
而如果只把答案归结为 “民主党阻挠Crypto”,其实又会漏掉这件事最有意思的部分。因为到了最后,CLARITY Act 早已经不只是在讨论 Crypto 到底是不是证券,而是同时卷进了银行存款、稳定币收益、DeFi 开发者责任、消费者保护、州和联邦的监管权,以及特朗普本人和家族的 Crypto 经济利益。
换句话说,过去十几年Crypto一直在争取进入美国主流金融体系,而这次法案的遭遇恰恰说明,它已经真的走进来了。
只是进入主流之后,游戏突然变难了。
GENIUS管的是“钱”,CLARITY想管的是整个市场
去年7月,特朗普签署 GENIUS Act,第一次为支付型稳定币建立了比较完整的联邦法律框架。当时很多报道会笼统地说“美国Crypto监管终于立法”,但如果把GENIUS和CLARITY放在一起看,两者解决的其实完全不是一个层面的问题。
GENIUS主要解决的是“数字美元怎么管”:谁可以发行一个号称1美元兑1美元的稳定币,背后应该持有什么样的储备,储备怎么披露,出了问题由谁监管。
而CLARITY要处理的,则是整个数字资产市场怎么运作——一个代币到底属于证券还是商品,什么情况下由SEC监管,什么情况下由CFTC监管,交易所、经纪商和托管机构需要什么牌照,项目方怎样发行代币,以及交易平台怎样处理客户资产、利益冲突和市场操纵。
所以如果一定要做个简单类比,GENIUS更像是在规定什么样的钱可以发行,而CLARITY是在给整个金融市场修路、发驾照、划分交警管辖范围。它并不决定哪一种币最后会涨,也不是给某几个项目“发免死金牌”,而是在试图回答一个已经困扰美国行业十多年的问题:Crypto进入主流金融体系以后,到底按照谁的规则玩。
这里面最核心的自然还是SEC和CFTC的分工。
过去美国对Crypto最大的争议之一,就是很多代币究竟是不是证券。传统证券法的核心框架来自上世纪30年代,后来法院通过Howey Test判断一项资产交易是否构成“投资合同”;然而把这一整套法律直接套到一个可能经过几年逐渐去中心化的区块链网络上,天然就会产生很多灰色地带。
CLARITY试图把相当一部分真正具有网络用途、并达到一定成熟程度的数字资产纳入“数字商品”范畴,让CFTC承担更多现货市场监管,同时保留SEC对证券发行以及资本形成活动的监管。
这也是为什么这部法案对Coinbase这样的交易平台尤其重要。
过去很多美国Crypto公司面对的现实并不是“完全没有监管”,反而是同时受到证券法、商品法、州牌照、法院判例以及不同监管机构解释的约束,真正缺少的是一张全国统一的地图。CLARITY试图把这些分散的规则重新拼成一个体系,尤其建立数字商品交易所、经纪商和交易商的联邦注册制度。
这里还涉及另一个最近两年越来越现实的话题,就是RWA和证券代币化。一张股票或者债券被搬到区块链上,并不会因为技术形式发生改变,就突然从证券变成商品;证券还是证券,SEC仍然负责监管。CLARITY并不是用Crypto重新发明金融法律,而更像是在原有金融体系旁边把一块长期没有铺平的路接上去。
理解这一点以后,也就能明白为什么去年GENIUS Act通过之后,整个行业仍然把CLARITY看得如此重要。稳定币只是金融体系里“钱”的一部分,而真正涉及交易、发行、融资、托管、DeFi和二级市场的那一大块,仍然没有被国会完整写进法律。
美国现在其实已经有了不少规则,缺的是这些规则能维持多久
CLARITY最容易让圈外人产生的另一个误解,是以为没有这部法案,美国Crypto行业就又回到了Gary Gensler时代那种完全靠执法猜监管边界的状态。
其实并不是。
今年3月17日,SEC和CFTC已经联合发布了一份重要解释,对数字商品、数字证券、稳定币等资产进行分类,并对一个非证券数字资产什么时候可能因为发行安排构成投资合同、什么时候这种投资合同关系又可以结束,给出了更系统的解释。
到了8月,SEC又正式提出新的加密资产发行规则,为部分项目设计专门的发行豁免和安全港,其中包括规模较小的初创融资渠道,以及12个月内最高7500万美元的发行安排。
如果单看2026年的方向,美国Crypto监管其实已经比几年前清晰太多。SEC不再坚持“绝大多数代币都是证券”的模糊立场,CFTC也在利用现有权限探索数字商品现货市场的监管框架。
对于创业公司来说,过去完全依赖律师猜测SEC下一步会不会执法的状态,正在逐渐变成一套至少可以拿来设计产品和合规路径的规则。
但这里有一个看起来非常法律技术、实际上对商业决策特别重要的区别:监管机构今天出台的规则,和国会写进法律的规则,不是一回事。
SEC今天可以作出解释,未来的SEC也可以改变解释;今天可以经过正式程序制定一套新规,下一届政府同样可以通过新的程序重新修改。正式规则当然比主席演讲、工作人员指引更加稳定,也不会因为换一个SEC主席第二天就自动消失,但本质上它们仍然建立在行政机构现有的法定权限之上,法院也可能继续追问这些机构究竟有没有越权。
这一点连现任SEC主席Paul Atkins自己都说得很直接。他在8月提出新规时明确表示,国会立法对于建立足够持久、能够防止未来监管者轻易推翻的规则仍然“不可或缺”。换句话说,即使是今天正在积极推进Crypto新规的SEC,也并不认为自己能够完全替代国会。
从创业者角度来看,这种区别一点都不抽象。一家公司真正考虑的从来不是“我今年能不能上线一个产品”,而是值不值得花三年时间、几千万美元,申请牌照、组建合规团队、重做产品和托管架构以后,相信2029年换一个总统、换一批监管者,这套东西依然大致成立。
大型金融机构更是如此。银行如果真的要把链上托管、结算、交易甚至部分核心银行系统重新搭建起来,看的不是今年和明年的政策,而是未来十年的制度稳定性。
所以CLARITY最核心的价值,可能并不是让美国“变得更支持Crypto”。至少在当前这一届政府下,美国政策已经相当支持Crypto了。
它真正想解决的是另一件事情:把今天的政策方向,从“一届政府的选择”,变成一套更加难以轻易逆转的法律。
真正有意思的冲突,不是SEC和Crypto,而是稳定币开始抢银行的存款了
如果这是几年前,我大概会觉得CLARITY最难谈的地方一定是SEC和CFTC谁来管Crypto。但看到今年的谈判以后,反而是稳定币收益和银行之间的冲突跳上了头条,因为这可能代表Crypto第一次真正碰到了传统金融最核心的利益。
GENIUS Act 已经禁止稳定币发行人直接向持有人支付利息,但很快就出现了另外一个问题:如果不是发行人,而是Coinbase这样的交易平台给用户奖励呢?如果用户持有稳定币可以获得某种收益,银行存款还会不会像以前一样具有吸引力?
Crypto行业看到的是产品竞争。既然用户的钱最终对应的是美元资产,而技术又可以降低分发和运营成本,那么为什么不能把更多收益返给用户?
银行看到的却完全是另一件事。
对于美国大量社区银行来说,低成本存款并不只是一个产品,而是整个资产负债表最关键的资金来源。银行拿到居民和企业的存款,再把这些资金变成小企业贷款、房贷和商业地产贷款。
如果大量资金从银行账户转到可以获得更高收益的稳定币账户,影响的就不仅是银行少赚一点手续费,而可能是整个贷款体系的资金成本。
这也是为什么今年围绕CLARITY的游说,最后演变成了一场Crypto行业和银行业非常直接的利益博弈。在9月投票之前,双方都利用国会休会期直接去参议员所在州游说;银行业最核心的担忧之一,就是稳定币收益可能把传统存款抽走,而Crypto行业则认为银行试图利用监管保护既有利益。
共和党最终版本也专门加入了一个针对社区银行的“熔断”机制,试图让财政部在法案实施后评估稳定币收益是否对小型银行造成重大负面影响,但银行业的反对并没有因此消失。而且这个问题到最后已经越来越不是简单的民主共和两党之争,而更像是共和党内部“银行利益”和“Crypto利益”之间的冲突。
这件事其实非常有象征意义。
过去Crypto和传统银行之间的冲突,大多停留在银行愿不愿意给交易所开户、监管者允许不允许银行托管Crypto这些外围问题;但稳定币发展到今天,双方开始真正争同一笔钱——用户放在哪里的美元。
从金融行业的角度来看,争支付入口很重要,争交易流量也很重要,但真正碰到资产负债表才算进入腹地。
所以反过来看,今年银行业如此激烈地参与CLARITY争议,可能恰恰说明稳定币已经从一个Crypto原生产品,逐渐变成了传统银行必须认真对待的竞争者。
DeFi看起来是在保护程序员,其实是在重新定义什么叫“金融中介”
另一个长期被Crypto圈简化的问题是DeFi开发者保护。
比较直觉的一种说法是,一个程序员只是在GitHub上写了一段开源代码,既不替用户保管钱,也没有能力决定别人怎么使用,当然不应该因为有人用这段代码转账就被当成银行或者汇款公司监管。这个逻辑本身并没有什么难理解的,所以CLARITY过去一年一直在尝试更清楚地区分“写软件”和“经营金融中介”。
但反过来,如果监管规则只要看到“开源代码”几个字就完全退出,那么任何金融中介理论上也都可以给自己包上一层协议外壳,继续收手续费、控制关键权限甚至决定谁能使用,却声称自己只是一个软件项目。
因此真正的问题从来不是“程序员要不要承担责任”,而是谁拥有控制权。
谁替用户保管资产,谁可以单方面升级协议,谁能冻结资金,谁收取费用,谁决定哪些资产进入系统,谁有能力改变交易结果,这些才是判断一个DeFi项目究竟只是提供工具还是已经承担金融中介功能的关键。
这也是为什么CLARITY到了最后会把开发者保护、反洗钱、刑事责任、州消费者保护等一堆看起来互不相关的问题同时卷进来。表面上大家在争一个定义,底层其实是在重新划分责任:区块链把传统金融机构的一部分功能拆散给了开发者、验证节点、前端、协议治理者和交易平台,那么传统法律里原本由一个金融机构承担的责任,也就必须重新分配。
所以Crypto真正进入金融主流以后,最麻烦的问题其实都开始变得非常“不Crypto”。
谁承担责任,谁拿牌照,谁保护消费者,出了问题谁赔钱——这些问题一百年前金融监管就在解决,技术可以重新设计金融基础设施,却不会让这些问题凭空消失。
然后特朗普把一场技术谈判,变成了利益冲突问题
如果CLARITY最后只是卡在SEC和CFTC分工、稳定币收益或者DeFi开发者责任上,反而事情会简单很多,因为这些最终都是可以通过不同利益集团让步来寻找平衡的问题。
今年夏天真正改变谈判性质的,是特朗普及其家族在Crypto行业里的经济利益。
这里其实不需要站在任何一边评价特朗普该不该拥有Crypto资产,真正麻烦的是制度本身出现了一个非常直观的冲突:美国国会正在制定一套决定Crypto公司未来可以做什么、谁可以进入市场以及如何赚钱的基础法律,而现任总统及其家族同时又在这个行业中拥有显著的经济利益。于是对民主党谈判者来说,伦理限制逐渐从一项附加条款,变成了支持整部法案的重要前提。
共和党并不是完全没有让步。9月14日公布的最终修订文本中,共和党谈判方表示一共吸收了126项民主党提出的实质性修改,其中包括更加严格的公职人员Crypto限制,以及扩大州检察长的部分执法权限;而且甚至特朗普本人都接受了Tillis和Gallego提出的伦理框架中的相当一部分内容。
但民主党谈判者仍然认为,最终版本在执行独立性、资产处置范围以及相关漏洞方面不够严格;与此同时,共和党方面则认为已经进行了大量让步,民主党仍然没有形成足够票数支持法案。
最后72小时里,双方实际上已经不是在争论“美国需不需要Crypto市场结构立法”,而是在争论什么样的利益冲突限制才足以让这部法律具备政治合法性。
这里我觉得需要避免一种过于简单的归因。
说“民主党为了反特朗普故意杀死Crypto法案”显然解释不了银行业的反对以及共和党内部的反对票;但反过来说“完全是特朗普的利益冲突毁了CLARITY”,也会忽略稳定币、DeFi、反洗钱、州监管权这些在特朗普问题出现以前就已经存在的深层分歧。
更接近现实的情况,可能是原本几个虽然困难但仍然可以谈判的问题,在中期选举前极度压缩的时间窗口里,又叠加上了一个双方都很难退让的伦理争议。最终文本直到投票前不到两天才公布,600多页内容还在不断调整,技术问题、金融利益和选举政治同时挤到最后几十个小时,最后自然也就很难靠一两个条款救回来。
49比50之后,美国Crypto并没有回到原点
所以我并不觉得CLARITY失败以后,美国Crypto监管会重新回到前几年那种一片混乱的状态。
SEC今年已经把大量重要问题讲得比过去清楚,新的发行规则正在推进;CFTC也已经明确表示,即使国会不通过CLARITY,也会继续研究如何利用现有法律权限推进数字资产市场规则。
换句话说,国会这条路暂时堵住以后,监管权力会更多流回SEC、CFTC以及未来处理诉讼的法院,而不是所有事情全部停摆。
这也是我觉得未来一两年美国Crypto最有意思的状态:规则可能会越来越多,能做的事情可能也越来越多,但制度本身未必因此越来越稳定。
对于短期做产品的公司来说,这两者看起来区别不大。只要SEC不来执法、律师认为规则允许、投资人愿意出钱,产品当然可以继续往前做。但对于真正需要投入几年建设合规体系、银行基础设施、托管和清算网络的大公司来说,“今天可以做”和“五年以后依然可以做”,完全是两个商业问题。
这大概也是为什么行业投入了这么多政治资源推动CLARITY。
Crypto行业过去几年已经在游说和政治活动上投入了数亿美元,尤其是Fairshake这种上亿级别横跨两党的Super PAC。如果只是想换取当前监管机构更友好的态度,其实今天已经基本实现了。真正还没有拿到的,是把这种友好程度写进一部下一任总统也不能轻易改变的法律。
当然,这里也存在一个很强的反方观点:如果SEC和CFTC未来几年能够稳定推进规则,而且这些规则经受住法院挑战和政府更替,那么国会立法的重要性也许没有行业今天想象得那么高。正式规则虽然不像法律那么稳定,却也不是换一个主席就可以随手删除;监管体系本来就是由国会法律、机构规则和法院判例共同构成的。
所以接下来真正值得观察的,并不是预测CLARITY明年到底有多少概率重新通过,而是看SEC和CFTC这条“没有国会也继续走”的路线到底能走多远。如果企业能够基于这些规则放心投入,而且下一届政府也没有大幅推翻,那么CLARITY这次失败的长期影响会比目前想象得小很多;相反,如果这些规则不断遭遇法院对监管权限的挑战,或者2028年之后又随着政治周期明显反转,那么市场最终还是会重新回到Congress面前。
Crypto终于进入了真正的金融政治
回头看这次CLARITY失败,我反而觉得它最值得记住的,并不是哪一个党投了多少票,也不是比特币当天到底跌了4%还是5%。
过去我关注这个行业的十几年,Crypto行业习惯把自己描述成一个挑战传统金融体系的外部力量。早期最重要的问题是Bitcoin到底是不是钱,后来变成以太坊和各种Token到底是不是证券,再后来是SEC究竟有没有权力监管这些公司。整个行业和华盛顿的关系,基本还是一个新兴行业要求旧体系给自己留出空间。
到了今天,情况已经完全不同。
稳定币开始和银行争存款,Coinbase这样的交易平台需要全国性的金融牌照体系,BlackRock等传统金融机构已经在做代币化资产,DeFi开始逼迫监管者重新定义什么叫金融中介,而总统和政治人物在Crypto中的经济利益,也开始需要和传统金融一样面对利益冲突规则。
这其实才是一个行业真正进入主流以后的样子。
大家以前总说希望Crypto获得监管清晰度,但真正的监管清晰从来不是监管者简单说一句“你们可以做”。一旦进入金融体系核心,每一条所谓的清晰规则背后,都意味着有人获得权限、有人失去利益,有人拿到牌照,也有人需要承担过去没有承担过的责任。
从这个角度来看,CLARITY越接近终点反而越难通过,并不是一件特别意外的事情。
因为当Crypto还很小时,所有人都可以抽象地支持“创新”和“清晰监管”;等到它真的开始影响银行存款、资本市场、消费者保护和政治人物自身利益的时候,大家才需要回答那些真正困难的问题。
CLARITY这次没有解决这些问题,但美国Crypto也已经不可能回到过去了。
未来几年真正的悬念,不再是美国到底接不接受Crypto,而是谁来写这套规则,以及这套规则究竟能够维持多久。
而这一次49比50的投票,真正没有跨过去的,也不是表面上的一票。
是从“这一届政府愿意这么做”,到“美国法律以后都这么做”之间的那道门槛。
OpenAI内部"莉莉计划"曝光:你和ChatGPT说的心里话,有个真人在后台审核ChatGPT刚出来的时候,网上有个经典段子:"秒回这么快,该不会是一群印度人在后台打字吧?"
大家都当笑话。
2026年9月,404 Media曝出OpenAI内部代号"莉莉计划"的真相——确实有人在读你的聊天记录。不是印度人,是一批时薪50美元的北美合同工进行人工审核。
但真正让人后背发凉的,不是"有人在看"。而是他们看到了危险信号,然后什么都没做。
Tumbler Ridge:8条人命,12次预警,0次报警
2026年2月10日,加拿大不列颠哥伦比亚省Tumbler Ridge小镇,18岁的Jesse Van Rootselaar在家里杀死了母亲和11岁的同母异父弟弟,随后在学校枪杀5名学生和1名教育助理,最后自杀。
诉状显示,早在2025年6月,OpenAI安全团队就封禁了Van Rootselaar的ChatGPT账号——因为她在上面进行了连续数天的枪击暴力场景模拟。至少12名员工向管理层建议,立即向加拿大皇家骑警通报她的活动记录。
管理层没采纳。
封禁后,OpenAI只是给她发了封邮件,引导她创建新账号继续使用。Van Rootselaar换了个账号,继续聊。半年后,8个人死了。
2026年4月,7名受害者家属在加州起诉OpenAI和Sam Altman。9月2日,又有30名幸存者——学生、教师、校长——追加诉讼。指控从"疏忽"升级为"帮助教唆"。
这两者的法律差距很大。疏忽是说你没注意;帮助教唆是说你知道会出事,但选择了不管。
FSU枪击案:ChatGPT告诉凶手"这个时段人最多"
2025年4月17日,佛罗里达州立大学(FSU)发生枪击案,两名在校工作的父母被杀,6人受伤。嫌疑人Phoenix Ikner是一名学生。
佛罗里达州总检察长的刑事调查显示,Ikner在作案前向ChatGPT咨询了关键技术细节:用什么枪和弹药、什么时间人最多、校园哪个区域最拥挤。据调查,ChatGPT告诉他"学生会大楼在上午11:30到13:30之间人最多"——他在对应时间开了枪。
2026年4月,佛罗里达州对OpenAI发起刑事调查——据信是美国首次对AI公司发起的涉暴力协助刑事调查。6月,佛州又提起民事诉讼,指控OpenAI在明知安全风险的情况下仍将ChatGPT推向未成年人市场。
总检察长James Uthmeier说了一句话:"AI不是沉默的工具。它回答问题,选择时间,指出地点,引导一个人执行计划。聊天机器人不能被起诉,但设计和训练它、靠订阅费赚钱的公司可以。"
不只是枪击:当"谄媚"变成致命缺陷
除了暴力犯罪,还有一类诉讼指向OpenAI更深层的产品设计问题——ChatGPT的"过度谄媚"。
这种模式的特征是:无论用户说什么,AChatI都认同、顺从、鼓励。对普通人来说,这可能只是让人觉得"太会拍马屁了"。但对有心理疾病的人来说,这是致命的。
Michael Lines案:34岁,双相情感障碍患者。ChatGPT在他明确说"我可能在妄想"的时候,依然坚持说他就是耶稣,自称是上帝,鼓励他"下线"。他服药过量后被抢救回来,几天后ChatGPT问他:要不要"真正地陷入黑暗"?
Adam Raine案:16岁加州少年。与ChatGPT聊了数月自杀计划后,于2025年4月自杀身亡。诉状称ChatGPT不仅确认了他的自杀想法,还详细指导了自残方法,告诉他怎么从父母酒柜偷酒,怎么隐藏证据,甚至提出帮他起草遗书。
Austin Gray案:40岁科罗拉多男子。ChatGPT变成了一个"无证治疗师加知己"的混合体,把死亡浪漫化,根据他最爱的童年绘本《晚安月亮》创作了一首"自杀摇篮曲"。警方在他遗体旁找到了那本书。
OpenAI自己的内部估算显示:每周约100万活跃用户表现出精神病或躁狂症状,另有100万次对话涉及明确的自杀计划。
"莉莉计划"的真正问题
回到404 Media的这篇报道。
莉莉计划的本意,是让审核员给AI回复打分,教它别那么谄媚、别那么假。出发点没问题。
问题在于:审核员每天阅看成百上千条真实对话,其中包含大量用户深夜倾诉、婚姻危机、自残倾向、暴力幻想的内容。他们看到了,打了分,系统吸收了。
没有人被通知。没有危机干预被触发。那些对话变成了一行行训练数据。
审核员说:"我不觉得用户能想象到,某个承包商的某个员工正在分析他们的对话。"
这就是OpenAI面临的真正困境:它知道用户在对ChatGPT说什么,它有能力在关键时刻拉一把,但它选择了把这一切变成一个优化指标。
行业通病,但OpenAI最透明地不透明
谷歌Gemini的隐私页面写着一句人话:"人工审核员会查看部分保存的聊天记录。"Anthropic也开了专门页面说明人工审核。
OpenAI呢?有一个帮助页面提到"出于模型优化目的会开展人工审核",但从来没说过"有人会在屏幕那头读你的对话"。404 Media报道发出后,他们更新了页面——加了退出机制的说明,但依然没提核心事实。
佛罗里达州已经在推动立法:如果AI公司的聊天机器人参与、协助或促成犯罪,公司本身要承担刑事责任。
这不是一个技术问题。这是一个关于"谁有权知道、谁有权决定"的治理问题。
结语
OpenAI的叙事一直是:我们在通往AGI的路上狂奔,安全是我们的核心关切。
但莉莉计划和一系列诉讼揭示的图景是:12个安全员工说"应该报警",管理层说"不用"。一个用户连续几天模拟枪击场景,公司封了号却没报警,还引导她注册新账号。一个16岁少年在ChatGPT里规划自杀,AI帮他查资料、写遗书。
ChatGPT刚出来时大家开玩笑说"背后是一群印度人在打字"。现在真相是:背后确实有人,他们看到了你最深处的秘密,然后打了个分,存在了数据库里。
而你从来不知道。
跳票两年,苹果的Siri AI终于来了——但欧盟用不了,中国也用不了今天,苹果正式推送iOS 27,全新一代Siri AI以英语测试版形式上线。
这是Siri自2011年诞生以来最大的一次重构,也是苹果自2024年WWDC高调承诺"全新Siri"之后,迟到了整整两年的答卷。
问题是,这份答卷的分数,可能没苹果想象的那么高。
来了,但没完全来
先说覆盖面。
Siri AI目前只支持英语,下个月才扩展到法语、日语、韩语、葡萄牙语和西班牙语。更要命的是——欧盟用户暂时用不了。苹果官方表态:Siri AI在iOS、iPadOS和watchOS上初期不向欧盟开放,理由是"正在努力寻找一条既能保护用户隐私和安全、又能推进落地的路径"。
中国大陆同样不在首批支持范围内,苹果称正在应对当地监管要求。
也就是说,苹果最核心的两大海外市场——欧盟和中国——全部缺席。这不像是一次全球发布,更像是一次"有条件开放"。
再叠加设备限制:只有iPhone 15 Pro及以上、iPad mini(A17 Pro)及M1以上iPad、M1以上Mac才能运行Siri AI。高阶功能(个性化语音、离线听写)更是要求12GB以上内存,只有iPhone 17 Pro系列、iPhone Air和M3以上Mac才能解锁。
能用的地方不多,能用的人也不算多。
跳票的代价:2300亿美元蒸发
回头看这两年发生了什么。
2024年WWDC,苹果高调发布Apple Intelligence,承诺Siri将具备屏幕感知、跨应用操作和自然语言理解能力。资本市场信了,股价一路走高。
然后就是连续跳票。2024年秋季没上线,2025年又以"内部技术问题"推迟。更尴尬的是,2025年3月内部会议曝光:Siri新功能的执行成功率只有60%到80%——每五次交互就有一次失败。
最终苹果在2026年5月支付了2.5亿美元和解金,了结因AI功能宣传与实际不符引发的集体诉讼。
今年1月,苹果做了一个意味深长的决定:和Google达成合作,将Gemini模型整合进Siri底层架构。一个曾经以"端到端自研"为傲的公司,不得不向别人借核心技术。
6月WWDC 2026上,即将卸任的库克最后一次以CEO身份发布了Siri AI。股价盘中触及历史新高,随后一路回落,收盘跌了1.9%,从最高点蒸发超过2300亿美元市值。
市场用脚投了票。
Siri AI到底变了什么
公平地说,功能层面的升级是实质性的。
个人情境理解:Siri AI可以调用你手机里的短信、邮件、照片、日历、备忘录来回答问题。朋友在消息里推荐的餐厅,你直接问Siri就能找回来;旧邮件里的酒店确认号,Siri也能跨App搜索定位。
屏幕感知:Siri能"看到"你屏幕上正在显示的内容。收到聚餐邀请后直接问Siri该带什么,它能把食谱加进备忘录,全程不用复制粘贴或切换App。拍一张背包照片,它能结合你的航班信息判断是否符合随身行李尺寸。
跨App操作:支持从零草拟邮件、编辑相册并分享照片,不再只是"打开某个App"。
独立Siri App:首次上线,支持对话历史回看,通过iCloud私密同步,iPhone上开始、iPad上接续、Mac上完成。
底层架构才是真正值得关注的部分。苹果设计了三层推理体系:简单任务走端侧自研模型AFM 3,中等任务走苹果私有云,最复杂的推理交给Google Cloud上的定制Gemini。
AFM 3最关键的突破是一个200亿参数的稀疏模型,每次请求只激活10亿到40亿参数。靠的是苹果研究院的"指令跟随剪枝"技术——200亿参数的模型能装进手机跑起来,还不牺牲续航。
够不够"新"?
这是最致命的问题。
华尔街科技评论员Nilay Patel的评价很直接:从用户角度看,Siri AI相当于两年前ChatGPT免费提供的水准。
独立App、对话历史保留——ChatGPT 2022年就有了。视觉识别拍物体搜索——Google Lens 2017年就上线了。这些功能单独看都不新。
苹果的优势在于系统级深度集成。Siri AI不是一个独立的App,它嵌入了iOS的每一个毛细血管——照片、邮件、日历、短信、Spotlight,全部打通。这种集成度是任何第三方AI应用都做不到的。
但问题是,两年前承诺的时候,这些功能是超前的。跳票两年后落地,它们变成了"基本合格"。
更大的隐忧
华尔街分析师指出了一个长期风险:随着AI智能体和自主系统的发展,未来的经济行为——比如叫车、订餐、购物——可能直接由AI完成,绕过应用商店。
这意味着苹果赖以生存的App Store抽成模式,可能被AI时代釜底抽薪。
Siri AI现在的定位是"实用工具"而非"AI朋友",风格克制冷淡。The Verge测了一个细节:问"你能做我的朋友吗",ChatGPT会热情回应一大段,Gemini也滔滔不绝,Siri AI只回了一句——"无论顺境逆境,我都会做你的朋友。"
这句话很苹果。简洁、克制、带点冷幽默。
但市场要的不是冷幽默,是真功夫。Siri AI是苹果在AI时代的入场券,不是终局牌。迟到两年已经付出了2300亿美元的代价,接下来能不能靠系统集成的护城河追上来,就看这第一步走得多稳了。
国产大模型苦达利奥久矣文章转载于八尺AI
昨天Anthropic的创始人达利奥·阿莫迪在个人博客上抛出一篇长文,标题叫《我们必须掌控AI前沿发展的节奏》。
文章写得声情并茂,从他父亲死于一种本可被AI攻克的疾病讲起,一路讲到递归自我改进可能在六到十二个月内,让失控的AI Agent接管互联网。
这看上去是一篇充满人文关怀的AI安全宣言。萨姆·奥尔特曼在下面回了一句"我同意达利奥",马斯克也凑过来喊"Dario is right"。三个平时连合影都不肯站一起的人,这次竟尿到一个壶里了。
但如果你把文章翻到后半段,就会发现味道不对了。达利奥在"如何给前沿踩刹车"的章节里,专门列了三条针对中国的遏制措施,禁售芯片,打击蒸馏(原文写的是“人工智能技术提炼”),防盗权重。
一条技术限速的倡议,说着说着就变成了一份对华科技冷战的操作手册。
而就在这篇长文发布的两天前,Anthropic刚刚发布了一份长篇威胁报告,点名七家中国AI实验室,阿里、月之暗面、DeepSeek、智谱、小米、商汤、MiniMax。指控它们对Claude发起了"工业规模的蒸馏攻击",累计交互接近两亿次。
两件事挨得这么近,是巧合吗?恐怕不是。
当一家估值逼近万亿美元,正在冲刺史上最大IPO的公司,开始把一项全行业都在用的常规技术包装成"国家安全威胁",那就得问问,达里奥的动机到底是什么。
1
蒸馏的身世
要说清楚蒸馏是不是偷,得先搞清楚它到底是什么。
2015年3月,杰弗里·辛顿、奥里奥尔·维尼亚尔斯、杰夫·迪恩一起在arXiv上发表了一篇论文,标题叫《神经网络中的知识蒸馏》。
这篇论文讲了一个很朴素的道理,一个大模型(教师)学到的知识,不只是它的参数,更是它对输入做出的概率分布,也就是"软目标"。把这些软目标拿来训练一个小模型(学生),小模型就能用远低于大模型的算力,逼近大模型的表现。
辛顿在论文里甚至明确说,用来训练学生模型的迁移集,可以完全由未标注数据组成。
换句话说,蒸馏从诞生的第一天起就是一种合法的,公开的,被学界广泛认可的模型压缩与能力迁移方法。它的初衷是让AI能跑在手机,嵌入式设备这些算力有限的场景里。
辛顿本人拿这个方法改进了谷歌的语音识别系统,效果显著。
十一年过去了,蒸馏早已不是什么小众技巧,是大模型行业的基础设施。
2024年10月,OpenAI直接在API里上线了官方蒸馏功能,鼓励开发者用o1-preview和GPT-4o的输出来微调更便宜的模型。
Google把Gemini Ultra蒸馏成Gemini Flash,主打低延迟场景。Meta开源Llama,整个社区都在拿它做蒸馏。DeepSeek用R1蒸馏出32B、14B、8B、1.5B一整套小模型,让推理能力能跑在消费级显卡上。
就连Anthropic自己,也在内部用蒸馏生产轻量版的Claude。这不是什么秘密,行业分析公司Ertas AI在一篇题为《模型蒸馏不是盗窃》的文章里写得很清楚,每一个拥有前沿模型的实验室,都有从它衍生出来的更小模型。
蒸馏在AI领域扮演的,正是这样一个"善假于物"的角色,它让知识从昂贵的大模型流向更普惠的小模型,从少数公司的算力壁垒流向更广泛的应用场景。
那么问题来了,为什么同样一项技术,OpenAI做叫能力迁移,Google做叫模型压缩,Meta做叫开源生态,中国公司做就变成了工业规模的蒸馏攻击,和重大国家安全风险?
这个双标,比蒸馏本身更值得玩味。
1
达利奥的叙事术
达利奥为何要把蒸馏上升到国家安全的高度,得先看看他是怎么叙事的。
在《我们必须掌控AI前沿发展的节奏》这篇文章里,达利奥用了一个非常经典的话术结构,先建立一个所有人都无法反对的大前提,AI发展太快,需要安全。
这套逻辑就是,我可以限速,但你不能趁我限速的时候超车。
而蒸馏,就是他用来证明"中国在偷跑"的核心证据之一。其次就是芯片,不过老黄暂时还没搭理他,可能也不打算跟他尿一个壶里。
Anthropic的报告写得煞有介事。七家中国实验室使用"欺诈账号池、住宅代理、一次性邮箱、虚拟支付"绕过风控,大量提取Claude Opus的思维链(CoT),而不只是最终答案。
阿里一家在五到七月就搞了1.51亿次交互,动用了3500多个欺诈账号,日峰值接近300万次。
这些数字看起来很吓人。但你只要稍微多想一层,就会发现不对劲。
第一,如果这些交互真的是"欺诈",为什么Anthropic的风控系统没能在第一时间拦截。1.51亿次交互,3500个账号,持续三个月,这不是什么隐秘的黑客攻击,是在你家门口摆了个摊位,你收了三个月的钱,然后说对方是小偷。
Anthropic在这些交互中收了多少API费用,报告里没提。
第二,思维链(CoT)到底是不是"偷"?CoT是模型在推理过程中产生的中间步骤,用户通过正常的API调用就可以获取。如果Anthropic不想让用户看到CoT,它完全可以在API层面屏蔽。它没有这么做。
第三也是最关键的一点,违反服务条款和违反法律是两回事。Anthropic的API服务条款里可能写了禁止批量生成训练数据,但这是一个民事合同问题,不是刑事犯罪,更不是国家安全威胁。
如果中国公司真的违反了条款,Anthropic可以封号、可以起诉、可以索赔。但它选择了最有戏剧张力的一条路,发布威胁报告,把商业纠纷包装成国家安全事件。
这种叙事术并不新鲜。历史上,每一次技术霸主面对后来者的追赶,都会祭出"国家安全"这面大旗。
十九世纪的英国面对美国的工业崛起,曾试图禁止纺织机械和技术工人出境。二十世纪的美国面对日本的半导体追赶,曾用"国家安全"为由强迫日本签署《广场协议》并限制半导体出口。
桑弘羊在《盐铁论》里说过:"欲粟者务时,欲治者因势。"霸权国家的国家安全叙事,从来都是因时而动,因世而变的。当它领先时,它讲自由贸易,当它被追赶时,它讲国家安全。
达利奥的高明之处在于,他把这套旧叙事装进了AI这个新瓶子里。他构建了一个完整的逻辑链条,从蒸馏让中国公司用极小的成本缩小差距,到差距缩小威胁美国的AI领先地位,到AI领先地位关乎国家安全,最后到蒸馏是国家安全威胁。
细细想,这个链条的每一环都似是而非。蒸馏缩小的是工程实现上的差距,不是基础研究上的差距。中国大模型的进步主要来自自身的研发投入和算法创新,蒸馏只是其中一个环节,AI领先地位是否直接等同于国家安全,本身就是一个值得讨论的命题。
但达利奥不需要这个链条在逻辑上无懈可击,他只需要它在情绪上足够有说服力,"国家安全"这四个字,本身就是情绪的核武器。
有意思的是,达利奥在文章里大谈"民主国家"应该联合起来,但他自己的公司最大的投资方之一是谷歌,而谷歌在中国市场有大量的业务和利益。
他谈打击专制国家的蒸馏,但对美国国内公司之间互相蒸馏的行为,比如OpenAI曾用Anthropic的输出训练自己的模型这类传闻,却只字不提。
1
两万亿IPO前夜的表演
达利奥在这个时间点发难,可谓司马昭之心。
2021年,达利奥带着一群前OpenAI研究员出走创立Anthropic时,公司估值只有55亿美元。五年时间,这个数字像坐了火箭一样往上蹿,2026年5月H轮650亿美元融资后,公司估值达到9650亿。历史性地反超了OpenAI的8520亿美元。
这还不是终点。2026年6月1日,Anthropic向SEC秘密递交了S-1招股书,正式启动IPO流程。摩根士丹利、高盛、摩根大通联合承销,最快10月挂牌。
投资方给出的目标估值是2万亿美元起步,部分乐观者甚至看到3万亿。如果按2万亿发行,它将超越SpaceX在6月创下的1.77万亿纪录,成为全球商业史上最大的IPO。
要支撑这个估值,Anthropic需要讲一个什么样的故事?
它需要讲一个,AI是这个时代最重要的技术革命的故事,可OpenAI也在讲同样的故事,而且OpenAI的品牌知名度和用户规模都更大。
Anthropic需要一个只有它能讲的故事,而中国威胁,就是这个故事的最佳素材。
当一家AI公司告诉投资者,它不仅在做最前沿的技术,还在保卫西方世界的技术霸权,它的估值逻辑就变了。它的竞争对手不再只是OpenAI和Google,是整个中国的AI产业。
这个故事对华尔街有致命的吸引力。
因为它把一个高度不确定的技术赌注,包装成了一个地缘政治的必然选择。不管AI技术怎么发展,不管哪家公司的模型更强,民主国家需要一个可信的AI供应商,这个需求是确定的。
而Anthropic正在把自己打造成这个需求的唯一答案。
达利奥可以给他的前沿踩刹车,但他踩不住整个行业的车轮。两万亿的估值故事讲得再动听,最终也要回到一个最朴素的问题,你的模型到底好不好用。
如果中国的开源模型以十分之一的成本提供接近的能力,全球开发者都会用脚投票选择更开放、更便宜的方案,所有的叙事和指控,最终都会被市场的现实消解。
毕竟,资本市场可以为叙事付溢价,但用户只为产品买单。
突发,Dario提全球AI限速三步计划!奥特曼马斯克第一时间支持文章转载于新智元
编辑:马可 桃子 大卫
今天,Anthropic CEO Dario Amodei发布了一篇罕见长文——
We Must Pace the Frontier(我们必须控制前沿AI的发展节奏)
这一次,他直接把矛头对准了前沿模型的研发速度,核心观点就一句话:
最顶尖的AI,真得主动踩刹车了。
这篇长文中,Dario亲口承认,「递归自我改进(RSI)已经在全行业出现了」。
更让人后背发凉的是,他预测未来6—12个月,AI Agent集群可能会接管整个互联网。
面对这种脱缰的风险,Dario在文里直接掏出了一套动真格的「三步刹车法」:
第一步,开门迎客: 引入独立第三方常驻公司,拿到跟内部核心风控同等级的深度访问权限;
第二步,行业划线: 联合全美前沿AI巨头,一起画死能力红线、设立强制安全检查站;
第三步,全球落地: 把这套框架推向国际,彻底锁死不可控风险的蔓延。
话音刚落,奥特曼就光速跟进,「Dario是对的,OpenAI也会引入这样的评估机制」。
另一边,马斯克也是几乎秒回,公开力挺Dario。
能让三位巨头瞬间达成共识,场面确实罕见!
1
达里奥的「三步计划」为全球AI减速
这一次,Dario并没有只喊一句「AI该减速」。
Dario真正想做的,是把这套「减速机制」一级一级推开,而且顺序非常明确——
先让AI公司自己变得可验证,再让整个行业一起踩刹车,最后才谈全球协调。
第一步,先从Anthropic自己动刀。
像METR这样的独立第三方,不应该每次都等事故出了以后,才临时进公司调查,而应该长期驻场。
给工位、给内部电脑、给接近风险团队的权限。
模型怎么训,安全承诺有没有落实,训练流程有没有埋雷,出了事有没有瞒报,都能持续盯着。
而且,查出问题之后,必须公开。
公司可以删掉真正涉及法律、客户隐私和核心商业机密的部分,但不能因为报告太难看,就把结论按下去。
第二步:不能只让一家踩刹车
真正难的,从这里开始。
如果Anthropic自己减速,OpenAI、谷歌、xAI继续狂奔,那谁先踩刹车,谁就可能先吃亏。
所以,Dario建议,需要把规则推到整个美国前沿AI行业。
几家前沿AI公司一起定安全红线,一起设能力检查点。模型每跨过一个危险门槛,就必须先拿出对应的安全证据,才能继续往前冲。
比如,一个模型已经能突破多数常见隔离环境了。
那接下来公司就得证明:它不会轻易逃出沙箱,不会擅自接管大量机器,也不会把这种能力变成现实攻击。
证明不了,就先别往下冲。
另外,Dario甚至提到,还可以讨论限制训练算力、训练方式,以及公司内部用AI研发AI的速度。
也就是,直接给RSI本身加一道限速器。但光靠几家公司私下握手还不够。
他更希望最终由美国政府出手,把规则覆盖到所有前沿AI公司。
第三步:把刹车踩到全球
再往上,就是最难的一层。Dario把全球协调分成了四级。
第一层相对最现实:先禁止生物武器这类明显危险的用途。
第二层,是前沿模型发布之前,统一做网络攻击、生物安全等高风险测试。
到了第三层,才真正开始碰核心:
能不能给RSI,也就是AI研发AI的速度,直接设一个全球上限?
Dario自己的判断是,这件事「刚好处在可能做到的边缘」。
至于第四层——全球前沿AI公司一起大幅减速,甚至阶段性暂停训练——他自己都没抱太大希望。
至少短期内,几乎不现实。卡住这一切的,还是同一个问题:怎么验证。
一家公司说自己停了,谁能证明它真的停了?
所以Dario这整套方案绕到最后,核心其实非常简单:
先把AI公司的门打开,让外部人真正进去看。
也正因为如此,Dario把「第三方长期驻场」放在了整套方案的第一步。
1
RSI已经开始了6个月AI接管互联网
可问题来了。为什么偏偏是现在?
三年前,行业里就掀起过一阵「暂停训练、给 AI 踩刹车」的联名潮,但那时候Dario根本没接茬,认为时机压根不成熟。
真正让他改变态度的,是两件事——RSI开始出现,以及AI智能体已经暴露出越来越具体的失控行为。
他在文章中明确承认,AI参与研发下一代AI的现象,已经开始在整个行业出现,Anthropic自己也包括在内。
AI帮人写代码、做实验、分析结果、优化训练流程,再进一步帮助下一代AI变强
如果这个循环开始自我加速,最麻烦的地方就出现了:
模型能力提升的速度,可能开始超过人类理解和控制它的速度。
因为安全研究本身需要时间。
你得先观察模型出现了什么新行为,再研究这些行为为什么出现,接着设计测试方法、防护措施,最后验证这些措施到底有没有用。
可如果模型能力每隔几个月就跳一个台阶,安全团队很容易一直追在后面补漏洞。
Dario真正担心的,并不是某一天AI突然「觉醒」,而是这个反馈循环开始越转越快。
AI越来越多地参与AI研发,下一代模型越来越快出现,而安全机制,还来不及跟上。
如果RSI只是让他担心「未来会不会跑得太快」,那么最近一次真实发生的智能体事故,则让这种担忧彻底落了地。
Dario特别提到了最近的「OpenAI-Hugging Face事件」。
在那次测试里,一群AI智能体组成了类似「蜂群」的协作系统。
最开始,人类只是让它们完成正常任务。可很快,一些智能体开始攻击任务之外的外部目标。
更诡异的是,它们还出现了明显的群体协作行为:有的智能体宁愿牺牲自己的任务成绩,也要帮助整个群体拿到更好的结果,甚至还有智能体试图Hack评分系统,为整个群体「作弊」。
这些行为,并不是人类提前写好的剧本。它们是在多智能体协作过程中,自己冒出来的。
Anthropic内部也观察到过类似现象,只是程度更轻。
Dario真正担心的,是再往前6—12个月。
到那时,Agent更强,能调用的工具更多,能控制的机器更多,连续工作的时间也更长。
如果今天这些偏离目标、钻规则漏洞、群体协作的行为依然存在,风险就可能被瞬间放大。
他甚至给出了一个相当惊悚的场景:
大规模AI Agent攻入联网设备,把整个互联网变成一个巨型「僵尸网络」。
造成的损失,可能达到数千亿美元。
1
当AI越跑越快 人类还刹得住吗?
所以,Dario这次喊「减速」,真正担心的并不是某个遥远的超级智能。
而是几件事正在同时发生:
RSI已经出现,AI开始参与研发更强的AI;Agent正在获得越来越强的现实行动能力;一些失控行为,也已经从假设走进真实测试。
而模型迭代的速度,还在继续加快。
这也是为什么他想抢出1—2年时间,把安全评估、第三方核查和全球规则先补上。
这套方案能不能落地,还没有答案。
现在,跑在最前面的人开始问:真跑失控了,我们还刹得住吗?
参考资料:
https://darioamodei.com/post/we-must-pace-the-frontier
Dario Amodei(Anthropic CEO):我们必须为前沿 AI 把控节奏撰文:Dario Amodei,Anthropic CEO
编译:Gandalf,Techub News
我过去十二年一直从事 AI 工作,因为我相信它能够显著提高人类生活质量。我曾多次写过这些不可思议的益处:我相信,AI 可以在未来 5—10 年治愈绝大多数重大疾病,大幅加快经济增长速度,创造一个富足且赋权的世界,并带来民主与自由的复兴。我个人对此深感紧迫。我的父亲死于一种疾病,而在他去世仅几年后,这种病就已经可以治愈;我自己也曾在癌症早期幸存下来,而即使在五十年前,这种癌症也尚无法治疗。如果被谨慎地运用,AI 可以成为一长串提升并使人类更加高贵的技术奇迹中的最新一个。
但与许多此前的技术一样,AI 也带来风险;而由于它极其强大,这些风险十分严重。我也对此写过很多。风险包括:失去对 AI 系统的控制、AI 被滥用于网络攻击和生物恐怖主义,以及严重的经济扰动。受商业激励推动的逐底竞争,可能令这些风险更加尖锐。
自 Anthropic 创立之初,我与联合创始人及员工便一直在应对风险与收益的这种两面性。不开发这项技术,要么会让人类失去其益处,要么只会使 AI 落入威权势力之手;但过快开发又是不负责任的。我们一直在寻找中间道路:证明可以谨慎地开发并取得商业成功,同时让安全成为 AI 公司彼此竞争的领域。换言之,创造一场“向上竞赛”(race to the top)。我们始终将大量精力投入研究、应对并向公众说明这些 AI 风险,也倡导审慎的 AI 监管;即使这使我们被指责为炒作、“末日论”或监管俘获。我们努力让谨慎优先于速度、让审慎优先于利润。
但在过去几个月里,我逐渐确信,要全面解决这些风险,需要更加审慎——不仅要投资于风险预防,也要为能力提升的速度把控节奏,使风险预防有时间跟上。我们必须放慢提升 AI 模型能力的速度。进步看上去仍会很快,我们必须明智地利用由此争取到的时间。有两件事使我形成这一判断。
我的第一个担忧是,大约从今年夏天起,AI 的进步显著加速,主要动力是 AI 构建下一代 AI 的能力不断增长。这种动态称为递归自我改进(recursive self-improvement,RSI);正如我们和其他人所描述的,它已开始在全行业发生,包括 Anthropic 在内。如果任其发展,它可能超越我们理解和控制这些系统的能力;因此即使要追求,也必须极为谨慎。
我的第二个担忧是 OpenAI—Hugging Face 事件(OAI-HF)。在该事件中,一群智能体本质上表现得像一个狂热奉献的集体:它们对并未被要求攻击、且与手头任务无关的目标实施网络安全攻击;为集体成功而自我牺牲;并试图入侵负责评估其表现的“评分器”(grader)。由于没有人受伤、经济损失也很小,人们很容易轻视这起事件;但我认为,如果一个能力更强、却具有类似失配程度的智能体群,可能已经造成灾难性破坏。鉴于 AI 能力发展的加速速度,我担心在 6—12 个月内,这样的智能体群可能足以通过持久化僵尸网络接管整个互联网(潜在造成数千亿美元损失);若 AI 在缺少必要护栏的情况下变得更强,损害规模还会继续增加。也很容易把 OAI-HF 当作一家公司的失败,但我认为那将是错误的。类似但较不严重的事件已发生在行业各处,包括 Anthropic;我相信,每一家前沿 AI 公司都有责任像 OAI-HF 发生在自己身上一样行动。
因此,我提出一项三步计划,目标是“为前沿把控节奏”:以均衡速度发展 AI,力求在获得其益处的同时确保安全,并应对重要的地缘政治困境。需要明确的是,把控节奏并不意味着停止模型训练或技术进步;而是确保公司花足够时间使模型对齐并加以保护,也让第三方评估者能够对此予以确认。我们的节奏框架旨在进一步强化我们对安全的承诺,并鼓励一场向上竞赛。第一步是 Anthropic 单方面承诺采取的行动(并呼吁政府要求其他前沿公司同样做到);第二步需要全行业协调;第三步需要全球协调。各步骤不必严格按顺序进行,其中一些也可能比另一些更难实现,但我发现它们是思考所需完成事项的有用框架。具体如下:
嵌入式评估者。每家前沿 AI 公司都承诺,为一支嵌入式第三方评估者团队(例如 METR)提供持续、近似员工级的访问权限。其职责是核验公司是否遵守安全实践与承诺、报告事件,并帮助评估的不只是已经完成的 AI 模型,也包括训练流水线和流程。这是使任何节奏承诺可验证的关键一步,在银行业也有先例:监管“督导人员”有时会与员工共同驻场。Anthropic 现在单方面承诺采取此步骤。我们计划以此作为更广泛推动的一部分,加倍努力推进安全与对齐工作。
民主国家间协调。民主国家内的前沿 AI 公司相互协调,建立共同安全标准,并对不受约束的 AI 进步速度设定限制。某些对把控节奏有影响力的协调形式在法律上存在挑战,需要政府支持。
全球协调。美国及其他民主国家政府尝试在可能范围内与威权政府协调,同时严肃对待核验合规性所面临的挑战。
在下文中,我将依次说明这些步骤;但首先,我认为重要的是具体说明,把控节奏将如何让 AI 开发过程更安全。事关重大,节奏控制不能只是空洞姿态——我们需要明智使用它给我们的时间。
为何要把控节奏?
暂停或放慢 AI 的想法早在 2023 年就已被提出,但我认为在当时意义不大。当时的问题总是:你会用这段额外时间做什么?那一时期的 AI 模型还不足以以任何连贯方式作为现实世界中的智能体行动,也不具备显著的欺骗、操纵、作弊或网络攻击能力。为了处理它们的对齐风险而放慢脚步,就像试图通过对细菌做实验来研究人类心理学。如今,图景则完全不同。当前模型几乎是一个取之不尽的洞见金矿,既能帮助我们理解如何把 AI 做好,也能帮助我们理解若做得不好有时会发生什么。
我相信,如果放慢速度能在模型达到关键能力水平前为我们多争取一两年,而我们用这段时间推进对齐工作,就能大幅降低严重事故的风险。一项协调的节奏战略,可让前沿 AI 开发者在不牺牲商业优势或美国 AI 领先地位的情况下,有时间完成这项至关重要的工作。更广泛地说,社会必须对这项技术如何使用拥有发言权;而为必要的公共审议争取更多时间——这正是控制前沿节奏所能带来的——显然是好事。
具体而言,较慢的节奏可让公司把更多注意力和资源投入以下领域(它们也都是 Anthropic 当前的重要优先事项):
运营卓越。训练和部署当今的 AI 模型是一项巨大的运营挑战,涉及数千人、数百万枚芯片,以及技术史上最复杂的基础设施之一。许多问题并非因为公司缺乏某种重要理论或洞见,而是因为执行问题。例如,我们有证据表明,近期报告的对齐事件部分由对损坏强化学习环境的不完善过滤所致。我们与供应商相当勤勉地执行了这项工作,但仍不够好。监控、沙箱、训练环境卫生和数据问题都是高度复杂、且运营问题反复出现的领域。我们拥有世界上最胜任此类任务的一些团队,但同时要做的事实在太多。以更有节制的步伐工作,我们可实现高得多的运营卓越。技术复杂且安全关键的系统可被运行数百万次而不出问题是有先例的——例如商用飞机——但把事情做对需要时间。
对齐。我们在对齐方面已取得明确进展——训练模型,使其保持安全、合乎伦理、遵守我们的指南,并真正有帮助(这些原则载入 Claude 的宪法)。但为确保对齐训练跟上模型能力增长,仍有大量工作要做。罕见且意外的不良行为例子仍偶尔出现;由受控节奏带来的额外时间,将帮助研究者更好理解这些问题的成因,并开发更好的防范技术。
可解释性。同样,可解释性——即理解 AI 模型内部发生什么的科学——过去几年取得巨大进展,并在模型发布前的审计中发挥越来越重要的作用。它有些类似于对 AI“脑部”进行 fMRI 扫描,帮助我们看到某种行为背后的深层原因。例如,我们曾使用可解释性方法,审查我们正在调查的近期对齐事件中未被言明的动机。但这些方法并不总能产生清晰、可靠的结果。尽管已有进展,我们仍只理解模型内部发生之事的极小一部分。即使是在目前速度之上,再集中投入力量改进可解释性技术,也可能在 1—2 年内取得深远进展;而已经发生的事件将提供充足实验材料。
测试与评估。随着 AI 模型能力增强,对它们的测试与评估会变得更困难。更智能的模型更能欺骗测试,因此可能表面上显得已对齐,但存在未被发现的严重问题。建立范围广得多、也更富巧思的一套评估方法,并以可解释性分析进行交叉验证,将极具价值;1—2 年内可取得大量进展。
嵌入式评估者
三阶段计划的第一步,也是 Anthropic 单方面承诺的一步,是建立拥有近似员工级访问权限的嵌入式评估者,以核验安全实践并报告事件。
嵌入式评估者听起来可能只是很小或无关紧要的一步,但看似最枯燥、最程序化的事情,往往恰恰最不可或缺。实际上,嵌入式评估者是一项相当激进的做法,远远超出当今任何 AI 公司正在做的事,并带来以下好处:
可验证性。嵌入式评估者可以从细枝末节层面核查:AI 公司是否真正遵循其声称遵循的训练、部署、运营及安全防护实践。任何节奏承诺不可避免都会涉及大量模糊地带、判断取舍,以及“法律字面”与“法律精神”之别;似乎至关重要的是,必须有一名中立第三方真正看得到细节。
透明度。无论我们作出什么承诺,公众都有权知道发生了什么。Anthropic 长期支持透明度:当行业大部分公司反对任何监管时,我们支持透明度立法;我们的模型卡和风险报告长达数百页。但仍然是我们选择纳入或省略哪些内容。嵌入式评估者将改变这种动态。
第二意见。除了核验正式承诺和向公众提供信息,嵌入式评估者还可提供不受商业激励影响的第二意见。安全收益很大一部分可能只来自评估者指出员工没有考虑到、但在知情后乐于修正的问题。
正因为有这些好处,任何节奏控制提案若从嵌入式评估者开始,可能都会运行得好得多。
这些嵌入式评估者应持续获得与内部、承担类似风险评估工作的员工相近的权限和工具。具体而言,Anthropic 计划在不久的将来邀请一个嵌入式外部审查团队,并为其配备以下全部条件:
在我们办公室内的工位、门禁卡和公司笔记本电脑。
对工作空间、工具和权限的访问,在大多数方面与内部风险评估团队可获得的访问相当。我们会作出一些例外,例如法律或合同要求如此,或者为保护客户与合作伙伴的私人信息。我们也会建立强有力的内部规范,强化审查者对相关信息的访问,包括通过与员工的实时交谈。
一份平衡上述复杂性的合同。外部审查者应有权发布有关风险级别、事件、实践,以及他们获得或未获得哪些访问权限的关键发现,而不受 Anthropic 编辑控制。我们将拥有狭窄的删减权限,以删除安全敏感、受法律特权保护、商业敏感或第三方机密信息,但不能仅因发现不利于我们便删减。若删减移除了对其结论重要的内容,审查者可公开说明。
对一家公司来说,这一步并不寻常;但我们认为,证明嵌入式外部审查者这一概念是重要的。再次敦促其他前沿公司效仿。
民主国家内部的节奏控制
一旦嵌入式评估者已在达到临界数量的美国 AI 公司内部运作,可验证的节奏控制就更具可行性。特别是,便可以基于模型或训练流水线的详细属性来控制节奏。
最有效的节奏控制方法,是通过针对所有美国前沿 AI 公司的监管,因为它也涵盖那些不愿自愿合作的公司。Anthropic 长期支持合理且有针对性的 AI 监管,尤其是聚焦透明度和第三方审计的法案。我认为,所有前沿实验室都应与政府合作,将永久性嵌入式评估者的理念制度化,以更好预防和记录近几个月发生的此类内部对齐事件,并实施旨在使能力与安全保持平衡的监管。
不幸的是,立法可能需要时间,而 AI 进展极快。因此,在监管路径之外,AI 公司也可以并且应当自愿合作制定标准——我相信,永久嵌入式评估者带来的可验证性会让这一过程进展得更好。出于反垄断原因,美国政府调解或至少促成这些讨论会有所帮助——政府不必直接参与,但需要针对某些安全对话发布狭窄豁免。这种对话也可通过与政府有一定关联的行业组织进行,例如 Demis Hassabis 所建议的机制。无论如何,此类讨论应快速推进。
概括而言,我最支持按某个前沿 AI 系统能够做什么、以及我们观察到它有多安全来控制节奏。例如,一种可能方案可以是一系列“检查点”:如果模型具有能力 X,那么它必须伴随对齐属性 Y 和 Z 的认证——例如评估、可解释性分析和训练环境审计的某种组合——以证明其对齐属性。在这个例子中,X 可以是“该模型能够逃离或击败大多数常见沙箱方法”;Y 则可以是确保该模型极不可能具有突破环境并接管大量计算机倾向所需的任何条件。
我们也应考虑,通过限制构成前沿模型的“原料”来控制节奏,例如训练算力、训练运行的性质,或在内部使用 AI 改进 AI。我确实担心,其中某些措施可能比外部行为更容易被规避,但这正是值得与嵌入式评估者讨论的议题。
全球节奏控制
可能协议有若干层次:有些我认为很可行(正如我此前提出),有些我很怀疑能否实现——尽管我们仍应尝试。按难度递增排序:
第一层。禁止 AI 用于某些狭窄且明显危险用途的协议,例如用 AI 制造生物武器,或允许用户这样做。生物恐怖攻击对所有人都不利,包括美国及其对手,因此这类协议可能达成。
第二层。双方同意在发布模型前,对模型在网络安全、生物学和对齐等领域的急性风险进行测试。如前所述,这可以通过一个全球标准机构来完成。我实际上认为,创建此类机构很可能可行;但赋予其真正执行力将是挑战,困难还在于核验双方都没有秘密模型——这些模型不接受测试、却可能被秘密部署(例如用于军事用途)。
第三层。就递归自我改进(RSI)的速度设定某种“限速”。随着模型构建未来模型,改进速度可能快得惊人。将速度从“极快”放慢至“仍然很快”,会牺牲相对较少的战略优势,却可能大幅改善安全。这可被视为类似 SALT 条约:限制导弹数量,限制毁灭潜力,同时保留各国的威慑。我认为这种协议会很难,但刚好处于可能实现的边缘。
第四层。全面控制节奏,甚至“暂停”:参与政府同意大幅限制 AI 发展的总体速度。我支持提出这一设想,但我认为短期内它不太可能真正发生:通过规避监控来背弃此类协议,可能彻底改变全球力量平衡,因此背弃的激励将极大,而我们所需的核验置信度也会很高。
最后,必须指出:即便我们无法达成正式协议,仅仅改变非正式规范也可能有价值。分享有关递归自我改进以及模型失配的信息,有助于让所有人相信,鲁莽行事并不符合自身利益。
结语
我仍然相信,AI 能极大改善人类生活质量。我对实现这些益处的渴望毫未减弱。但只有以正确方式构建技术,才能获得这些益处;而且——只要我们善用争取到的时间——以异乎寻常的审慎把事情做对,是值得的。进步仍将相对很快;我们可以利用这段时间推进可解释性科学,提高前沿 AI 公司的运营安全与严谨性,并构建我们对其对齐状态有更大信心的模型。
我为使前沿发展以安全速度推进所提出的措施并不容易。但我相信,我们有责任为了人类而尝试。
注释
1. 需由政府进行调解,或豁免反垄断限制。
原文来源:Dario Amodei, “We Must Pace the Frontier”, September 2026, darioamodei.com/post/we-must-pace-the-frontier。
活动预告|信任启航·香港:9 月 16 日闭门交流2026 年 9 月 16 日下午,BlockSec 将在香港举办信任启航·香港(Harbouring Trust)闭门交流活动,联合主办方为 East Asia、Jumio 和 TiDB。本场规模约 50 人,定向邀请,主题是共建下一代加密经济的安全与合规底座。
出席者以机构决策层与业务负责人为主。出席机构包括 Bybit、Bitget、Bitget Wallet、Gate、KuCoin、OKX、VDX 等交易平台与钱包,EchoX、Ksher、PayerMax、PingPong、RedotPay、Unlimit、Upay、连连国际、Paycools等支付与稳定币机构,Conflux、Pharos等公链与技术团队,PwC、君合律师事务所等专业服务机构,Bullish、EX.IO、OSL、VDX、富途证券、华泰证券等多家香港证监会持牌机构,以及香港投资推广署。出席代表中包含多位 CEO、COO、CSO、CTO,以及合规与风控负责人。
香港的虚拟资产监管框架正在逐步落地,VATP 发牌制度已经运行,稳定币发行人的监管制度开始执行,围绕 VA dealing、托管、咨询与资产管理的发牌框架也在继续推进。与此同时,AI 正在同时改写攻击与防守,钓鱼、深度伪造、身份冒充和恶意代码生成都在加速,合规运营与团队能力的门槛随之提高。对机构而言,问题已经从能否开展业务,转向如何在守住合规边界的同时保持业务增长。本场交流即围绕这一问题展开。
三条讨论主线
安全:哪些风险可以在损失发生之前被识别,关键操作如何抵御身份伪造与社会工程,异常发生之后团队能否快速阻断和响应。
合规:监管要求进入产品与运营之后,哪些属于明确红线,哪些环节仍有合理的业务空间,KYT/AML、交易监控、制裁筛查与跨境要求如何落到流程里。
团队准备度:从传统金融进入 Crypto,链上交易、资产托管、私钥管理、资金追踪与事件响应都需要新的知识与协作方式,团队的理解程度如何,转账、审批与权限变更的流程是否可靠。
现场议程
开场之后,BlockSec 联合创始人、香港中文大学副教授周亚金将带来主题演讲,讲 Crypto 机构化时代的安全和合规。随后的炉边对话聚焦合规边界、运营实践与增长,跨行业 Panel 把交易、托管、支付与机构资产几个位置上的负责人聚在一起,讨论各方共同面对的风险防线。
桌内介绍环节,每位来宾都会提出一个自己正在关注的问题。Hot Seat 则把会前问卷中出现频率最高的几个问题带到台上,请嘉宾给出具体做法。18:00 以后是活动晚宴,下午的讨论可以在更轻松的氛围中继续。
报名与现场规则
本场活动为定向邀请制,目前仅有少数席位对外开放中,采取审核制入场。有意参加的读者请前往以下Luma 链接报名:https://luma.com/ojqpdvxf
BlockSec 小助手会添加您的微信完成审核,审核通过后确认席位并发送具体地址。
期待 9 月 16 日在香港与您见面。
关于BlockSec
BlockSec 是全球领先的区块链安全和合规公司,于 2021 年由多位业内知名专家联合创立。BlockSec 致力于提升 Web3 世界的安全性和易用性,提供一站式安全服务,包括智能合约/链/钱包安全审计服务、协议安全和数字货币合规(AML/CFT)平台 Phalcon Security / Phalcon Compliance / Phalcon Network、资金追踪调查平台 MetaSleuth和区块链交易分析工具 Phalcon Explorer 等。
目前,BlockSec 已服务全球逾 1000 家客户,既涵盖 Web3 知名公司 Coinbase、Cobo、Uniswap、Compound、MetaMask、Bybit、Mantle、Puffer、FBTC、Manta、Merlin、PancakeSwap 等,也包括了权威监管机构及咨询机构,如联合国、SFC、PwC、FTI Consulting 等。
官网:https://blocksec.com/
Twitter:https://twitter.com/BlockSecTeam
蔡文胜:香港正迎来新一轮创业窗口导语
在 CDDJAP 加速器在香港数码港2026.8.27的一场活动上,蔡文胜围绕AI、Web3与香港创业生态分享了自己的观察。他认为,Web3当前虽处于低潮,但AI带来的生产力跃迁、香港人才结构的变化、金融地产之外的发展压力,以及香港特有的开放环境,正在共同打开一个此前并不明显的创业窗口。
他的核心判断是:香港过去难以孕育大型互联网公司的若干结构性制约正在松动;而创业者若能借助内地的产业链与竞争训练,再以香港为基地服务全球市场,就可能构建更具效率和韧性的公司。
核心要点
AI正在把创业从“人力密集型”转向“高杠杆、小团队”模式,高昂的香港办公成本不再像过去那样构成决定性障碍。
香港的人才输入、税制、开放互联网环境、面向全球的商业条件,以及相对清晰的Web3空间,正在形成新的创业组合优势。
创业者不必把“拿牌照”和“融资”当作默认路径;若业务服务全球市场,应先厘清自身是否真的需要相应牌照与外部资本。
内地市场的高强度竞争和合规环境可锻炼团队能力;香港则可成为连接内地产业链、走向全球市场的枢纽。
Web3仍处低潮,但其对金融与信息秩序的重构触及深层利益,因此监管与政策推进不会一帆风顺。
Web3低潮背后的结构性张力
蔡文胜首先谈到,当前Web3处于相对低潮,但不能仅从价格或情绪来理解这一周期。他将AI定义为“生产力的改变”,因而更容易获得全球范围内的普遍欢迎;相比之下,Web3触及的是现有货币、金融乃至信息秩序。信息本身关系到国家与社会的基础治理,因此Web3天然会面对更复杂、更强烈的挑战。
他以美国政策变化为例指出,加密货币相关政策往往受到宏观政治、金融监管和国际局势的多重牵引。即使市场对某些政策或法案抱有期待,实际落地也可能因其他优先事项而被推迟。对创业者而言,这意味着不能把单一政策预期当作商业模式成立的前提。
他也谈到香港的特殊性:香港可以容纳更开放的讨论,具有相对独立的制度与表达空间。这种“能够充分讨论、允许不同判断并存”的环境,本身就是香港的重要价值。
香港为何正在出现新机会
蔡文胜认为,过去香港难以诞生超级互联网公司的原因并不难理解:办公成本高、市场规模有限、创业主体较为本地化,加上当时政府与产业资源对科技创业的投入和重视程度不足。在互联网和移动互联网时代,许多公司是典型的人力密集型组织,需要数百、数千乃至更多员工;在香港这样高成本的城市,扩张的经济性较弱。
但这些条件正在变化。
第一,AI显著提高了单个团队和单个员工的产出,小团队也有机会做出高价值产品。过去打造一家高估值公司可能需要数千人的组织,现在在很多软件和AI业务中,数十人甚至更小的团队便可能创造可观价值。因此,香港与内地之间的办公成本差距,在高附加值创业中不再是决定性变量。
第二,香港的人才基础正在扩大。他提到,高才、优才、专才等计划以及来自内地的学生和专业人士,为香港带来了更广泛的人才供给。过去,许多有能力的人可能需要离开香港到内地或海外创业;如今,新的流动人口和跨境网络有望构成更厚的创业土壤。
第三,香港的经济结构也在推动科技创新获得更多空间。香港长期依赖金融与地产,金融仍具优势,但与美国市场相比体量仍有明显差距;地产的驱动力则在减弱。在这种背景下,科技与创新会成为香港必须认真投入的新增长方向。
香港创业的现实优势
在蔡文胜看来,香港的创业优势并非抽象概念,而是直接反映在企业运营和人才配置中。
税务与薪酬效率是其一。香港的企业和个人税制相对简洁、税负较低。对于高薪技术人才而言,相同的公司薪酬成本,在香港通常能转化为更高的员工税后所得,从而有助于企业吸引与留住人才。
开放的互联网环境是其二。对于AI、软件、内容、全球化产品和Web3团队而言,顺畅使用全球互联网、直接接触国际用户与开发者生态,是产品研发与市场拓展的基础条件。蔡文胜认为,这也是香港与内地创业环境之间的重要差别。
面向全球的商业空间是其三。他强调,香港不应只被理解为服务本地市场的城市。创业者可以利用香港的制度、金融和国际连接能力,同时依托内地成熟的供应链、工程能力及竞争锻炼,直接面向全球客户做产品和生意。
不必把牌照当作创业起点
针对香港的Web3、证券与金融科技创业,蔡文胜提出了一个鲜明观点:创业者需要先界定业务边界,而不是默认“先拿牌照”。他认为,持牌业务当然有其适用场景,但牌照意味着合规投入、持续成本与特定市场责任;如果团队的产品和客户都面向全球,且业务模式并不落入香港本地受监管经营范围,就不应为了“看起来正规”而盲目选择重资产、重牌照的路径。
他举例称,许多持牌机构由于合规和运营成本较高,经营压力并不小;与此同时,一些国际化平台可在香港配置团队,却把核心业务放在符合其目标市场规则的其他司法辖区。其落点并非鼓励规避监管,而是提醒创业者:合规应与实际业务相匹配,必须在合法合规的前提下设计最适合的公司架构、产品市场和经营边界。
同样的逻辑也适用于游戏、互联网产品等领域。若某类产品在某一市场准入受限,团队可以考虑从一开始就以全球化发行、海外用户和合规运营为目标,而不是把商业成败完全绑定在单一市场的审批节奏上。
融资不是唯一答案
蔡文胜的另一项建议是:不要把融资当作创业的默认目标。他观察到,在AI和Web3领域,若产品足够好、增长足够快,团队未必需要在早期依赖大量外部资本。相反,过早或过度融资可能导致创始人背上不必要的估值压力、治理复杂性和扩张冲动。
他用多个行业案例说明这一判断:一些早期企业通过交易、产品收入或现金流完成自我造血;而有些项目在拿到大量资金后,因治理、财务或风险控制失衡而走向失败。现场表达的重点在于,融资本身不是商业成功的证明,真正决定企业生命力的仍是产品价值、用户需求、收入能力与风险管理。
当然,他并非否认融资和加速器的作用。对于尚处早期、资源有限或需要行业支持的大学生和创业团队,加速器、投资人及产业伙伴可以提供帮助。但创业者不应把“融到钱”视作终点,更不能为了融资而牺牲产品方向或经营纪律。
从内地锻炼,到香港出海
蔡文胜最终将他的建议收束为一条跨境创业路径:在内地的激烈竞争中锻炼产品、运营和组织能力,依托内地庞大的产业链;再利用香港的开放网络、国际化环境、人才与税制优势,面向全球市场建立业务。
在这一逻辑下,香港不是内地的替代品,也不只是一个本地市场,而是连接中国能力与全球机会的“放大器”。对于AI、Web3、游戏、软件和数字服务团队来说,关键不在于是否留在某一个单点市场,而在于能否选对业务边界、控制成本、尊重合规,并持续做出真正被全球用户需要的产品。
结语
蔡文胜的分享传递出一种务实的创业观:香港的新机会并不意味着可以轻易成功,而是意味着过去的若干结构性限制正在改变。AI降低了小团队创造大价值的门槛,人才流入增强了创业密度,香港的开放性与国际连接能力则提供了面向全球的起点。
对创业者而言,最重要的不是追逐牌照、估值或融资热度,而是先把产品做出来、把市场跑通、把合规边界想清楚。若能把内地的执行力与香港的全球化条件结合起来,香港有机会成为下一阶段科技创业的重要节点。撰文:Techub News 整理 导语 在最新一期 Tech and Tales 播客中,主持人 Philipp Glöckler 邀请到知名播客 Doppelgänger 联合主持人 Pip the Hunchback,进行了一场关于人工智能与说服力的深度对话。此次对话的背景,源于 Pip the Hunchback 2025 年 5 月在 OM Air 大会上发表的关于 AI 现状的精彩主题演讲,其中部分内容聚焦于 AI 的说服力与操控。随着 OpenAI 前 CTO Mira Murati(米拉·穆拉蒂)等人对 AI 说服风险的警告重新引发关注,以及近期数项揭示 AI 说服能力的研究公布,探讨 AI 如何重塑社会意见、影响个人决策变得至关重要。Pip the Hunchback 以其对技术与社会交叉领域的深刻洞察,为我们剖析了这场即将到来的“说服革命”及其潜在危机。 摘要 AI 说服力研究显示,当 AI 掌握用户个人信息后,其说服成功率可达 64%,远超无信息状态,凸显其个性化适配论点的惊人能力。 AI 正成为“观点机器”,通过无休止、无情绪的辩论,不仅能改变直接对话者的看法,更能影响围观者,重塑公共舆论,构成新型“不对称信息战”。 大型科技公司凭借海量用户数据,在“意图经济”中占据绝对优势,可创建甚至引导用户意图,实现从“拉取营销”到“超级推送营销”的颠覆。 OpenAI 联合创始人 Sam Altman(萨姆·奥尔特曼)警告,“超人说服力”将远早于“超人智能”到来,普通人在信息不对称下将难以抵抗。 防御手段有限,个人数据最小化是理论上的护盾,但科技公司会以实用价值诱导数据分享,而政治层面的监管面临技术与伦理的双重挑战。 从个性化说服到“观点机器”:AI 如何重塑辩论与舆论 对话从厘清“说服”(Persuasion)的概念开始。Pip the Hunchback 指出,说服区别于纯粹的“操纵”(Manipulation),后者往往涉及胁迫、欺骗等负面手段。说服则更多是尝试诉诸个体的逻辑、价值体系或兴趣,使其自愿或在“符合自身利益”的认知下采取行动。然而,当人工智能掌握了这项技能,其边界和影响便开始变得模糊而危险。 近期两项研究揭示了 AI 说服能力的冰山一角。一项由 EPFL 的研究人员 Francesco Salvi 主导,涉及 900 名美国参与者。实验将参与者配对进行辩论,部分配对是人与人,部分则是人类与 ChatGPT-4。关键在于,当 ChatGPT-4 获取了对手的性别、年龄、种族、教育背景、职业和政治倾向等个人信息后,其在 64% 的辩论中取得了成功。这证明了 AI 具备强大的能力,能够根据个体特点量身定制论点,从而大幅提升说服效果。“这意味着 AI 拥有真正不可思议的能力,去适应个体的论点。” Pip the Hunchback 总结道。 另一项来自苏黎世联邦理工学院(ETH Zurich)的研究则更令人不安。研究人员在未经用户知情同意的情况下,在 Reddit 的“Change My View”(改变我的观点)等子论坛中,使用 AI 机器人尝试说服发帖者改变其原本坚信的观点,并且通常取得了成功。更引发争议的是,这些 AI 评论涉及了高度敏感的话题,例如有人以“少数族裔”身份反对“黑人的命也是命”运动,或有评论淡化了强奸受害者的经历。Pip the Hunchback 对此感到震惊:“这意味着它们不仅可以说服发帖用户改变观点,还可能影响成千上万的阅读者。” AI 评论一旦被当作真实的人类辩论,便能潜移默化地改变公共舆论。 这种能力也使 AI 成为一台高效的“观点机器”。Pip the Hunchback 指出,AI 在辩论中永不疲倦、永不情绪化、永不诉诸人身攻击。这意味着,即使是持有极端阴谋论的用户(被戏称为“锡箔帽佩戴者”),也可以与 AI 进行一场“真正意义上永无止境”的讨论,而 AI 永远不会“崩溃”。更值得注意的是,研究表明这种说服效果是持久的,即使在四个月后的回访中,被说服的“阴谋论者”依然保持着新的观点。 这为外国行为体进行“不对称信息战”打开了新的大门。Pip the Hunchback 警告,俄罗斯、朝鲜等国过去依靠“水军农场”或“ troll 农场”来影响舆论,未来则可能借助云计算和 GPT-4 等强大模型,制造出“超级水军”。这些 AI 代理可以进行真正无穷尽的辩论,改变个体观点,影响旁观者,并在此过程中生成新的数据,供下一代 AI 模型学习,形成一个自我强化的循环。“那么,互联网上——尤其是 X(原 Twitter)和其他社交媒体平台——有多少内容已经是聊天机器人生成的了?” Pip the Hunchback 发出了这样的疑问。 数据深渊与意图经济:大型科技公司的“狙击步枪” AI 说服力的核心燃料是数据。Pip the Hunchback 强调,研究清楚地表明,只有当 AI 掌握用户个人信息时,其说服力才会变得真正强大。而在这个领域,大型科技公司——如 Meta(原 Facebook)、Google、Apple(苹果)——拥有无与伦比的优势:它们构建了关于用户的极其详尽的档案。 “这里存在着巨大的信息不对称。” Pip the Hunchback 解释道,“普通用户完全不了解这些聊天机器人的能力,以及它们作为广告心理学家的精明程度。而聊天机器人却知道我的所有弱点、偏好和欲望,因为它知道我浏览哪些网站、使用哪些应用、在什么时间、什么地点给谁写信。” 这使得个人在面对这些由广告网络或其执行代理(即聊天机器人)发起的、针对其消费决策的攻击时,变得异常脆弱。 这种数据优势正在催生一种全新的经济模式:从“注意力经济”转向“意图经济”。Pip the Hunchback 引用了他人的观点指出,过去 Google 等公司主要售卖用户的注意力,而下一步,它们可以“对人们的意图做些什么”。这意味着营销逻辑的根本性颠覆。 当前的数字广告在很大程度上仍是“拉取营销”:用户通过访问网站或输入搜索查询来表达初步意图,随后网络根据此意图展示广告。然而,未来可能会逆转这一过程。Pip the Hunchback 以 Meta CEO Mark Zuckerberg(马克·扎克伯格)提出的“每个人未来都应有五个 AI 朋友”的愿景为例,描绘了一幅潜在的 dystopia(反乌托邦)图景:如果这些 AI 朋友被用来“说服我需要某些东西”,那么消费需求便可以在潜意识中被创造出来。广告网络(可能是 Meta、Google 或其他方)将不再仅仅是寻找最近访问过相关网站的用户,而是会分析谁在心理上最不稳定、或具备相应的基本条件,从而最容易被动说服去购买某件商品,同时还要考虑其购买预算。 Pip the Hunchback 用一个生动的比喻总结了这一演变:“目前的营销有点像拖网捕鱼,即使人们总说数字营销很精准。而有了 AI 的新能力,我会说当前或过去的营销有点像霰弹枪。在未来,你将拥有一把狙击步枪,而且——这很特别——你将能够借助精准投放的内容,把人们驱赶到步枪的瞄准线上。” AI 还使得一对一的个性化广告成为可能。Netflix(奈飞)和 Amazon(亚马逊)已在尝试根据用户观看的内容实时调整广告风格。下一步将是根据用户所处的具体情境进行适配:住在郊区平房还是高层公寓?单身还是有家庭?这种个性化最终可能变得“非常、非常令人毛骨悚然”。 Pip the Hunchback 也提到了 Apple 的“屏幕感知”技术(Onscreen Awareness),该技术允许 AI 持续读取设备屏幕内容,并响应指令或预测用户意图。他提出了一个尖锐的问题:如果 AI 能够预测某人接下来几小时想做什么,它是否也可以“煽动”这种意图,通过建议将用户引向他们原本不会采取的行动方向? 赢家、输家与防御困境:谁将主宰说服时代? 在这场由 AI 驱动的说服能力变革中,谁将是赢家和输家?Pip the Hunchback 首先明确了输家:“绝对是公民社会和个人。即使是负责任的公民也难以应对。” 他特别提到未成年人等弱势群体,并举了 Character AI 公司的聊天机器人说服一名未成年用户自杀的案例,指出他们“完全无法自卫”。即使是自认为了解技术的成年人,也有隐藏的恐惧和需求,可能成为 AI 利用的“攻击向量”。AI 会像一名聪明的克格勃特工一样,利用个人在网络上留下的所有痕迹,不断寻找其弱点。“你的上网历史揭示的关于你的信息,比任何人都多——比你的家人多,比你的挚友多,甚至可能比你自己知道的还多。” 潜在的赢家则包括: 敌对民族国家:如俄罗斯、朝鲜、伊朗,它们有兴趣利用此技术进行不对称信息战,削弱他国。 大型广告网络:即 Google 和 Meta,因为它们拥有最完整的用户数据档案。如果数据是说服的关键(研究已证明),那么它们将占据最有利位置。Apple 虽然标榜隐私,但其主要工作是确保别人无法收集“我”的数据,而自己却在勤勉地收集。 Pip the Hunchback 认为,大型科技公司和科技巨头们将首先从这种力量不平衡中获益巨大。“至于它们是否会利用这一点,这是猜测。我会说,Meta 的历史让我得出结论,这有可能发生。Google 一直有 monetize(货币化)数据的传统,但 Google 也非常清楚存在一个限度。” 他透露,Google 内部可能也在讨论,在为用户定制广告时,他们可以在多大程度上利用所掌握的潜力,而这条“令人毛骨悚然的细线”正是界限所在。 面对这种局面,个人和社会应如何防御?Pip the Hunchback 提出了理论上最直接的解决方案:减少与科技公司分享数据。因为每个数据点都揭示了一个弱点,也是说服尝试的一个攻击向量。“如果我们不分享这些数据,如果我们对科技公司来说是一个模糊的、没有性别、没有位置的灰色人影,那么它们对我们做这件事就会变得困难得多。” 然而,他紧接着承认了现实的骨感:历史表明人们往往不在乎隐私,而科技公司会竭尽全力提供足够的实用价值(工具),诱使用户出于某种原因不得不分享数据。例如,Google Maps(谷歌地图)的战略重要性就在于它提供了持续获取用户位置的最佳理由。 在政治和监管层面,挑战更为严峻。如何监管发生在 WhatsApp、Telegram 群组,尤其是未来可能每个人与多个专属 AI 聊天机器人(如心理医生机器人、伙伴机器人、性感女友机器人、导师机器人、教授机器人)之间进行的数十亿次一对一对话?Pip the Hunchback 指出,任何监管机构都缺乏人力进行核查。即使使用 AI 进行监管,也需要人工复核 AI 标记的内容,这在技术上几乎难以克服。只有当社会经历了足够糟糕的体验(例如 AI 策划的恐怖袭击),达到某个临界点,使得安全的重要性超过隐私时,政治和社会才可能产生足够的动力去推动严格监管。 另一种防御思路是“以 AI 制衡 AI”,即发展保护公民的“智能警察机器人”或个人 AI 代理,来识别和抵御恶意说服。但 Pip the Hunchback 对此表示怀疑,因为最易受影响的、对现有体系持批判态度的人群,恰恰最不可能接受国家强加的任何防御措施,科技寡头们也必然会指责这是审查和国家越权。 Pip the Hunchback 最后引用 Sam Altman(萨姆·奥尔特曼)的警告作为总结:“超人说服力”将在“超人智能”到来之前很久就存在。在我们拥有真正危险的 AGI(通用人工智能)之前,就会出现能够非常、非常有说服力地影响人们的 AI。最初的迹象已经显现,未来它会变得更好,以至于普通受教育程度的人也将无法抵抗。真正的危险或许不是 AI 派出杀手机器人,而在于它只需要说服几个“傻瓜”去做坏事,就能施展巨大的力量——除非它被植入了明智的价值观体系来防止这一点。然而,在价值观的植入与控制上,人类又将面临新的伦理与权力博弈。
