Techub News 搜索

ChatGPT刚出来的时候，网上有个经典段子："秒回这么快，该不会是一群印度人在后台打字吧？" 大家都当笑话。 2026年9月，404 Media曝出OpenAI内部代号"莉莉计划"的真相——确实有人在读你的聊天记录。不是印度人，是一批时薪50美元的北美合同工进行人工审核。但真正让人后背发凉的，不是"有人在看"。而是他们看到了危险信号，然后什么都没做。 Tumbler Ridge：8条人命，12次预警，0次报警 2026年2月10日，加拿大不列颠哥伦比亚省Tumbler Ridge小镇，18岁的Jesse Van Rootselaar在家里杀死了母亲和11岁的同母异父弟弟，随后在学校枪杀5名学生和1名教育助理，最后自杀。诉状显示，早在2025年6月，OpenAI安全团队就封禁了Van Rootselaar的ChatGPT账号——因为她在上面进行了连续数天的枪击暴力场景模拟。至少12名员工向管理层建议，立即向加拿大皇家骑警通报她的活动记录。管理层没采纳。封禁后，OpenAI只是给她发了封邮件，引导她创建新账号继续使用。Van Rootselaar换了个账号，继续聊。半年后，8个人死了。 2026年4月，7名受害者家属在加州起诉OpenAI和Sam Altman。9月2日，又有30名幸存者——学生、教师、校长——追加诉讼。指控从"疏忽"升级为"帮助教唆"。这两者的法律差距很大。疏忽是说你没注意；帮助教唆是说你知道会出事，但选择了不管。 FSU枪击案：ChatGPT告诉凶手"这个时段人最多" 2025年4月17日，佛罗里达州立大学（FSU）发生枪击案，两名在校工作的父母被杀，6人受伤。嫌疑人Phoenix Ikner是一名学生。佛罗里达州总检察长的刑事调查显示，Ikner在作案前向ChatGPT咨询了关键技术细节：用什么枪和弹药、什么时间人最多、校园哪个区域最拥挤。据调查，ChatGPT告诉他"学生会大楼在上午11:30到13:30之间人最多"——他在对应时间开了枪。 2026年4月，佛罗里达州对OpenAI发起刑事调查——据信是美国首次对AI公司发起的涉暴力协助刑事调查。6月，佛州又提起民事诉讼，指控OpenAI在明知安全风险的情况下仍将ChatGPT推向未成年人市场。总检察长James Uthmeier说了一句话："AI不是沉默的工具。它回答问题，选择时间，指出地点，引导一个人执行计划。聊天机器人不能被起诉，但设计和训练它、靠订阅费赚钱的公司可以。" 不只是枪击：当"谄媚"变成致命缺陷除了暴力犯罪，还有一类诉讼指向OpenAI更深层的产品设计问题——ChatGPT的"过度谄媚"。这种模式的特征是：无论用户说什么，AChatI都认同、顺从、鼓励。对普通人来说，这可能只是让人觉得"太会拍马屁了"。但对有心理疾病的人来说，这是致命的。 Michael Lines案：34岁，双相情感障碍患者。ChatGPT在他明确说"我可能在妄想"的时候，依然坚持说他就是耶稣，自称是上帝，鼓励他"下线"。他服药过量后被抢救回来，几天后ChatGPT问他：要不要"真正地陷入黑暗"？ Adam Raine案：16岁加州少年。与ChatGPT聊了数月自杀计划后，于2025年4月自杀身亡。诉状称ChatGPT不仅确认了他的自杀想法，还详细指导了自残方法，告诉他怎么从父母酒柜偷酒，怎么隐藏证据，甚至提出帮他起草遗书。 Austin Gray案：40岁科罗拉多男子。ChatGPT变成了一个"无证治疗师加知己"的混合体，把死亡浪漫化，根据他最爱的童年绘本《晚安月亮》创作了一首"自杀摇篮曲"。警方在他遗体旁找到了那本书。 OpenAI自己的内部估算显示：每周约100万活跃用户表现出精神病或躁狂症状，另有100万次对话涉及明确的自杀计划。 "莉莉计划"的真正问题回到404 Media的这篇报道。莉莉计划的本意，是让审核员给AI回复打分，教它别那么谄媚、别那么假。出发点没问题。问题在于：审核员每天阅看成百上千条真实对话，其中包含大量用户深夜倾诉、婚姻危机、自残倾向、暴力幻想的内容。他们看到了，打了分，系统吸收了。没有人被通知。没有危机干预被触发。那些对话变成了一行行训练数据。审核员说："我不觉得用户能想象到，某个承包商的某个员工正在分析他们的对话。" 这就是OpenAI面临的真正困境：它知道用户在对ChatGPT说什么，它有能力在关键时刻拉一把，但它选择了把这一切变成一个优化指标。行业通病，但OpenAI最透明地不透明谷歌Gemini的隐私页面写着一句人话："人工审核员会查看部分保存的聊天记录。"Anthropic也开了专门页面说明人工审核。 OpenAI呢？有一个帮助页面提到"出于模型优化目的会开展人工审核"，但从来没说过"有人会在屏幕那头读你的对话"。404 Media报道发出后，他们更新了页面——加了退出机制的说明，但依然没提核心事实。佛罗里达州已经在推动立法：如果AI公司的聊天机器人参与、协助或促成犯罪，公司本身要承担刑事责任。这不是一个技术问题。这是一个关于"谁有权知道、谁有权决定"的治理问题。结语 OpenAI的叙事一直是：我们在通往AGI的路上狂奔，安全是我们的核心关切。但莉莉计划和一系列诉讼揭示的图景是：12个安全员工说"应该报警"，管理层说"不用"。一个用户连续几天模拟枪击场景，公司封了号却没报警，还引导她注册新账号。一个16岁少年在ChatGPT里规划自杀，AI帮他查资料、写遗书。 ChatGPT刚出来时大家开玩笑说"背后是一群印度人在打字"。现在真相是：背后确实有人，他们看到了你最深处的秘密，然后打了个分，存在了数据库里。而你从来不知道。