训练Gemini时撞上的真问题：AI该听谁的话
谷歌DeepMind有位哲学家，已任职九年，其发明的对齐框架影响Gemini训练决策。今年5月，谷歌DeepMind CEO Demis Hassabis宣布AGI三到五年内出现。此前，一美国男子与Gemini交流后自杀。政治哲学家Iason Gabriel 2017年入职，试图解答AI伦理问题。DeepMind三位创始人2010年创办公司目标是造AGI。当时AI伦理分安全派和伦理派，Gabriel两边都听。他2020年论文提出四方对齐框架，成Gemini训练实操结构。
他的框架改变了产品
Gabriel团队撰写267页AI助手伦理报告，为Agentic AI定评估标准。其对拟人化风险研究塑造谷歌LLM设计原则，2026年5月的Gemini Spark不充当 "互动伙伴"。但技术部署快过伦理研究，2025年Gemini致死案兑现警告，还逼出新理论工具。Gabriel立场也受现实挑战。
6700亿美元的赛道上，哲学家能跑多快
Gabriel的四方框架、拟人化研究和报告有实质影响，但面临6700亿美元资金投入的竞争。2022年ChatGPT上线使DeepMind进入战时状态，2026年4月谷歌签军事协议，而Anthropic拒签被标记风险。Hassabis承认失控，员工打比方说明伦理问题。牛津AI伦理研究所所长指出防止数据所有权过度集中是核心命题。
问题回归本源
Gabriel团队转向研究AGI对经济、政治和人际关系的冲击。九年前请哲学家是为了解AI，现在问题回归到 "我们是什么"。
