【导语：近期AI圈热闹非凡，Anthropic警告停止AI研究，因AI正接近“自己造自己”临界点。OpenAI后训练团队负责人Yann Dubois则从微观视角揭秘AI进化，指出其能力增长连续但有用性离散，还提出多项论断，为开发者指明方向。】
Anthropic内部数据显示，AI正在加速自身发展，通往递归自我改进的路径或已浮现，这意味着AI正在接近「自己造自己」的临界点。由于这一进程比Anthropic预想的更快，该机构呼吁减缓或暂停AI研究。
OpenAI后训练团队负责人Yann Dubois在访谈中指出，AI能力的增长是线性、连续的，但用户体验到的「有用性」却是离散、跳跃的。在达到某个「可靠性阈值」之前，AI只是个玩具；跨过该点，它就成了能托付工作的员工，还会自我加速。OpenAI大概在去年12月跨过了这道坎。
此外，模型足够好时会加速研发本身，尤其在编程场景，模型变强让研究人员多了个不睡觉的搭档，能搭建工具链、「以AI养AI」。强化学习的「转型升级」也推动了AI发展，从只优化有标准答案的题，转向优化用户觉得真有用的东西。
Dubois认为AI的构建更像「手艺活」，靠经验、直觉、反复试错做出来，再补科学解释。早期他认为用监督微调就够，但模型规模跨过一定水平后，强化学习会突然好用，只是代价高昂。
对于Harness，短期内垂直场景的Harness能提升可靠性，但难以做成通用的。他还判断，若冻结现有模型，打磨Harness并围绕其训练，很多领域能感受到通用人工智能（AGI）的味道。
持续学习是AI面临的老大难问题，模型起点高但后续难以持续提升。不过，创业公司在垂直应用方面仍有很大空间，真正的瓶颈在于权限、数据、连接器和业务流程等最后一公里的问题。
编辑观点：AI发展既带来机遇也引发担忧。专家观点为行业发展提供了新视角，创业公司应把握垂直应用机会，同时行业也需关注AI发展的潜在风险，确保其健康、可持续发展。
