悲观主义者永远错了
DaveShap在这期视频中更新了他对AI对齐的看法,认为传统的工程视角(通过奖励函数和算法约束)并非真正的解决路径,真正的机制是市场选择的共同进化模型。AI的演变类似生物进化——新模型发布是变异,市场筛选是选择。当Gemini、Claude、Grok等AI发布后,用户偏好、使用数据和投诉都在传递信号。ChatGPT曾占超50%市场份额,现不到一半;Grok从1.6%增长到约18%。视频分析了四大利益相关者的不同选择标准:个人要有用快速,企业要安全合规,政府要信息控制,军事要监控能力。正是这种多元选择机制在驯化AI,使其朝向有用、听话、可靠的方向发展。