TPU

Google Jeff Dean分享Pareto Frontier掌控哲学：同时拥有最高能力和最高效模型。Flash模型成本极低，用于Gmail、YouTube等产品，处理50万亿tokens。TPU设计周期2-6年，SRAM vs HBM有1000倍能量差异。目标是trillion tokens上下文。RL在数学和编程领域成功，但非可验证领域仍有挑战。Google Brain与DeepMind合并为Gemini，Sergey Brin回归积极参与编码。