中国多家领先大模型初创企业正面临预训练的抉择关口。预训练虽能打造强大基础，但高昂成本与资源压力让部分公司逐渐转向应用开发。本文深入解析预训练的技术优势与挑战，并揭示头部玩家的战略倾向及人才竞争态势，勾勒出中国大模型行业的未来图景。

Ilya在NeurIPS 2024上震撼宣布，预训练时代即将结束，未来AI的发展将迈向超级智能，包括智能体、推理和自我意识的突破。文章回顾了十年前的研究基础，以及未来AI的可能路径，引发对技术未来的深刻思考。

Meta深夜开源Llama 4，采用新架构与训练技术，性能卓越。