大预言模型的基石:Transformer 入坑笔记(一) - 大模型训练链路
前言
这几年 AI 的热度一直很高。日常问答、写代码、整理文档、做工具,它已经开始进入不少人的日常工程流。我最近也开始认真补这块东西,主要是想搞清楚:这些模型到底是怎么一步步训练出来的,以及它有没有机会更深入地帮我们优化游戏研发里的工作流。
这几年 AI 的热度一直很高。日常问答、写代码、整理文档、做工具,它已经开始进入不少人的日常工程流。我最近也开始认真补这块东西,主要是想搞清楚:这些模型到底是怎么一步步训练出来的,以及它有没有机会更深入地帮我们优化游戏研发里的工作流。