[博客翻译]用外行的术语解释llm.c

训练大型语言模型（如ChatGPT）涉及大量的代码和复杂性。例如，一个典型的LLM训练项目可能会使用PyTorch深度学习库。PyTorch非常复杂，因为它实现了非常通用的张量抽象（一种用于排列和操作数组的方法，这些数组包含神经网络的参数和激活），以及一种非常通用的Autograd引擎来进行反向传播（训练神经网络参数的算法），以及您可能希望在神经网络中使用的大量深度学习层。PyTorch项目的源代码有11,449个文件，共3,327,184行代码。除此之外，PyTorch是用Python编写的，而Pyth...