- dolma: 包含三万亿 Token 的语言模型预训练研究开放语料库
- ColossalAI: 一个旨在使大型 AI 模型更便宜、更快速、更易获得的开源项目
- TensorRT-LLM: 用于优化大型语言模型推理的 TensorRT 工具箱
- langchain: LangChain 是一个用于开发由大型语言模型（LLM）驱动的应用程序的框架。
- AIAK: AIAK 大模型训推加速套件是百舸推出的大模型 AI 加速能力，用来加速 Megatron、Megatron-Core 等训练框架的大语言模型。
- llamaindex: 一个将大语言模型（LLM）和外部数据连接在一起的工具。
