🔥 大型语言模型(LLM)已经席卷了NLP社区、AI社区和全世界。以下是关于大型语言模型的精选资源列表,特别是与ChatGPT相关的内容。它还包含LLM训练框架、LLM部署工具、LLM相关的课程和教程以及所有公开可用的LLM检查点和API。
这个开源库已经在GitHub上收获了239,000个星标,见证了它的火爆程度。
话不多说,让我们一起来看看吧。
热门LLM项目
•TinyZero[1]- DeepSeek R1-Zero的干净、简约、可访问的重现•open-r1[2]- DeepSeek-R1的完全开源重现•DeepSeek-R1[3]- DeepSeek的第一代推理模型•Qwen2.5-Max[4]- 探索大规模MoE模型的智能•OpenAI o3-mini[5]- 推动具有成本效益的推理前沿•DeepSeek-V3[6]- 首个开源GPT-4o级别模型
目录
•Awesome-LLM•里程碑论文•其他论文•LLM排行榜•开放LLM•LLM数据•LLM评估•LLM训练框架•LLM推理•LLM应用•LLM书籍•关于LLM的伟大思想•其他
里程碑论文
里程碑论文[7]
其他论文
注意
如果你对LLM领域感兴趣,可以参考上面列出的里程碑论文,帮助你探索其历史和前沿状态。然而,LLM的每个方向都提供了独特的见解和贡献,这对理解该领域整体非常重要。有关各个子领域的详细论文列表,请参考以下链接:
其他论文[8]
LLM排行榜
•Chatbot Arena Leaderboard[9]- 一个大型语言模型(LLM)基准平台,提供匿名、随机化的对战,采用众包方式。•LiveBench[10]- 一个具有挑战性、无污染的LLM基准。•Open LLM Leaderboard[11]- 旨在跟踪、排名并评估LLM和聊天机器人,随着它们的发布。•AlpacaEval[12]- 使用Nous基准套件的指令跟随语言模型自动评估器。
其他排行榜[13]
开放LLM[14]
•DeepSeek•阿里巴巴•Meta•Mistral AI•谷歌•苹果•微软•AllenAI•xAI•Cohere•01-ai•百川•Nvidia•BLOOM•智谱AI•OpenBMB•RWKV基金会•ElutherAI•Stability AI•BigCode•DataBricks•上海AI实验室
LLM数据
参考资料:LLMDataHub[15]
•IBM>LLM评估 •lm-evaluation-harness[20]- 用于少量样本评估语言模型的框架。•lighteval[21]- 一个轻量级LLM评估套件,Hugging Face在内部使用。•simple-evals[22]- OpenAI提供的评估工具。•其他评估框架[23] •Meta Lingua[24]- 一个精简、高效、易于修改的代码库,用于研究LLM。•Litgpt[25]- 20多种高性能LLM,具有预训练、微调和大规模部署的方案。•nanotron[26]- 最简化的大型语言模型3D并行训练。•DeepSpeed[27]- DeepSpeed是一个深度学习优化库,使分布式训练和推理变得简单、高效和有效。•Megatron-LM[28]- 进行大规模变换器模型训练的持续研究。•torchtitan[29]- 一个用于大规模模型训练的本地PyTorch库。•其他框架[30] •SGLang[32]- SGLang是一个快速的服务框架,用于大型语言模型和视觉语言模型。•vLLM[33]- 一个高吞吐量且内存高效的LLM推理和服务引擎。•llama.cpp[34]- 使用C/C++进行LLM推理。•ollama[35]- 启动Llama 3、Mistral、Gemma及其他大型语言模型。•TGI[36]- 一个部署和服务大型语言模型(LLMs)的工具包。•TensorRT-LLM[37]- Nvidia的LLM推理框架•其他部署工具[38] •dspy[40]- DSPy:用于编程——而非提示——基础模型的框架。•LangChain[41]— 一个流行的Python/JavaScript库,用于链式连接语言模型提示序列。•LlamaIndex[42]— 一个Python库,用于为LLM应用增强数据。•更多应用[43] •Andrej Karpathy系列[44]- 我最喜欢的!•Umar Jamil系列[45]- 高质量的教育视频,不容错过。•Alexander Rush系列[46]- 高质量的教育材料,不容错过。•llm-course[47]- 进入大型语言模型(LLMs)的课程,包含路线图和Colab笔记本。•UWaterloo CS 886[48]- 基础模型的最新进展。•CS25-Transformers United[49]•ChatGPT提示工程[50]•Princeton[51]: 理解大型语言模型•CS324 - 大型语言模型[52]•GPT的状态[53]•让我们从零开始构建GPT:从代码到实现[54]•minbpe[55]- 用于LLM分词的字节对编码(BPE)算法的最小化、干净的代码。•femtoGPT[56]- 用Rust实现的最小化生成预训练变换器。•Neurips2022[57]-基础模型的基础稳健性•ICML2022-欢迎进入“巨型模型”时代:训练和服务更大模型的技术和系统[58]•60行NumPy代码实现GPT[59] •Generative AI with LangChain[60]: 使用Python、ChatGPT和其他LLM构建大型语言模型(LLM)应用——附带一个GitHub仓库,展示了很多功能。 •Build a Large Language Model (From Scratch)[61]- 构建你自己的工作LLM的指南。 •BUILD GPT[62]: HOW AI WORKS- 解释如何从零开始编码生成预训练变换器(GPT)。 •Hands-On Large Language Models: Language Understanding and Generation[63]- 探索大型语言模型的世界,本书包含超过275个自制图示! •The Chinese Book for Large Language Models[64]- 一本基于大型语言模型调查的入门LLM教科书。 •为什么所有公开复现的GPT-3都失败了?[65]•指令调优的阶段性回顾[66]•LLM驱动的自主代理[67]•为什么你应该致力于AI代理![68]•谷歌:“我们没有护城河,OpenAI也没有”[69]•AI竞争声明[70]•提示工程[71]•诺姆·乔姆斯基:ChatGPT的虚假承诺[72]•ChatGPT有1750亿个参数吗?技术分析[73]•GPT是如何获得其能力的?追溯语言模型的涌现能力来源[74]•开放预训练变换器[75]•大型语言模型中的扩展、涌现与推理[76] •Emergent Mind[78]- 最新的AI新闻,由GPT-4策划和解释。•ShareGPT- 一键分享你最疯狂的ChatGPT对话。•主要LLM + 数据可用性[79]•500+最佳AI工具[80]•Cohere Summarize Beta- 介绍Cohere Summarize Beta:一个新的文本总结端点•chatgpt-wrapper- ChatGPT Wrapper是一个开源的非官方Python API和CLI,可以让你与ChatGPT互动。•Cursor[81]- 使用强大的AI写作、编辑和聊天你的代码。•AutoGPT- 一个展示GPT-4语言模型能力的实验性开源应用。•OpenAGI- 当LLM遇到领域专家。•EasyEdit[82]- 一个易于使用的框架,用于编辑大型语言模型。•chatgpt-shroud- 一个Chrome扩展程序,用于OpenAI的ChatGPT,通过轻松隐藏和显示聊天历史来增强用户隐私。适合屏幕共享时的隐私保护。 想入门 AI 大模型却找不到清晰方向?备考大厂 AI 岗还在四处搜集零散资料?别再浪费时间啦!2025 年 👇👇扫码免费领取全部内容👇👇 想了解大模型的行业动态、商业落地案例?大模型电子书? 报告包含阿里、DeepSeek 等权威机构发布的核心内容,涵盖: PPT 整理自 2024-2025 年热门技术大会,包含百度、腾讯、字节等企业的一线实践: 想冲字节、腾讯、阿里、蔚来等大厂 AI 岗?这份面试资料帮你提前 “押题”,拒绝临场慌! 面经整理自 2021-2025 年真实面试场景,包含 TPlink、字节、腾讯、蔚来、虾皮、中兴、科大讯飞、京东等企业的高频考题, 针对大模型专属考题,从概念到实践全面覆盖,帮你理清底层逻辑: 专门拆解 LLMs 的核心痛点与解决方案,比如让很多人头疼的 “复读机问题”: 刚接触 AI 大模型,不知道该从哪学起?这份「 L1阶段:了解大模型的基础知识,以及大模型在各个行业的应用和分析,学习理解大模型的核心原理、关键技术以及大模型应用场景。 L2阶段:AI大模型RAG应用开发工程,主要学习RAG检索增强生成:包括Naive RAG、Advanced-RAG以及RAG性能评估,还有GraphRAG在内的多个RAG热门项目的分析。 L3阶段:大模型Agent应用架构进阶实现,主要学习LangChain、 LIamaIndex框架,也会学习到AutoGPT、 MetaGPT等多Agent系统,打造Agent智能体。 L4阶段:大模型的微调和私有化部署,更加深入的探讨Transformer架构,学习大模型的微调技术,利用DeepSpeed、Lamam Factory等工具快速进行模型微调,并通过Ollama、vLLM等推理部署框架,实现模型的快速部署。 不管你是 0 基础想入门 AI 大模型,还是有基础想冲刺大厂、了解行业趋势,这份资料都能满足你! 👇👇扫码免费领取全部内容👇👇 2025 年想抓住 AI 大模型的风口?别犹豫,这份免费资料就是你的 “起跑线”!LLM训练框架
LLM推理
参考资料:llm-inference-solutions[31]
LLM应用
参考资料:极棒的llm-apps[39]
LLM教程和课程
LLM书籍
关于LLM的伟大思想
其他[77]
AI 大模型全套学习资料已整理完毕,从学习路线到面试真题,从工具教程到行业报告,一站式覆盖你的所有需求,现在全部免费分享!一、学习必备:100+本大模型电子书+26 份行业报告 + 600+ 套技术PPT,帮你看透 AI 趋势
这份资料帮你站在 “行业高度” 学 AI:1. 100+本大模型方向电子书
2. 26 份行业研究报告:覆盖多领域实践与趋势
3. 600+套技术大会 PPT:听行业大咖讲实战
二、求职必看:大厂 AI 岗面试 “弹药库”,300 + 真题 + 107 道面经直接抱走
1. 107 道大厂面经:覆盖 Prompt、RAG、大模型应用工程师等热门岗位
每道题都附带思路解析:2. 102 道 AI 大模型真题:直击大模型核心考点
3. 97 道 LLMs 真题:聚焦大型语言模型高频问题
三、路线必明: AI 大模型学习路线图,1 张图理清核心内容AI大模型 学习路线图」直接帮你划重点,不用再盲目摸索!路线图涵盖 5 大核心板块,从基础到进阶层层递进:一步步带你从入门到进阶,从理论到实战。
L1阶段:启航篇丨极速破界AI新时代
L2阶段:攻坚篇丨RAG开发实战工坊
L3阶段:跃迁篇丨Agent智能体架构设计
L4阶段:精进篇丨模型微调与私有化部署
L5阶段:专题集丨特训篇 【录播课】
四、资料领取:全套内容免费抱走,学 AI 不用再找第二份
现在只需按照提示操作,就能免费领取: