大模型学习路线

44cdfe55149112730ff6324728982a15[1].png

现在门槛降低了，成本也降低了。大模型技术爆发，抓住机会。

开源大模型（离线，更安全）/在线大模型

  1. 微调：Lora->垂类

    • 适用于用户意图识别

  2. RAG：检索增强生成（一系列专家，提升表现幅度，降低幻觉）

    • 只要提供了正确答案，大概率就不会答错
    • 适合私有数据库
    • 所以依赖于提供的数据库的信息，对数据质量要求比较高
    • 推理更加缓慢（低于微调）
    • 对知识库构建/信息压缩排名等（并非深度学习方面，需要深度学习算法工程师进行辅助）

  3. 提示词工程

    【AI大模型】Prompt 提示词工程使用详解_大模型prompt的用法详解-CSDN博客

  4. 预训练：创造出属于自己的全新大模型

    • 需要算力最多（微调其次，RAG和提示词工程对于算力的要求就没那么高）

agent->担任80%脑力工作

一些课程

NLP

FudanNLP/nlp-beginner: NLP上手教程 (github.com)

自然语言处理的入门练习

深度学习

跟李沐学AI的个人空间-跟李沐学AI个人主页-哔哩哔哩视频 (bilibili.com)

动手学深度学习

论文精读

https://www.bilibili.com/video/BV1H44y1t75x/?spm_id_from=333.999.0.0

llm-course :star:

mlabonne/llm-course: Course to get into Large Language Models (LLMs) with roadmaps and Colab notebooks. (github.com)

课程分为三个部分：

  1. LLM的基础知识，包含数学python神经网络
  2. 理论：专注于使用最新技术构建最好的 LLM
  3. 工程：专注于创建基于 LLM 的应用程序并部署它们

提示词工程

https://github.com/Kevin-free/chatgpt-prompt-engineering-for-developers

一些项目

【2024最新】54个大模型实战项目，练完即可就业，从入门到进阶，基础到框架，你想要的全都有，建议码住！超级适合小白入门学习，大模型教程_哔哩哔哩_bilibili

【李宏毅】2024年公认最好的【LLM大模型】教程！大模型入门到进阶，一套全解决！2024生成式人工智慧-附带课件代码_哔哩哔哩_bilibili