欢迎来到尧图网

客户服务 关于我们

您的位置:首页 > 教育 > 高考 > 面向开发者的LLM入门教程(学习笔记01)

面向开发者的LLM入门教程(学习笔记01)

2025/9/15 0:37:50 来源:https://blog.csdn.net/weixin_43633501/article/details/142332785  浏览:    关键词:面向开发者的LLM入门教程(学习笔记01)

关注B站可以观看更多实战教学视频:hallo128的个人空间

面向开发者的LLM入门教程(学习笔记01)

吴恩达老师的《Prompt Engineering for Developer》课程

一、简介

1.LLM的定义

大语言模型(LLM) 的更强大功能是能通过 API 接口调用,从而快速构建软件应用程序

2.分类

(1)基础LLM:是基于文本训练数据,训练出预测下一个单词能力的模型。
(2)指令微调 LLM :通过专门的训练,可以更好地理解并遵循指令。

3.如何训练

指令微调 LLM 的训练通常基于预训练语言模型,先在大规模文本数据上进行预训练,掌握语言的基本规律。在此基础上进行进一步的训练与微调(finetune),输入是指令,输出是对这些指令的正确回复。有时还会采用RLHF(reinforcement learning from human feedback,人类反馈强化学习)技术,根据人类对模型输出的反馈进一步增强模型遵循指令的能力。通过这种受控的训练过程。

指令微调 LLM 可以生成对指令高度敏感、更安全可靠的输出,较少无关和损害性内容。

版权声明:

本网仅为发布的内容提供存储空间,不对发表、转载的内容提供任何形式的保证。凡本网注明“来源:XXX网络”的作品,均转载自其它媒体,著作权归作者所有,商业转载请联系作者获得授权,非商业转载请注明出处。

我们尊重并感谢每一位作者,均已注明文章来源和作者。如因作品内容、版权或其它问题,请及时与我们联系,联系邮箱:809451989@qq.com,投稿邮箱:809451989@qq.com