结束语、再谈大模型应用开发

“你好,我是黄佳。” —— 随着我第24次输入这个句子,我们的这门课程也进入了尾声。其实,每一个课程,都是我对当下这个节点的学习过程的一次真实记录和总结。感谢朋友你,又陪着我走完了一次不长不短的旅程。 在开篇词中,我引用了李彦宏的观点,“大模型应用开...

大模型应用开发实战

22、如何在与LLM交互过程中省钱及控制Rate Limits

你好,我是黄佳。 OpenAI提供了强大的自然语言处理API,但在将原型转移到生产环境时,管理与运行应用程序相关的成本是一个重要的挑战,尤其是当我们调用OpenAI家族中比较贵的模型的时候,这一讲我们来看看这方面的内容。 OpenAI采用按使用量付费...

大模型应用开发实战

21、LLM开发过程中的错误处理和Tracing

你好,我是黄佳。 今天我们来聊两个实际的问题。第一,在调用OpenAI API时,可能会碰见哪些错误,应该如何处理。第二,如何通过各种日志记录工具,来监控大模型的应用的运行过程。 OpenAI API 的错误处理在与OpenAI API交互时,你可能...

大模型应用开发实战

20、如何通过Moderation API对生成内容进行安全审核

你好,我是黄佳。 今天我们将探讨一个在生成式 AI 应用开发过程中至关重要的话题:如何利用 Moderation API 对生成内容进行审核,以确保内容的安全与合规性。 随着大语言模型的快速发展,开发者可以利用大模型提供的 API 接口快速构建各种智...

大模型应用开发实战

19、Sora模型的原理和架构初探

你好,我是黄佳。 非常开心,我们进入了多模态章节的最后一节课,Sora。而这节课,也许将是唯一一节没有代码实操的课程,因为Sora这个模型还没有给出任何API调用的接口,也没有任何详细的技术细节公开发表。 不过,这并不影响Sora发布之后给全世界带来...

大模型应用开发实战

18、多模态:用大语言模型进行TTS、ASR、OCR

你好,我是黄佳。 说到多模态,最常见的当然是图/文之间的相互转换,也就是给出提示文字,让Stable Diffusion / Midjourney / DALL-E 这样的模型出图。或者是把图片丢给大语言模型,然后让大语...

大模型应用开发实战

17、GPT、4o最强多模态模型实战

你好,我是黄佳。 2024年5月,又一个重磅炸弹从天而降。OpenAI隆重推出了新的旗舰模型GPT-4o,这个模型不仅更加强大,更加聪明,而且它的API还比老一代的GPT-4-Turbo更便宜。它最惊艳的特性就是多模态能力,尤其是在语音方面,它拥有把...

大模型应用开发实战

16、多模态:整合大语言模型与Dall、E、Stable Diffusion API

你好,我是黄佳。从今天开始,我们进入一个新的应用开发领域——多模态开发实战。 AI 时代基本天天有惊喜,通常是小惊喜,偶尔有大惊喜。2024年5月,OpenAI的又一款语言模型让人眼前一亮,连连惊叹,这就是GPT-4o。 GPT-4o 和多模态Op...

大模型应用开发实战

15、OpenAI闭源模型的微调流程和Function Calling微调

你好,我是黄佳。 开源模型的微调大家耳熟能详,但是很少有人了解OpenAI的GPT模型也可以微调。今天我们就来探讨如何微调OpenAI的闭源模型,以及使用Function Calling进行特定领域微调的流程和要点。 OpenAI的GPT系列模型经过...

大模型应用开发实战

14、以Llama 3为例讲透QLoRA量化+微调

你好,我是黄佳。 在上节课中,我们以Qwen模型为例,探讨了一下大语言模型参数高效微调的基本方法,重点介绍了当下最热门的LoRA技术,并通过PEFT框架实际操作了一把用Alpaca风格的中文数据微调Qwen模型。 不过上节课还有些地方没有讲透彻,比如...

大模型应用开发实战
1910111213268