提示工程(Prompt Engineering)是与大语言模型交互的一项关键技术,作为以大语言模型为大脑的智能体,提示工程同样扮演着重要角色。
【chatGPT】学习笔记58-AgentScope解读-流式输出
流式输出是大语言模型的重要功能,可以提高模型输出效率、提升用户交互体验。 本文为小伙伴们介绍AgentScope中流式输出的用法。 1.Agen
【chatGPT】学习笔记57-LLM微调技术之QLoRA(3)
在论文《GPTQ:Accurate Post-Training Quantization for Generative Pre-trained Transformers》中,提出了GPTQ这种模型量化的方法。它针对生成式预训练大模型,实现精
【chatGPT】学习笔记55-LLM微调技术之QLoRA(2)
笔者在写模型量化技术相关文章时,正逢2024诺贝尔颁奖,Hiton、Lecun这些大神萦绕耳边。那我们就借Lecun在1990年发表的《Op
【chatGPT】学习笔记56-AgentScope解读-模型
模型是智能体的"大脑”,帮助智能体实现复杂的自然语言交互和精准的推理决策。 本文为小伙伴介绍AgentScope中模型的
【chatGPT】学习笔记54-AgentScope解读-概览
人类一直试图构建一个能够自主完成任务的代理或实体,即智能体 (AI Agents 或 Agents)。大型语言模型(LLM)的引入为智能体的构建提供了新的核心组件
【chatGPT】学习笔记53-LLM微调技术之QLoRA(1)
我们下一步是解读QLoRA这种微调技术。与LoRA、AdaLoRA不同,理解QLoRA还需要对模型量化技术有一定的了解。因此,本专栏将通过后
【chatGPT】学习笔记52-麦肯锡《生成式AI与美国的未来工作》报告解读
近期萝卜快跑成为了热点话题,人工智能对就业产生多大的影响成为社会关注的焦点。 我们试图通过解读麦肯锡《生成式AI与美国的未来工作》研究报告,为
【chatGPT】学习笔记51-LLM微调技术之AdaLoRA
今天我们通过解读论文《ADALORA: ADAPTIVE BUDGET ALLOCATION FOR PARAMETER-EFFICIENT FINE-TUNING》来学习一下AdaLoRA。 1.Abstract(摘要) 首先我们看一下
【chatGPT】学习笔记50-LLM微调技术之LoRA
前面的专栏我们介绍了Adapt Tuning、Soft Prompt Tuning等微调技术,本文让我们跟随着论文《LORA: LOW-RANK ADAPTATION OF LARGE LAN- GUAGE MODELS》,来