上下文工程入门：比“写好提示词”更重要的事
模型回答不好，未必是提示词不够妙。聊聊如何筛选资料、压缩历史和整理上下文，让模型在有限的窗口里看到刚刚好的信息。
技术笔记
KV Cache：大模型推理加速的关键
为什么首 token 慢、后面越生成越快？记录 KV Cache 的原理、显存占用估算，以及 GQA、PagedAttention 等常见优化手段。
大模型量化入门：从 FP16 到 INT4
想在消费级显卡上跑更大的模型？记录 INT8/INT4 量化的基本概念、GPTQ 与 AWQ 等主流方案，以及实际部署中的几点体会。
大语言模型（LLM）入门：从词向量到 Chat
整理了大语言模型的基本概念：词嵌入、概率建模、预训练与指令微调，帮助初学者建立整体认知框架。
Transformer 结构速览：自注意力机制笔记
Self-Attention、Multi-Head、位置编码、LayerNorm 的要点速记，附 PyTorch 最小可运行示例。
RAG 检索增强生成实战笔记
从文档切分、Embedding、向量库到召回重排，记录一次完整 RAG 问答系统搭建过程中的坑与经验。
LoRA 微调：低秩适配原理与上手实践
为什么 LoRA 能用极少参数逼近全量微调？记录低秩矩阵分解的直觉理解与训练配置要点。
提示词工程（Prompt Engineering）随手记
Few-shot、思维链（CoT）、角色设定等常用提示词技巧的日常积累，附实际效果对比。
AI Agent 初探：工具调用与任务拆解
记录对 Agent 架构的理解：规划、记忆、工具调用三要素，以及 ReAct 模式的一个简单实现思路。
关于本站
本站为个人非营利性技术学习笔记站点，主要用于记录人工智能、大语言模型及软件开发相关的学习心得，内容仅供学习交流。
联系邮箱：ljf8151@outlook.com