社团课程设计-LLM：从“魔法”到“得力助手”的正确使用指南

教学目标

让零基础的新生理解大模型的基本工作方式，掌握高效、正确使用大模型的技巧，并能将其应用于学习和工作中，同时对AI前沿发展保持好奇心和批判性思维。

核心理念

不把AI当成无所不能的“神”，而是理解其能力边界、掌握其“脾气”的强大工具。原理驱动技巧，实践检验真知。

第一章：初次见面，请多指教 —— 揭开大模型的神秘面纱

1.1 什么是大模型 (LLM)？

• 核心概念： 把它想象成一个读完了互联网（几乎）所有资料，并学会了“文字接龙”和“模仿”的超级大脑。其本质是概率模型，预测下一个最有可能出现的词，而非真正地“思考”。
• 破除迷思：
  • 它不是搜索引擎：它会“创造”内容，可能包含事实错误，即“幻觉”。
  • 它不是通用人工智能 (AGI)：它没有自我意识、情感和真实世界的感知。目前没有AGI，每个模型都有其能力边界。即使是顶尖模型，也各有各的“脾气”和“盲区”，我们稍后会详细探讨。

1.2 “酷炫”应用展示

• 文本生成： 现场演示用AI写一首诗或一段代码。
• 图像生成： 展示 Stable Diffusion或 Midjourney“文生图”的魅力。
• 代码助手： 演示 GitHub Copilot如何根据注释或上下文自动补全代码。

第二章：大模型的“记忆”与“语言” —— 决定沟通效率的关键

2.1 短暂但宝贵的“记忆”：上下文 (Context Window)

• 简单原理： 上下文是大模型的“短期记忆”。关闭对话框即“失忆”。
• 推广技巧：
  • 单一交互，单一功能： 在一个对话中杂糅多个不相关的任务，会导致模型表现下降。
  • 上下文“喂养”： 先提供背景信息（如文章、数据），再进行提问，能获得更精准的回答。

2.2 沟通的基石：分词 (Tokenization)

• 简单原理： 模型看到的是“词元”(Token)，而不是我们看到的文字。
• 推广技巧：
  • 正面提问的力量： “请不要画猫”可能因为模型分别关注了“不要”和“画猫”而失败。应直接下达正面指令，如“请画一只狗”。
  • 语言选择： 不同公司用不同的方法训练模型，导致它们在处理特定语言或任务时表现各异，这也是我们需要学会选择模型的原因。

第三章：精准沟通的艺术 —— 提示词工程 (Prompt Engineering)

3.1 从“随便问问”到“精准指令”

• 核心框架： 介绍并演练 R-T-F-E 提问公式。
  • R (Role - 角色)：为AI设定一个身份。
  • T (Task - 任务)：清晰地描述你的目标。
  • F (Format - 格式)：指定输出的格式。
  • E (Example - 示例)：提供一个或多个例子。

3.2 让模型拥有“外脑”：RAG

• 简单原理： 将RAG比作“开卷考试”。系统先从外部知识库（如PDF、网页）中检索相关信息，然后连同你的问题一起交给大模型，让它根据你提供的材料来生成答案。这能有效缓解“幻觉”和知识陈旧问题。

第四章：AI走进工作流 —— 效率工具大赏

4.1 编码的革命：AI IDE 与代码助手

• 介绍 Cursor、GitHub Copilot 等工具如何将整个项目作为上下文，提供高度相关的代码建议。

4.2 命令行的“翻译官”：AI CLI 工具

• 介绍 Warp、Gemini CLI 等工具如何将自然语言翻译成命令行指令。

4.3 创意的延伸：前沿多模态应用

• 提及 Suno（文生音乐）、Sora（文生视频）等，展示AI在创意领域的巨大潜力。

第五章：成为聪明的“AI使用者” —— 生态、选择与未来

5.1 AI世界的两大阵营：闭源与开源

• 闭源模型 (如GPT, Claude)： 像Windows/MacOS。
  • 优点：性能顶尖、开箱即用。
  • 缺点：付费、有隐私顾虑、规则严格。
• 开源模型 (如Llama, Qwen)： 像Linux系统。
  • 优点：免费、隐私可控、可定制。
  • 缺点：对硬件和技术有要求。

5.2 认识当今的“AI明星”：模型大阅兵

• 引言： 记住每个模型不重要，重要的是理解它们的“性格”和“定位”。
• 关键概念：
  • 模型大小 (Size)： 大型(>100B)、中型(7B-100B)、小型(<7B)。可比喻为“博士生”、“本科生”和“高中生”。
  • 模型架构 (Architecture)： Dense (密集，全员参与) vs. MoE (专家混合，高效分工)。
• 小模型的正确定位

  特别注意：在当前阶段，参数量在10B以下的小模型，通常不建议作为通用的聊天伙伴。它们的价值更多体现在作为AI Agent（智能体）中的一个高效组件，或针对单一任务（如翻译、文本分类）进行微调后使用。而4B甚至更小的模型，则更多是用于探索模型能力的边界、验证新的架构，或是团队展示技术实力的作品。我们今天讨论的“对话型AI”，主要集中在中大型模型。

• 模型梯队介绍
  • 闭源旗舰： GPT-5/4o (“创意社交达人”), Claude Opus (“严谨工程师”), Gemini Pro (“数据分析师”)。
  • 开源巨兽： Qwen3-235B-A22B, DeepSeek R1, GLM-4.5, Kimi-K2 (性能媲美旗舰，需强大硬件)。
  • 本地王者： Qwen3-72B, Qwen3-30B-A3B (消费级硬件上的性能优选)。

5.3 实践指南：如何为你的任务选择最佳模型？

• 建立决策流程
  1. 识别任务类型
     • 复杂编程 / 严肃写作 -> 推荐 Claude Opus 4.1, GPT-5, GLM-4.5, Kimi K2。这些模型逻辑推理和代码能力强，结果更可靠。
     • 创意写作 / 日常聊天 -> 推荐 GPT-5, Claude Sonnet 4, Gemini 2.5 Pro, DeepSeek R1, Qwen3-235B, Grok 4。这些模型语言流畅、交互自然，Grok 4还具备实时搜索能力。
     • 追求性价比的日常工作 -> 推荐 Gemini 2.5 Flash, Qwen3-30B-A3B, DeepSeek-V3。这些模型在性能、速度和成本之间取得了绝佳平衡。
  2. 评估预算和隐私需求
     • 若预算充足且不担心数据隐私，可使用顶级闭源模型的API。
     • 若需要完全的数据控制或零成本运行，应评估硬件后选择合适的开源模型。
  3. 评估自身技术能力
     • 零技术背景的用户，建议使用网页版或成熟的第三方应用。
     • 懂一点编程或愿意探索的用户，可以尝试使用 Ollama, LM Studio 等工具部署开源模型。

5.4 知识扩展与未来展望

• 概念扩展： 简要提及 微调 (Fine-tuning) / LoRA（给AI请专业家教）和 多模态 (Multi-modality)（能听会看的AI）。
• 总结陈词： 没有最好的模型，只有最合适的工具。成为一个聪明的AI使用者，核心能力不是背诵模型参数，而是理解任务需求，并能批判性地为任务匹配最合适的模型。这种选择和判断的能力将永远有效。

附录：2025年主流模型参考表

闭源模型

大型模型

中型模型

小型模型

开源模型

大型模型

中型模型

小型模型