Day1
了解大模型开发学习路线 看了一篇稼先社区里关于大模型应用开发入门经验总结贴 从大模型应用开发的视角，对应用开发入门的一个总结
学习园区大模型开发实践课程第一节，对知识问答，以及产品大模型的问答流程有了一个全面的了解
材料：
大模型应用开发入门经验总结.pptx
【Agent】大模型应用开发教程 agent智能体搭建 MCP协议 langmanus代码级实战
大模型应用开发极简入门》笔记
不需要AI和数学知识背景，这篇文章带你学会大模型应用开发 很长
【学习与发展】AI-MiniTask：大模型应用开发入门 很好的入门方式
课程 《大模型科普&电信领域实践赋能系列课程》
大模型应用开发学习总结：理论+时间+总结，快速学习（1）：大模型应用场景及demo实现工具
课程： 园区大模型开发实践
收获：
模型的训练过程： 1、预训练：大规模文本数据 2、指令微调： 结构化指令和对话 3、对话微调： 特定chat templates 4、RLHF: 基于人类反馈的优化/5、适配性训练： 产品特定优化
模型的特点：
- 知识面广：
文本语料[书籍 新闻文章 学术论文 网页内容 社交媒体帖子]; 结构化数据[数据库 表格数据 JSON/XML文件]; 代码[各种编程语言的源代码 代码文档和注释]; 专业领域知识[医学文献 法律文档 金融报告 科技文献]; 对话数据[聊天记录 客户服务交互记录]; - 有一定理解能力：
随着问题的复杂度提升，模型的理解准确度开始下降，不同的模型，不同的运行环境，有不同的能力变化点 - 依赖训练与输入数据:
训练固化知识[缺点：1无法实时更新 2无法持续学习与纠错 3知识分布与应用场景的不匹配 4过时的知识背景]； 提示输入知识[缺点：1输入量有限 2外部保证准确度，依赖输入质量] - 幻觉与反馈：
模型不会反馈自己的知识缺陷，事实性幻觉（Factuality Hallucination）模型生成的内容与可验证的现实世界事实不一致; 忠实性幻觉（Faithfulness Hallucination） 模型生成的内容与用户的指令或上下文不一致
对模型的画像：一个知识面广，能按照操作指导书执行思考并输出结果，不会反馈困难的新人
给模型设计任务的原则： 模型万能到模型不是万能： 1、认识模型的强项和弱项 2、合理设置任务边界 高出着眼，低处落地：1、从整体角度规划任务 2、从细微处设计实现 业务建模，原子拆分：1、将复杂的任务拆分为小的业务逻辑步骤 2、定义清楚原子任务，并建立测评与优化标准 分批实现，逐步迭代：1、业务拆分后分批以AI实现 2、在子任务逐步迭代优化之后，扩大应用范围
大模型任务分类 Table-Based Question-Answering 解释：从表格数据中提取信息以回答问题。模型需要理解表格结构和内容，并基于此回答问题。 Table-Based Mathematical Problem Solving 解释：使用表格中的数据解决数学问题。模型需要从表格中提取相关数据，并进行必要的计算。 Recommender System 解释：基于用户历史行为、偏好或相似用户的数据，为用户推荐可能感兴趣的项目。 Emotion/Sentiment Understanding 解释：分析文本中表达的情感或情绪，识别作者的态度（如积极、消极、中性）。 Machine Translation 解释：将文本从一种语言翻译成另一种语言，保持原意和语境。 Named Entity Recognition 解释：识别和分类文本中的命名实体，如人名、地名、组织名等。 Word Sense Disambiguation 解释：确定多义词在特定上下文中的具体含义。 Summarization 解释：生成文本的简短摘要，保留关键信息和主要观点。 Paraphrasing 解释：用不同的词语重新表达相同的意思，保持原意但改变表达方式。 Stance Detection 解释：确定作者对特定目标（如话题、实体）的立场或态度。 Natural Language Inference 解释：判断一个陈述（前提）是否支持、矛盾或中立于另一个陈述（假设）。 Relation Extraction 解释：从非结构化文本中识别和提取实体之间的关系。 Language-Based Task Completion 解释：理解并执行自然语言描述的任务，如生成代码或执行指令。 Multilabel Text Classification 解释：为文本分配多个相关标签，而不是单一类别。 Mathematical Problem Solving 解释：理解并解决用自然语言描述的数学问题。 Logical Reasoning 解释：基于给定信息进行逻辑推理，得出合理结论。 Commonsense Reasoning 解释：使用常识知识理解和推理日常情况。 Multi-Hop Reasoning 解释：通过多个推理步骤得出结论，每一步都基于前一步的结果。 Causal Reasoning 解释：理解和推断事件之间的因果关系。 Social Reasoning 解释：理解和推断社交情境中的人际互动和行为动机。 Contextual Question-Answering 解释：基于给定上下文回答问题，需要理解和利用上下文信息。 Context-Free Question-Answering 解释：回答不依赖特定上下文的一般性问题，通常基于模型的先验知识。 Spatial Question-Answering 解释：回答关于空间关系和位置的问题，需要理解空间概念。 Conversational Contextual Question-Answering 解释：在对话流中回答问题，需要跟踪和利用对话历史。 Dialogue System 解释：模拟人类对话，包括理解用户输入、维护对话状态和生成适当响应。 Code Generation 解释：根据自然语言描述生成可执行的代码。 Free Response 解释：生成开放式的、创造性的文本响应，如故事或文章。 Truthfulness 解释：评估陈述的真实性，或生成真实可信的内容。 Table-Based Truthfulness 解释：验证表格数据中的信息是否真实准确，或基于表格数据生成真实陈述。
