面向大模子的新编程范式-微软
摘要：今天分享的是：面向大模子的新编程范式-微软 敷陈认为：43页 《面向大模子的新编程范式》先容了大模子带来的应用开发新机遇、开发运营步地、有关开发平台与用具以及最好奉行。 智能应...
今天分享的是：面向大模子的新编程范式-微软
敷陈认为：43页
《面向大模子的新编程范式》先容了大模子带来的应用开发新机遇、开发运营步地、有关开发平台与用具以及最好奉行。
智能应用的新机遇
1. 生成式AI改革应用开发
- 展示了生成式AI在不同应用场景的示例，如GPT - 4、ChatGPT等在文本生成和问答方面的才智。
2. 中枢时刻特色
- 大型讲话模子（LLM）具有大鸿沟预覆按、多层编码、讲话生成、对话系统、可膨大性等时刻特色，以及邻接对话才智和对用户意图的有用捕捉。
3. 模子才智比较
- 通过与其他模子对比，如GPT - 4o和Gemini Ultra等，先容了GPT - 4在抽象讲话相识、知识性问答、数学问题等多个Benchmark主义上着实认及主义含义。
开发运营步地
1. 新应用步地与传统对比
- LLM引颈新的应用步地，与传统智能对话应用开发比较，如Azure的开发历程复杂，而Copilot Studio利用生成式AI，无需托管基础设施，可快速开发智能对话应用。
2. LLMOps历程
- 包括数据经管、实验、评估、考证和部署、推理、监控以及反应和数据集结等设施，体现了从MLOps到LLMOps的范式转念，以及在主义评估、分享财富等方面的变化。
3. 在线监控和可不雅测性
- 强调对LLM系统的握续追踪和监控，以经管如数据源问题、失误领导、幻觉等问题，确保适应规则条目。
开发平台与用具
1. Copilot Stack框架
- 先容了讹诈Copilot Stack框架开发智能应用的有关责任，包括拓荒订阅、集成知识索引和API、开发自界说责任流等。
2. Azure AI Studio
- 展示了其在企业级聊天、语音分析等多个使用场景，以及引入企业自己数据的神态。
3. 其他用具
- 先容了PromptFlow在UI与代码之间无缝切换的特色，以及Copilot Studio基于无代码构建智能应用的功能，包括创建、经管、发布和膨大Copilot等操作。
开发最好奉行
1. 主要时刻神态
- 先容了应用大模子的三种主要时刻神态：领导（Prompting）、镶嵌（Embedding）、微调/覆按/定制（Fine - Tuning），并分手讲明了其旨趣和应用场景。
2. 应用谋划步地
- 先容了RAG微调覆按、大模子脱手FunctionCall、Agent步地、LangChain Expression Language等多种应用完好意思的新谋划步地偏激责任旨趣。
以下为敷陈节选执行
