微软发布 Guidance 语言，用于控制大语言模型

最近，微软推出了一种名为Guidance的领域专属语言，旨在增强开发人员管理当代语言模型的能力。这个新框架将诸如生成、提示和逻辑控制等任务集成到一个统一的开发流程中。

据 GitHub 存储库的介绍，这门编程语言使开发人员能够“将生成、提示和逻辑控制组织到一个连续的流中，从而与语言模型实际处理文本的方式相匹配”。它可以与Hugging Face模型等提供程序无缝集成，并集成基于智能种子的生成缓存系统和令牌修复，从而优化提示边界并消除词汇切分过程中的偏见。正则模式指引（pattern guides）则进一步强化了格式约束，保证提示可以正常完成。

微软法国公司首席技术兼网络安全官 Philippe Limantour写道：“用户可以无缝地合并生成、提示和逻辑控制，从而创建一个连续的流，与语言模型固有的文本处理机制保持一致。”

对于微软推出 Guidance，外界的反应也比较积极。根据哥伦比亚大学和沃顿商学院客座讲师Jesus Rodriguez的说法，Guidance 旨在为开发人员提供“一种简单而全面的语法，用于构建复杂的语言模型工作流”，降低 LLM 的复杂性。

这个框架还没有完全完成。当前，针对该框架的扩展需求还包括：更多的LLM支持、更好的LangChain集成以及支持 OpenAI 函数调用。

Guidance 是扩展语言模型功能这个工具生态系统的一部分。像LangChain和Haystack这类框架的出现，已经简化了将模型集成到应用程序中的过程。Handlebars、语言模型查询语言（LMQL）以及 Nvidia 的NeMo Guardrails也被用于减轻 LLM 的不利影响。

原文链接：

https://www.infoq.com/news/2023/06/guidance-microsoft-language/

相关阅读：

大语言模型综合能力测评报告 2023

大语言模型进化之谜：涌现现象的挑战与争议

浪潮之巅，如何让大语言模型走向金融应用新纪元