ChopChop：一个用于对语言模型输出进行语义约束的可编程框架

《Proceedings of the ACM on Programming Languages》：ChopChop: A Programmable Framework for Semantically Constraining the Output of Language Models

语言模型（LMs）生成代码存在安全性问题，现有方法仅支持语法约束或脆弱的语义编码。本文提出ChopChop框架，通过分析前缀对应程序空间，结合共化约实现约束解码，支持类型安全与等价性验证，解码速度与效果优于传统方法。

　　

摘要AI 摘要

要查看此由 AI 生成的摘要，您必须具有高级访问权限。

了解更多登录

摘要

摘要

语言模型（LMs）可以生成代码，但无法保证其正确性——通常会产生违反类型安全、程序不变性或其他语义属性的输出。受限解码通过将生成过程限制为仅产生满足用户定义属性的程序来提供解决方案。然而，现有的方法要么仅限于语法约束，要么依赖于对符号序列而非程序结构的语义属性的脆弱、临时性编码。

我们提出了 ChopChop，这是第一个用于根据语义属性约束语言模型输出的可编程框架。ChopChop 通过分析前缀所表示的程序空间，引入了一种构建受限解码器的方法。它将这种分析表述为一个可实现性问题，并通过共归纳法来解决，从而将符号级生成与程序的结构推理联系起来。我们通过使用 ChopChop 来强制执行（1）与参考程序的等价性和（2）类型安全性来证明其通用性。在各种模型和任务中，ChopChop 在保持实际解码延迟的同时提高了成功率。

AI 摘要

AI 生成的摘要（实验性)

此摘要是使用自动化工具生成的，并非由文章作者撰写或审核的。它旨在帮助发现内容、帮助读者评估相关性，并协助来自相关研究领域的读者理解本文的工作。它旨在补充作者提供的摘要，后者仍是论文的官方摘要。完整文章是权威版本。点击此处了解更多。

点击 此处 对此摘要的准确性、清晰度和实用性进行评论。您的反馈将有助于改进和未来重新生成的版本。

要查看此由 AI 生成的简单语言摘要，您必须具有高级访问权限。