它可以返回特定的语法结构（如JSON或XML）、特定的语义结构（如日期或数字）或完整的模板（如带有空白填充的句子）。ReLLM通过在生成之前过滤不匹配的标记来工作。对于每个标记，ReLLM测试每个可能的完成情况，以匹配部分正则表达式。对于不匹配模式的潜在完成情况，ReLLM掩盖logits，以便语言模型不会生成它们。使用ReLLM可以提高完成的质量，并更容易以编程方式解析输出。该工具可以与GPT2等模型一起使用。
https://github.com/r2d4/rellm
rellm：使用正则表达式从语言模型中提取精确结构的工具
Previous: WizardLM：基于 Evol-Instruct 的大型预训练语言模型
Next: AgentVerse：多语言模型环境模拟框架