【LogitsProcessors Zoo:NVIDIA开发的LLM输出控制工具集,提供一系列处理器来自定义和增强大语言模型的行为。包含多个实用工具如生成长度控制器、引用提示处理器、强制结束语处理器和多项选择处理器等,支持transformers、vLLM和TensorRT-LLM等主流框架,可以更精确地控制LLM的输出行为】
'A collection of LogitsProcessors to customize and enhance LLM behavior for specific tasks'
GitHub: github.com/NVIDIA/logits-processor-zoo
#LLM工具# #AI开发# #NLP#
'A collection of LogitsProcessors to customize and enhance LLM behavior for specific tasks'
GitHub: github.com/NVIDIA/logits-processor-zoo
#LLM工具# #AI开发# #NLP#