大模型

VLLM服务端启动ChineseErrorCorrector3-4B模型

1个月前 (07-12)121
VLLM服务端启动ChineseErrorCorrector3-4B模型
先贴命令 vllm serve /www/models/Qwen/ChineseErrorCorrector3-4B \     --max-model-len 10240 \   &…