GLM4携带工具并设置为流式返回但实际返回非流式消息

[243006306]

System Info / 系統信息

1、使用的最新主干代码、最新模型仓库
2、vllm版本更改为0.6.6.post，cuda版本12.6
3、使用openai_api_server.py启动

Who can help? / 谁可以帮助到您？

No response

Information / 问题信息

• The official example scripts / 官方的示例脚本
• My own modified scripts / 我自己修改的脚本和任务

Reproduction / 复现过程

问题现象：不携带工具的情况下，正常流式返回；请求携带了参数，触发了工具也是正常流式返回，但是没有触发工具则是非流式返回。

测试采用的Openai的rest接口进行测试，测试参数如下：
{
"model": "glm-4",
"messages": [
{
"role": "system",
"content": "你是一个优秀的智能问答助手"
},
{
"role": "user",
"content": "你好啊，请用100字打招呼"
}
],
"temperature": 0.7,
"top_p": 1.0,
"stream": true,
"tool_choice": "auto",
"tools": [
{
"type": "function",
"function": {
"name": "weather_check",
"description": "天气查询",
"parameters": {
"type": "object",
"properties": {
"city": {
"type": "string",
"description": "城市名称"
}
},
"required": [
"city"
]
}
}
}
]
}

Expected behavior / 期待表现

携带工具时未命中工具的消息均正常流式返回