leioukupo 在 关于2api的模拟fc和模拟mcp,我之前的做法有些问题,现在修正了 中发帖
我之前的文章 逆向api通过外挂解锁特殊功能 | leioukupo的博客
直接构建一个带tool_calls的completion发送没太大问题,但是不能流式
后续写流式tool调用时一直不行,直到和ai一起看cherry studio的源码关于tool调用这一部分时
才发现我一直套用的chat的流式生成函数,其中的finish_reason一直是None,所以各个客户端才不响应我的工具请求,让ai根据我之前的chat流式生成器写了一个tool流式生成器
async def generate_tool_call_chunks(
tool_calls: list,
answer_id: str,
created: int,
model: str,
system_fingerprint: Op...