leioukupo关于2api的模拟fc和模拟mcp,我之前的做法有些问题,现在修正了 中发帖

我之前的文章       逆向api通过外挂解锁特殊功能 | leioukupo的博客 
直接构建一个带tool_calls的completion发送没太大问题,但是不能流式 
后续写流式tool调用时一直不行,直到和ai一起看cherry studio的源码关于tool调用这一部分时 
才发现我一直套用的chat的流式生成函数,其中的finish_reason一直是None,所以各个客户端才不响应我的工具请求,让ai根据我之前的chat流式生成器写了一个tool流式生成器 
async def generate_tool_call_chunks(
        tool_calls: list,
        answer_id: str,
        created: int,
        model: str,
        system_fingerprint: Op...
 
 
Back to Top