https://linux.do 论坛的话题更新通知频道。
ohyeah521 在 分享一个vibe coding了一个http服务器,支持上传,下载 中发帖
先看效果图:
[image]
依赖安装
pip install aiohttp
启动服务
python server.py
访问 http://localhost:8080
客户端示例
单文件下载(普通)
curl -O http://localhost:8080/download/test.txt
2. 断点续传下载
从第 1024 字节开始下载
curl -H “Range: bytes=1024-” -o test.txt http://localhost:8080/download/test.txt
3. 单/批量文件上传
curl -F “file=@a.txt” http://localhost:8080/upload
curl -F “files=@a.txt” -F “files=@b.jpg” http://localhost:8080/up...乾坤 (@qiankun) 在 感觉国产千问好像也不差 中发帖
一直对阿里系的有点偏见,昨天晚上装一个mineru用ds从晚上7点装到凌晨1点,死活不行,完全按照文档来的,万般无奈想试试阿里的千问,半小时就搞定了。lichunsheng 在 求大模型相关的学习资料 中发帖
最近想要搭建一个智能体,目前手上有些文档资料可以用作为知识库的,但是具体怎么落地不知道如何实现,有无教程视频的呢,之前也搭建过类似的智能体,但是感觉效果一般。这次准备用两个模型
qwen3.6 35b
qwen 1.8 或者是7blittlepear404 在 [IDCFlare相关]隔壁站有两个拼车疑似几乎同时跑路 中发帖
https://idcflare.com/t/topic/100377(用户名[qvps](https://idcflare.com/u/qvps))
另一个是【车找人】美西4837精品线路|ChatGPT+Claude+Netflix全解锁|长期稳定拼车 - 交易 - IDC Flare (用户名 kun_t998)
非常有意思的,昨天开始都用不了了,我买的后者的一季度车位亏损有限,目前能进后台但是机子用不了,另外似乎有超售情况。见这两位拼车帖帖子新回复。
由于检查idcflare管理状况发现包括始皇在内都没在活跃,遂发帖到主站方便管理注意到。
[图片]
[图片]是小绵羊咩 (@LittleSheepQuQ) 在 又优化了一下简历,求各位大佬帮忙看看 中发帖
继这个帖子,后面又去优化了一下简历,大佬们帮忙看看这种怎么样
[9f31005afaf1532c845df880f0029956]
[e0baa230ec224c58d0838bfe5c32f6e6]Atyue 在 分享一个巴西PP 中发帖
给大家分享一个手工注册的巴西PP,提链用的是站里的佬分享的。未接码。有需要的自取:
PuleraMero80@outlook.com----u9ZSQsLnr3OL----9e5f94bc-e8a4-4e73-b8be-63364c29d753----M.C546_BL2.0.U.-ClmdPyqaD4YsAZfrVlVlo4a!9FyQvV42iNUWNWmqTeKu44zGjYmvmta6!!2h2um9IE5hQZjKEA85RehSsPbK!jjwN0QypeDy6!VBWngogqZU3sOClEJqQiJGZOvHkaI7EfPsnH0l1tyCMEqeHrsiOvhijOo7n93DlCpqj169oV!bS7TYs1wXRozr1envbIOt1tpHpUTznS2chUZVmMXgFdYKFcrdvghvmagoyP4CLhINL6A0nOehdUkVgMgs07oEu... Youbiao He (@hybtalented) 在 本地 V100 跑模型,LMDeploy 和 llama.cpp 怎么选?求建议 中发帖
目前在 V100 上做本地模型推理,主要试了 LMDeploy 和 llama.cpp,各有优劣,有点纠结,想听听大家的经验。
LMDeploy:推理速度确实快,性能优势明显,但 Hugging Face 原生支持的模型格式偏少,很多模型需要额外转换或适配,遇到非主流模型会比较折腾。
llama.cpp:兼容性很强,GGUF 格式基本通吃,社区模型资源丰富。但 prefill 阶段速度明显偏慢,而且并发上来后显存压力很大,为了不爆显存,只能压缩每个会话的上下文长度,这又影响了长文本场景的体验。
目前卡在“速度”和“兼容性”之间取舍,想请教大家:
有没有办法在 llama.cpp 里优化 prefill 速度或显存占用?
或者 LMDeploy 有没有办法扩展更多模型格式的支持?
还是说这个场景下有其他更合适的推理框架推荐?
先谢谢各位大佬了!🙏walkmansk 在 写小说或者写文章比较好的模型是什么 中发帖
如题,想问一下各位佬,写小说或者写文章,比较好的模型是什么。
背景是这样的
用gpt经常看不懂他在说啥,就去查了查
[6efbd38bb7310ba12cf45a916c01eeae]
这种不透明推理导致我不能直接用gpt出来的结果去写文章
还得调提示词
想问问各位佬,有没有直出的比较说人话的模型joyful_1314 在 各位佬友请教下积分支付点击提示正在跳转支付然后就报错了。。 中发帖
[image]
[image]
[image]
[image]
{"error_msg":"record not found","data":null}
是我哪个流程操作错了吗 ?谢谢各位佬友 🙏wendyfe 在 求推荐:跨设备远距离文件传输web端 中发帖
如题,求问各位大佬,最近需要在异地进行两台设备之间的文件的传输,文件不是很大,有没有网页平台可以实现的?我现在的方法是用登录QQ进行传输,但是太不方便了。然后在那个谷歌上也找了一些项目,但是那些项目可以上传,却不能在另一个设备上进行下载。Cheng (@iquanzhan) 在 48team英国车,子号掉了,统计一下情况 中发帖
7.1的英国11英镑车今早发现子号被封了。
主要是放到sub2api反代,新账号,未接码,使用的令牌登录。
周限额50%左右。
母号在一样的环境现在还没掉。@ranyong_lar 在 小学加减乘除算术题生成器V3.5版 中发帖
先看图
最新升级的3.5版本,新增“中括号”功能,界面重新排版,修正了部分错误。
[image]
下载地址:
密码:6k0t下载地址:
密码:6k0tArispex 在 Plasma One 还能上车吗 中发帖
尝试了大陆的身份证或者护照 kyc 都提示“This document type is not accepted for verification in this country. The accepted documents for this country include:”