1.基础知识
1.1 什么是本地部署
本地部署就是通过个人或者企业通过消费级设备或工作站设备，将云端开源大语言模型部署到本地私有化设备上的过程 
1.2 本地部署所需的环境
硬件层面：一般而言需要一张消费级显卡，消费级显卡上满足显存≥16GB的显卡都可以适用本教程。具体见下表 




显卡厂商
起步型号
注解




Nvidia
4060 Ti 16G / 5060 Ti 16G
起步型号容易出现带宽瓶颈


AMD
7800 XT
需要使用 ROCm，入手难度较大


Intel
A770 16G
需要使用 Vulkan，入手难度较大



软件层面：常用的推理后端包括vllm，sglang，llama.cpp等。最适合本地消费级显卡部署的后端是llama.cpp。 

关于llama.cpp,市面上的两款比较火的chat desktop软件ollama/lm studio都是基于l...

[b495bb443e81a2da0e1d03e9faf03045] 
佬们试过是真的吗，还有人说的是重置也发给了free用户，我都想去之前的号上看看了

虽然说提供了一个 ctrl + t 去显示，但每次都要这样去操作就很麻烦 
已经有人提了 issue，不知道会不会修复，看不到运行了哪些命令真的太难受了 😢

本纯萌新，想知道各位大佬一般用什么AI开发软件

直接让 codex 生成，做出来的很诡异，不知道各位佬有没有比较好的路子或者制作流程？

[3]
[4]




[1]
[2]



😂😠 
点击设置->应用我都打不开

最近也是花 125 刀在 Google Play 开了一个 Claude Max 5X，一开始感觉5X的周额度远没有Pro的5倍，甚至只有3倍，于是让 GPT 做了一下网络调研，然后结合自己这一周的实际额度消耗，分享一些发现（结论在最后， 跳转结论） 
 [image] 
 [image] 
 [image] 
 [image] 
【网络】max5x与20x
首先，在此之前，我一直以为Max 20X指的是周限额，结果指的大概只是 5 小时限额，而周限额只有 Max 5X 的两倍甚至都不到 🫪 那之前还觉得没充20X是不是亏了，现在看来5x还不错了，反正Max来说还挺难打满五限的 
【实测+网络】具体额度与优惠率杠杆
其次，我之前用Pro的时候，体感是一个月有一两千刀，现在看来这个还挺准的；现在实测 Max 5X 一周的额度可能有 1600 刀左右，一个月可能7k刀上下。GPT调研： 
社区...

如题，个人账号的工作空间和team的工作空间在新版本的ChatGPT桌面端不能快速切换吗？只能退出账号重新登录才可以选择吗？当前是个人账号的工作空间 
 [image] 
 [image]

[image] 
看了回复，让我想起了这个经典的段子：在拥挤的火车上，有人开口向邻座借充电宝，结果拿来不是给自己手机充电，而是接上线去充自己带的那个的充电宝。

故事是这个样子的，这段时间跑项目，最后让它生成一个 HTML 我先预览一手 
。因为我个人比较懒，所以我会直接告诉 AI，让它生成 iOS 26 的风格 
，但是我发现它这个很奇怪，它每次生成完都不是对的 
（。也有可能是我用的中转站给我降智的） 
但是用其他模型生成的 iOS 26 风格都是对的 
。 
想知道你们的前端ui都还好吗？这个模型。

我有2个CPA，一个全是free用来用luna，稳定到几乎不用管。 
还有一个里面加了7个单座的team，自从我上周搞逆向其中一个号吃了cyber，其他帐号开始轮流401: 
额度获取失败：401 Your authentication token has been invalidated. Please try signing in again. 
有几个甚至刚登录就401，需要反复登，其中几个帐号今天额度陆续恢复，结果刚恢复就401。这是被标记了吗？

2天时间用了1B Ox Alpha, codex给他擦了3个小时的屁股还没擦完, 一堆问题, 我还不如直接用sol 
[image]

现在不知道程序员还能坚持不，三个月了，投了一百多份简历，现在招聘上刷到的都是投过的，有什么方法能够看到新的招聘职位吗 🥲

有能自动搬运x和tg上视频的到其他视频平台项目吗？我看类似的自动化搬运yt视频的项目，不知道有没有同样搬运x和tg上的。也不知道部署难度高不高

各位大佬们有没有 把token沉淀成价值的路径 我只知道有大佬拿来挖掘因子 有没有详细的教程可以分享下 或者其他的沉淀路径？

[image] 
佬友们，刚刚拿下了 4 核 4G 的腾讯云服务器 13 个月。然后下面就是我做的一些羊毛攻略 
第一个就是来到这个页面看到38元/年4核4G3M轻量云服务器 

这边我是直接建议去咸鱼找代抢，因为我试了佬的脚本还改良了一下，依旧是很难抢到，然后第一次去找咸鱼代抢就抢到了 
 [image] 
然后就是拿下12个月的腾讯云轻量服务器之后去workbuddy网页版，来到个人中心的那个成长与计划那里 
WorkBuddy - 个人中心 
[image] 
然后任务这里有一个这个任务 
[image] 
完成之后点击详情下滑会出现一个续费专区，老用户可享0元领取这里可以免费再续费一个月 
[image] 
希望佬们都能抓住这波羊毛，然后就是想问佬们第一台服务器都是拿来干嘛的给我参考参考拿来做什么用 😆

各位请教一下，我想开通一个 GPT Plus，现在的市面上比较靠谱的价格是 148~160 一个月。我想知道这个价格是买中转站更合适，还是买 GPT Plus 更合适？ 
因为我现在的用量挺大的，基本上 24 小时开着电脑在跑数据，我觉得 GPT Plus可能不够用，不知道一个月最多能用多少刀？ 现在每个月中转站的用量大概是在 300~500 元 rmb 之间，你觉得哪个更划算？（中转站我能找到 0.1 倍率比较稳定的卖家。所以理论上，150 最多可以用到 1500 刀。）

需要的朋友可以发邮箱，请先确认自己满足下面的条件： 

受邀者在过去 2 个月内不得使用过 ChatGPT 桌面版。
受邀人不能已拥有有效的推荐邀请。

如题，有没有在新加坡生活的佬，最好是从事ai相关的，现在新加坡适合年轻人移居嘛？其实已经去过很多次了，但是每次的体会、感受都不一样，包括饮食、文化、生活等，都没有一个很好的概念，有没有佬解答一下

感觉被套路20x 卖1400 质保封号 每次15%手续费  稳赚不赔 
 [image] 
公司对接的B端供应商的价格清单 
因为最近额度的问题退了几个号，按15%手续费 
卡BUG的来了： 有一个号被封号走官方退款，要自己去发起退款退成功的才处理 
（封号的情况下 官方不给退）无法质保 
可以充到自己号，对方也提供成品号