GitHub 19K⭐爆火:
【AI】GitHub 19K⭐爆火:Redis创始人亲手写的DeepSeek 4本地引擎, MacBook就能跑744B大模型,部署服务正在变成一门生意
1. 异常值开场
上周刷 GitHub Trending,看到个挺反常的事。Redis 的创始人 antirez, 圈子里公认的活化石级开发者,最近大半年没怎么动 Redis, 倒是天天在捣鼓一个叫 ds4 的东西。
几个让人忍不住多看两眼的数字:
19,000+ GitHub Stars,出来还不到半年
346 次提交,3 天前还有更新
支持 DeepSeek V4 Flash(671B)和 GLM 5.2(744B)在普通电脑上跑
2bit 量化——只压 MoE 部分,共享层留全精度
最关键的是这玩意不是又一个 llama.cpp 的套壳。antirez 从零写的, 目标就一个:让 DeepSeek V4 能在你手边的 MacBook 上跑出能用的速度。
一个做出 Redis 的人,放下自己成名作去给别人的模型写推理引擎—— 这件事本身就够反常了。
2. 谁需要这个
说白了,很多人有同一个烦恼:LLM 的能力我需要,但数据不能出公司。 金融/律所/医院/小工厂,各有各的数据合规红线。
以前只有两条路:买大厂 API(数据得出去),或自己搭推理集群 (十几万起步)。ds4 给了第三条路——一台 Mac Studio 四万左右。
3. 钱从哪来
不是瞎猜,已经有人在挣了:
闲鱼/淘宝:帮人装 Ollama,一次 500-3000
企业级定制:8000-5 万/单
教程:小报童 99-299 元,卖几百上千份
ds4 卡在中间——不需要好显卡,但能跑 DeepSeek V4 级别。 Mac 生态尤其空白。
4. 为什么是现在
工具做好了 + 2bit 量化能用 + 硬件降价 + API 涨价, 四个窗口凑在一起。
5. 普通人怎么上手
装 ds4(2h)→ 换模型跑(1h)→ 写教程(2h)→ 发小红书验证(10min)→ 有反馈就加码。
6. 怎么放大
换工具(Ollama/vllm)、换人群(金融/法律/医疗/教育)、 换交付(教程→咨询→驻场→产品化)。
ds4 还在 beta、2bit 不是无损、硬件有门槛、这个赛道不缺人。
社群怎么进?拉我拉我!!! 想赚一千万,就要做能赚一千万的事。 今日提升,看到就是学到:提升数据就是提高用户动作的几率,而用户产生动作的诱因是什么?落脚点还是要放在内容上,放在信息的传递上。 有价值,尤其是对项目初筛很有帮助。 顶顶更健康,支持官方! 11111111111111 这一期线上的训练营,什么时候开营? 这个内容让我意识到,复盘本身也是一种能力。
页:
[1]