wwhc's recent timeline updates wwhc's recent timeline updates |
wwhcV2EX member #145809, joined on 2015-11-05 06:54:06 +08:00Today's activity rank 4103 |
| Taalas 推出首款专用 ASIC 加速卡 声称实现亚毫秒级推理 分享发现 • wwhc • Feb 23 • Lastly replied by 7gugu | 2 |
| Marie Fredriksson 去世了，流行音乐黄金时代的代表乐队 Roxette 不复存在 音乐 • wwhc • Dec 12, 2019 • Lastly replied by KentY | 4 |
| 寻求中国境内网站开发合作伙伴 外包 • wwhc • May 1, 2018 • Lastly replied by bingod | 4 |
wwhc's recent replies
追觅看起来真的不行了，石头的主攻对象已经对准科沃斯了，几个月前看到的类似推广帖还是追着追觅打的，可怜的科沃斯，难道真的没钱养网军？
14h 28m ago Replied to a topic by TGOcc › Local LLM › RTX 3080 Ti 12G 跑 125B MoE Qwen3.8-Flash-Next — Strata 安装跟实测 |
大家可以再等等，过几个星期，等补丁全落地(MTP/ GPU LRU 缓存的补丁已经 merged)，llama.cpp 的性能就追的差不多了，最重要的 llama.cpp 是全量化支持，输出质量远胜 Strata 。如果显存不是太紧缺(多于 16GB)，现在 llama.cpp 的速度已经不比 Strata 差太多，而输出质量更好
2 days ago Replied to a topic by xgq89757 › 问与答 › 还有人折腾双路主机吗？ |
x79 开虚拟机还有点意义，DDR3 内存虽然也大涨，但仍然算是很便宜。x99 就别想了，前段时间 DDR4 内存比低峰期贵了近 10 倍
7 days ago Replied to a topic by 52txr › Local LLM › 有什么本地部署好使的写代码小模型吗？ 24GB 显存玩玩那种 |
建议 llama.cpp 上 Qwen3.8 27B Q4 。建议暂时不要尝试 Strata ，这个东西似乎买了推广，作为一个开源推理系统，推广力度如此之大，原因不明，等情况明朗后再尝试，上 Qwen3.8 flash next 用 llama.cpp 也没有问题
Sep 1 Replied to a topic by florentino › 问与答 › 为什么说罗永浩想要造一台老年人友好电视,注定不成功 |
很简单，装个室外天线就行了
Aug 31 Replied to a topic by Need4more › Local LLM › mac 本地部署 llm 不是最佳选择 |
云 API 的一个致命问题是稳定性及可靠性无法保证，保不准什么时候就降智了,根据这个 API 之前智力水准订制的产品的产出将可能出现不可预知的变化；或者如果企业订购的某一个 API 因为厂商模型升级而废弃，企业根据这个 API 订制的产品将可能需要根据新 API 中的模型的不同特性而重构。本地部署完全没有这个问题
Aug 29 Replied to a topic by andie › 程序员 › 想看看各位使用 Pi 的姿势 |
用 Pi 写个 web 终端很简单吧
Aug 24 Replied to a topic by foryou2023 › 问与答 › 如果 2 - 3 万人民币设备，部署本地 dsv4flash ， token 基本够用，你是会选择本地部署还是接云 api？ |
Deepseek v4 flash 能用的起点是两块 RTX PRO 6000
Select Language