oldlamp

oldlamp

V2EX member #198842, joined on 2016-10-28 18:58:13 +08:00
Per oldlamp's settings, the topics list is hidden
Deals info, including closed deals, is not hidden
oldlamp's recent replies
4 days ago
Replied to a topic by zzutmebwd › Local LLM › pro6000 部署 Qwen 3.8 flash next nvfp4
@coefu

我现在换 halogen-qwen3.8-flash-next ,长链工作还对付,能有 30-40tokens/s 的 decode ,上下文只能有 262144 ,反正还对付了。
@tencentcloud

感谢感谢,话说界面如果可以进一步简化就好了,找入口好难啊。

另外请教一下,以后如果不续费,用本地模型,还需要消耗积分么?还能进行移动端的设备访问和管理么?
如果是 27b 的稠密模型,速度还不如 7900xtx ,同样预算下如果有两个 R9700 也是不错的选择。
可惜是三元锂电池了,不考虑了。
@fairytale 求给细讲一下
@Need4more

为何呢?还望尊者指点开悟。
Aug 22
Replied to a topic by vem › 电影 › 感觉《奥德赛》大失所望
@billlee

依然很感谢您的分享~
我这几天找一找看一看,回顾一下逝去的青春。
@zls3201

自媒体看得可能还是不够多,没太见识到哎。
不过话说本地跑 27b 倒是能做一些事情,只是只适合一些事务性而且非紧要的事情。
About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Privacy   ·   Solana   ·   4296 Online   Highest 6679   ·     Select Language
创意工作者们的社区
World is powered by solitude
VERSION: 3.9.8.5 · 10ms · UTC 09:26 · PVG 17:26 · LAX 02:26 · JFK 05:26
♥ Do have faith in what you're doing.