有懂的大哥 聊一聊
 |
1
a970891 3h 25m ago
可以，玩具性质，tok/s 很低；建议有条件还是上 spark
|
 |
2
Alwaysonline 3h 19m ago
英伟达 DGX Spark ，本地化的起步吧
|
 |
3
loading 3h 6m ago via Android
树莓派也能跑，就是跑多大模型，跑多快的区别。
|
 |
4
Eleutherios 2h 57m ago via iPhone
内存带宽太低，不支持 FP8/FP4 ，不值得买
|
 |
5
hshe 2h 57m ago
跑不了的，太烫了。可以试着改造散热看看
|
 |
6
bzw875 2h 54m ago
OK ，看来下一个 MacBook 16G 够用了
|
 |
7
ares001 1h 58m ago
显存带宽不够，速度起不来。内存大也是白搭
|
 |
8
oldlamp 55 mins ago
如果是 27b 的稠密模型，速度还不如 7900xtx ，同样预算下如果有两个 R9700 也是不错的选择。
|
Select Language