• 请不要在回答技术问题时复制粘贴 AI 生成的内容
Haku
V2EX  ›  程序员

自部署模型卖 Token 能赚钱吗?

  •  
  •   Haku · Sep 14 · 4616 views
    This topic created in 56 days ago, the information mentioned may be changed or developed.

    自己购买/租赁 GPU ,部署 DS 、K3 、H3 这种模型然后出售 Token 给官方或者中转站,有搞头吗?有没有大佬能介绍下的? 感觉如果年前买了 GPU ,光涨价都能赚不少了,别说还能卖 Token 。

    46 replies  •  2026-09-15 11:15:40 +08:00
    Haku
    Haku
    OP
    Sep 14
    1
    我自己粗略地计算了下,K3 就不说了启动成本太贵,DS 和 H3 好像是有可能的,尤其视频模型,SeedDance 定价很贵,H3 便宜但是自己部署成本可以做到低于官方价格,不知道多模态模型的行情怎么样。
    Kaisar
    Kaisar
    Sep 14
    2
    你这不就是自建数据中心了么 前期的账算得过来么
    sentinelK
    sentinelK
    Sep 14❤️1
    3
    LLM 不赚钱。你看各大服务商哪个价格能做到比官网便宜就知道了。尤其是 deepseek 这类。

    视频模型自部署的问题是官网其实是一整套流程,但 Minimax H3 只开源了视频生成部分。
    如果从工作量上讲,H3 开源的生态只占大概 40%左右。
    bootvue
    bootvue
    Sep 14❤️2
    4
    赔的裤衩都不剩
    strobber16
    5
    买 decensored 也许可行。但是可能会进去
    diudiuu
    diudiuu
    Sep 14
    6
    不行得
    Haku
    Haku
    OP
    Sep 14
    7
    @Kaisar 就是算不清所以想问问有没有人做过的,另外我个人肯定是希望能从小一些的模型尝试下。
    @sentinelK 了解了,意思是除了 API ,还需要提供配套工具?那这么看如果能找个中转站类似的服务商合作就更好了。
    Haku
    Haku
    OP
    Sep 14
    8
    @bootvue 这么惨的吗?能细说一下不?
    iixy
    iixy
    Sep 14❤️1
    9
    不是这门生意很好,而是大厂只能追这个风口。
    看字节给即梦和豆包到处找博主打广告,就知道这个生意不好做。
    emojiiii
    emojiiii
    Sep 14
    10
    这不就是算力租赁吗... 一开始要投入的成本太高了
    hiboshi
    hiboshi
    Sep 14
    11
    你得掺假不然不赚钱
    xtreme1
    xtreme1
    Sep 14
    13
    本质上你不卖 Token, 是卖基础设施和服务
    投资角度的话, 那完全是另外一个话题, 可以另说
    sentinelK
    sentinelK
    Sep 14❤️4
    14
    @Haku 这不光是配套工具那么简单。

    1 、你没有官方的运行环境,所以你的显卡利用率一定不如官方。

    2 、你没有配套生态,比如 Minimax H3 是有对应的 designer 工具免费提供的。能通过摆 3D 小人精准控制走台和运镜。还能自动生成分镜和剧本。多媒体模型还要缓存素材、生成结果。minimax H3 官方是 7 天免费存储的,你算算 7 天的巨量缓存成本是多少。

    3 、你没有官方的部署经验,官方有海量硬件,所以可以根据推理情况灵活调配负载,你的硬件总数是固定的,所以只有一个甜点。一旦用户负载有波动,你的体验就直线下降。

    最终结果就是,你的 pp/tg 比官方慢,缓存命中率低,有时候还要整个 session 重新 prefill ,还比官方贵。

    视频模型更惨,排队排到死不说,素材传不上去,传上去了调不出来,还没官方的设计工具……
    Haku
    Haku
    OP
    Sep 14 via Android
    15
    @sentinelK 感谢大佬分享,我只调研了一下模型部署成本,没想到会有这些问题
    BeautifulSoup
    BeautifulSoup
    Sep 14 via Android❤️1
    16
    你可以先租几块卡,看满载满吞吐量能输出多少 token/秒,再折算一下电价。现在大厂卖 token 很多有私有、针对性优化的推理框架,你用开源的一定达不到人家那个推理效率。
    sentinelK
    sentinelK
    Sep 14❤️1
    17
    @Haku 简单说就是,对于大模型,使用人数和成本的关系是指数的。

    每多加一个人,成本都翻一个次方。直到到一个规模化平台。
    xiangbohua
    18
    算力我记得是重资吧,你有多少本
    version
    version
    Sep 14
    19
    没啥意义呢。。能自己部署的模型没意义。别人为了安全买官方或者大厂也正常。发票也正常
    个人用户大部分都是白嫖 token
    能赚钱的那批数字人已经下线了。短剧的也是
    生图要求很高的。基本海外闭源模型。。
    就算你自己部署。自己用。也是亏电费
    sampeng
    sampeng
    Sep 14
    20
    你都一几个小目标了。还来赚这个钱?什么?你没有几个小目标?那你说啥?
    sn0wdr1am
    sn0wdr1am
    Sep 14
    21
    你在试图跟资本比钱多。
    foryou2023
    foryou2023
    Sep 14❤️1
    22
    deepseek-v4-flash
    输入 ¥0.049464
    输出 ¥0.148392
    缓存 ¥0.000192

    最近看到的一个渠道价格,说是 N 手的矿卡自己部署的。实测没有这么便宜,也大概 1 亿 token 1-2 块钱左右。官方的空闲大概 1 亿 token 5 块钱左右,谷峰 10 块钱
    nulIptr
    nulIptr
    Sep 14
    23
    https://www.ithome.com/0/972/866.htm 成立不到 3 年,“Token 工厂”硅基流动递表港交所,省流,去年亏了 3.45 亿
    uncleroot
    uncleroot
    Sep 14
    24
    你是否在找 「中转站」 —— 卖 SOTA 模型,里面混自部署模型卖。 [狗头]
    383394544
    383394544
    PRO
    Sep 14 via iPhone❤️1
    25
    你能买得到 B300 且搞定自建数据中心的话,可以,至少能融资。民用小破显卡别想了
    ButcherHu
    ButcherHu
    Sep 14❤️1
    26
    建议了解一下潞晨尤洋
    et5494
    et5494
    Sep 14
    27
    这种一般是国家出钱,企业维护
    我司在 SH 的中心就是国家出的钱
    afkool
    afkool
    Sep 14❤️1
    28
    @Haku H3 纯诈骗部署才行。。满血不可能低于官方价格。
    hxzhouh1
    hxzhouh1
    Sep 14
    29
    不如把机器租给模型公司吧,也可以卖二手。
    因为你的资源利用率一定达不到官方的水平,价格也就一定比官方高。
    youyoumarco
    30
    如果有渠道的话都不如直接倒腾 gpu 服务器,比如 B300 ,H200 也可以。
    iamsad3508
    iamsad3508
    Sep 14 via Android
    31
    你的优势是,你是居民用电,他们的是工业用电
    gpt5
    gpt5
    Sep 14
    32
    可能还不如挖矿
    loading
    loading
    Sep 14 via Android
    33
    没有官方或者大厂背书,普通用户不去如用中转。
    agentd
    agentd
    Sep 14 via iPhone
    34
    别零售,有渠道大规模卖才赚钱。
    mdyc
    mdyc
    Sep 14
    35
    自建数据中心吗,有点意思了
    msg7086
    msg7086
    Sep 14
    36
    我司就在搞算力机房。开销不小的,都是裁人省下钱然后拿这钱去造机房。
    Magicdove
    Magicdove
    Sep 14
    37
    得不偿失
    dimlau
    dimlau
    Sep 14❤️1
    38
    firefox12
    firefox12
    Sep 14❤️1
    39
    肯定赚啊,我 xx 云同事说 现在都在卖 token 赚钱,进口好的机器 然后跑这些模型,11 个月就能回本 剩下的都是血赚。就是很费人,因为你的芯片美国买的, 谁去美国买呢?买了以后 弄到中国来,最后 美国会发现的,这个人这辈子就别想再出国了。还有一个问题是 成本很高的,要跑一个能卖 token 的机器 不是你几万 几十万的卡就能跑的,得几千万的机器,加上机房。而且你的东西来路其实都不太正, 你没背景就别做了。当心机器买进来 国家给你没收了,你就哭吧。 新加坡买了全世界 30%的卡,你猜这些卡最后都到了那里?谁又有资格能买呢? 反正不是有背景 别想了。
    ghwolf007
    ghwolf007
    Sep 15
    40
    @dimlau #38 什么鬼 去酒吧带电脑白嫖 token ?
    skull
    skull
    Sep 15 via iPhone
    41
    梁说他十个月回本
    Allenbayern
    42
    你这个项目干着干着,很可能就冲着自研模型去了。。。
    andyskaura
    43
    qwen3.8 27b 应该是挣钱的,这模型线上的都好贵,自部署肯定能低于线上价格。但问题是,没什么目标用户
    andie
    andie
    Sep 15
    44
    不如直接把卡卖了,赚的比较多
    Lynnxx
    Lynnxx
    Sep 15
    45
    不如直接租卡
    fridaycatye
    46
    。。。OP 是学生吗,怎么还有这种幻想
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Privacy   ·   Solana   ·   933 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 99ms · UTC 20:44 · PVG 04:44 · LAX 12:44 · JFK 15:44
    ♥ Do have faith in what you're doing.