gtese
V2EX  ›  Local LLM

离线大模型有支持文档翻译的吗

  •  
  •   gtese · Apr 1, 2024 · 2550 views
    This topic created in 946 days ago, the information mentioned may be changed or developed.

    上边非要整个文档翻译 word ppt excel.没错,还不想出大钱。

    9 replies  •  2024-04-03 13:36:46 +08:00
    MapleEve
    MapleEve
    Apr 1, 2024
    1
    有,但是很烂,不如 Haiku
    yinmin
    yinmin
    Apr 2, 2024 via iPhone
    2
    有 2 个国产开源大模型还不错:Yi-34B 和 qwen1.5-72B
    gtese
    gtese
    OP
    Apr 2, 2024
    3
    openwebui+ollama 可以拉到 qwen ,但是文档不行。
    iX8NEGGn
    iX8NEGGn
    Apr 2, 2024 via iPhone
    4
    直接翻译文档的没有,得自己解析格式,不过除了 PDF 不好解析,其他格式还是有挺多成熟的库的,然后本地模型的话,千问用来翻译还是不错的,已经到了可接受水平。
    MapleEve
    MapleEve
    Apr 2, 2024
    5
    @yinmin 你这个 34B 和 7B 本地部署……成本就 6 位数了
    gtese
    gtese
    OP
    Apr 2, 2024
    6
    @MapleEve /233 笑死,6 位数,老板能蹦起来把我活埋了。
    MapleEve
    MapleEve
    Apr 2, 2024
    7
    @gtese #6 基本没戏,自己买 wps 的 AI 服务吧
    dongruixuan
    dongruixuan
    Apr 3, 2024
    8
    34b 8bit 量化理论两个 4090 也能跑吧
    MapleEve
    MapleEve
    Apr 3, 2024
    9
    @dongruixuan 能跑,很慢,楼主这种说不想出大钱的基本只有用第三方中转 API 的份。
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Privacy   ·   Solana   ·   1932 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 32ms · UTC 16:52 · PVG 00:52 · LAX 08:52 · JFK 11:52
    ♥ Do have faith in what you're doing.