JCZ2MkKb5S8ZX9pq
V2EX  ›  OpenAI

2024-03 如果要搭一个 GPT 公司内部用,有什么现成的轮子?

  •  
  •   JCZ2MkKb5S8ZX9pq · Mar 26, 2024 · 4407 views
    This topic created in 959 days ago, the information mentioned may be changed or developed.

    先叠甲

    • 不用担心法务和担责的问题,买了专线,也有买海外服务器,仅公司内网环境下使用。
    • 不需要担心什么老板没让你做你就不要做,或者出了问题要担责啥的。
    • 纯讨论技术实现。聊不出技术内容光东拉西扯的不需要。

    需求

    • 身份验证
    • 对话记录
    • 不要让用户自己配置 api-key

    用过的轮子

    • ChatGPT-web

      • 这个有身份认证,大体可用。
      • 有对话记录。但查询起来略麻烦。
      • 小缺点是对话轮次无法限制,经常有人用了忘记清上下文,导致 token 被浪费。
      • 很久没更新了。
    • ChatGPT-Next-Web

      • 优点是 Vercel 一键部署
      • 缺点是要自己输入 key

    提前感谢能提供有效回复的各位大师

    19 replies  •  2024-04-09 17:25:07 +08:00
    Plutooo
    Plutooo
    Mar 26, 2024
    1
    ChatGPT-Next-Web 也可以直接设置 key ,不需要用户再输入,配置参数就可以
    CheckTime
    CheckTime
    Mar 26, 2024
    2
    lobe-chat ?
    JCZ2MkKb5S8ZX9pq
    JCZ2MkKb5S8ZX9pq
    OP
    Mar 26, 2024
    3
    @Plutooo 我之前直接 vercel 的,我去文档找找看,感谢。
    JCZ2MkKb5S8ZX9pq
    JCZ2MkKb5S8ZX9pq
    OP
    Mar 26, 2024
    4
    @CheckTime
    lobe 我用过的,emoji 的那个,vercel 上好像还有一个,好像也是要自己输入 key 的吧。
    忘了为啥,最后反正常用的还是 next-web 那个。
    JCZ2MkKb5S8ZX9pq
    JCZ2MkKb5S8ZX9pq
    OP
    Mar 26, 2024
    5
    @Plutooo 另外 Next-web 好像不能记录对话的吧?它的对话我记得都在 local-storage 里,这样对话同步、统计、拉取历史等功能就有点麻烦。可能人家的设计意图一开始就想做纯单页面应用的。
    Plutooo
    Plutooo
    Mar 26, 2024
    6
    @JCZ2MkKb5S8ZX9pq 是的,没法远程拉取历史记录,如果要做到对话同步那么跟你说的不要输入 key 就冲突了
    ProxyXAI
    ProxyXAI
    Mar 27, 2024
    7
    完美的方案经常需要付费才行
    maymay5
    maymay5
    Mar 27, 2024
    8
    https://github.com/MayDay-wpf/AIBotPublic

    虽然不太能和预期,但是可以给你参考
    caomingjun
    caomingjun
    Mar 27, 2024 via Android
    9
    librechat
    优点是满足你的全部需求,对话存在数据库里,可以邮箱密码验证也可以 sso ,可以统一配置 apikey ,更新频繁。
    缺点是发送的信息没 markdown 渲染( gpt 的回复有渲染,因为他模仿的官方界面),似乎也不能限制轮数,且我个人感觉移动端适配略差。
    lekai63
    lekai63
    Mar 27, 2024 via iPhone
    10
    我也用的 librechat
    winterx
    winterx
    Mar 27, 2024
    11
    next-web 、lobeai 都支持直接设置 key
    jwangbyus
    jwangbyus
    Mar 27, 2024
    12
    你怎么解决用户花费 token 过多的问题
    CHTuring
    CHTuring
    Mar 27, 2024
    13
    直接用 Vercel 的这个吧 https://chat.vercel.ai/
    listkun
    listkun
    Mar 27, 2024
    14
    CheckTime
    CheckTime
    Mar 27, 2024
    15
    @JCZ2MkKb5S8ZX9pq #4 你用的时候是自己部署的吗?自己部署的时可以设置一系列环境变量,包括模型和 Key ,这样应该用户使用的时候就不需要输入 key 也可以使用了,当然我没试过看文档意思好像是这样。我现在有用别人部署好的,直接微信登录后就可以直接使用(这个应该是他自己实现的),GPT4 ,Claude3 部署的时候配置了的话就都可以用。

    https://chat-docs.lobehub.com/zh/self-hosting/start
    MapleEve
    MapleEve
    Mar 27, 2024
    16
    Lobe Chat ,docker 配置完所有默认 key ,不设置密码就可以所有人无限制访问了
    julyclyde
    julyclyde
    Mar 27, 2024
    17
    不如问问 gpt 看看怎么做
    Marwin
    Marwin
    Apr 9, 2024
    19
    我目前也在寻找类似的项目,我自己部署了一遍上面回复提到的四个项目
    chat-next-web 、lobeChat 应该是 UI 和交互体验都相对优秀的项目,但是目前都没有后端数据库功能,而且 chat-next-web 也没有专门做鉴权相关,两个都适合个人或者家庭使用,不太适合在公司使用,不过我看了下后续 lobeChat 会引入后端数据库,可以期待一波
    librechat 和 chat-web 个人感觉比较适合公司部署,librechat 支持后端数据库也就是可以跨端跨设备拉取对话记录,支持鉴权可以引用公司登录,chat-web 目前已经大概 5 个月没更新了吧,不推荐
    所以个人推荐 librechat 吧,详细的对比信息我写在我的 blog 了,https://winxuan.github.io/posts/casing-chatgpt-research/
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Privacy   ·   Solana   ·   2199 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 42ms · UTC 13:53 · PVG 21:53 · LAX 05:53 · JFK 08:53
    ♥ Do have faith in what you're doing.