V2EX = way to explore
V2EX 是一个关于分享和探索的地方
Sign Up Now
For Existing Member  Sign In
V2EX  ›  rogerer  ›  全部回复第 5 页 / 共 7 页
回复总数  122
1  2  3  4  5  6  7  
2025 年 2 月 28 日
回复了 jingyijun 创建的主题 程序员 实验室 GPU 集群管理经验分享与问题探讨,求建议
@jingyijun 需要找个本科师弟来做这个维护哈哈
2025 年 2 月 28 日
回复了 fangyex 创建的主题 程序员 Cursor 和 Windsurf,哪个更好?
@alexsz 我看 windsurf 的 credit 是有限的,虽然 cursor 也有 500 条 high speed 的限制,但好歹还能 slow speed 凑活用。这个真正用的时候会影响很大吗?
Cursor, Windsurf 体验最佳。通义灵码这种都是有点玩票性质,就直接用了补全能力。
2025 年 2 月 20 日
回复了 Suger828 创建的主题 程序员 请教大模型微调
1.全量一般没人调得动,除非你训的是非常小的模型。LoRA 做的事情是在原有模型的旁边搞一条 Pathway ,这样不用动原有模型的参数,也能让模型去适配一些特定的任务,属于是没有办法的办法。
DPN 应该是指强化学习来调整 LLM 相关的技术,这个现在叫 post-training ,用来增强模型的推理能力。

2.function call ,其实应该也能通过微调的技术来做,比如给模型一些模板奖励信号,这样更输出可能会更规整。
2025 年 2 月 20 日
回复了 oldManNewThought 创建的主题 程序员 求大佬指点, ai 加知识库的内部原理
嵌入模型是用来检索的。LLM 依赖的 Transformer 架构的时空复杂度是和序列长度 O(N^2)的,所以不太能把知识库所有的语料都放进去。

静态嵌入模型在这里本质上是做语义相似度,把和你要查询的内容相关的文本找出来再喂给 LLM ,因为静态嵌入模型和上下文无关,所以预先计算成向量,然后再和你的查询转换成的计算相似度就可以了。

另一件事情是,LLM 并不是输入越多信息越好,所以用另一个模型帮它做精简。
2025 年 2 月 20 日
回复了 jlak 创建的主题 程序员 感觉编程辅助工具都在卷 Agent 而不是补全
补全的能力更多依赖 foundation model
2025 年 2 月 19 日
回复了 voidmnwzp 创建的主题 程序员 ai 这是真要把前端干死吧
@pureGirl 确实没必要分了,以前分前后端是一个人能学的知识有限,现在大家的心智负担小了不少
2025 年 2 月 19 日
回复了 voidmnwzp 创建的主题 程序员 ai 这是真要把前端干死吧
@mumbler 我最近用 cursor 复现论文,效果非常好。你说推荐系统,一整套系统让 AI 直接来做上很难的,exposure bias 嘛。但如果是学术界用来复现论文或者快速实现 idea ,非常好用,基本上也不需要怎么改。这可比前端用 cursor 要舒服多了。
2025 年 2 月 19 日
回复了 IAmSimon 创建的主题 程序员 讨论一下 Ai 辅助编程的痛点
建议给 AI 写文档,你要什么功能,具体的定义,期望的表现都给 AI 写好。
2025 年 2 月 3 日
回复了 Suger828 创建的主题 程序员 如何进行大模型知识蒸馏
@dianso 蒸馏还好,要去训练的模型不是 LLM 的规模。
---
现在大家用 LLM 的结果去蒸馏,蒸馏学习的目的是让更大的模型作为小模型的 supervisor ,这样能让小模型学到大模型的能力,所以直接学输出也是可以的。
2025 年 1 月 30 日
回复了 pizone 创建的主题 Google google 的 gemini-2.0-flash-thinking 这个推理模型是不让用了吗
@ttgo 2.0 的能力还挺强的
2025 年 1 月 27 日
回复了 pureGirl 创建的主题 程序员 需要高并发读取 xlsx 文件存入数据库怎么处理比较好
@pureGirl 那就做优先级队列?把耗时长的任务放后面一点,并行处理 xlsx 也没有太多特殊的操作。
2025 年 1 月 25 日
回复了 ano 创建的主题 程序员 是不是 cursor 的重点是 sonnet 3.5
不完全是,prompt 怎么写,constrained decoding 怎么做(猜测应该是用了这个技术)还是挺关键的。

trae 现在就存在一个问题是 apply edit 经常没办法 apply 得很精准,猜测他们的实现是把生成的代码和当前文件全部送给 LLM ,然后拿 LLM 的输出来输出,这种稳定性保证不了。
2025 年 1 月 25 日
回复了 timerring 创建的主题 程序员 尝试了 trae 后,我为 cursor 续费的心有点动摇了...
有点像是年前端出来的半成品,而且魔改 vscode 得很厉害,以至于第三方的 theme 全部不让用。
trae 这个名字发音也不如 marcode ,传播度可能会受影响。
2025 年 1 月 25 日
回复了 rogerer 创建的主题 程序员 腾讯医典的静态服务被滥用?
@Yanlongli 还是开发的责任,把 webp 解析成 HTML 。
2025 年 1 月 24 日
回复了 rogerer 创建的主题 程序员 腾讯医典的静态服务被滥用?
需要使用微信打开
@dabingbing 你怎么和 cuda 交互?还是得让 C++去充当业务语言和 LLM 的中间件吧
2025 年 1 月 23 日
回复了 Strive123456 创建的主题 程序员 前端开发如何走的更远?
@murmur webgl 和 webgpu 可以用来做端侧推理,不仅仅是做图形学的事情。
@Nnq 航司超售是一种售票策略,避免有人临时改签。
我甚至觉得 AI 带来的改变不如低代码带来的改变大...
1  2  3  4  5  6  7  
About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Solana   ·   5639 Online   Highest 6679   ·     Select Language
创意工作者们的社区
World is powered by solitude
VERSION: 3.9.8.5 · 31ms · UTC 06:09 · PVG 14:09 · LAX 23:09 · JFK 02:09
♥ Do have faith in what you're doing.