mooncakeSec
V2EX  ›  OpenAI

使用了 copilot,本地写的代码出现在了 chatgpt 上

  •  2
     
  •   mooncakeSec · Feb 16, 2023 · 8845 views
    This topic created in 1374 days ago, the information mentioned may be changed or developed.

    今天发生的一件事还是蛮让我后怕的,正式决定拥抱 AI ,刚用 copilot 写完一个小模块,函数名和注释都是我自己写的,后面需要修改,就顺便问了一下 chatgpt 。 没想到他给出的代码和我本地的连同注释和名称一模一样。 一时间让我不寒而栗,我自己在 copilot 里没勾选分享数据,没有有严格的抓包分析验证

    Supplement 1  ·  Feb 16, 2023
    这条不是石锤贴,这里主要还是比较后怕,可能标题党了,抱歉。我自己后面简单了做了一下验证,写一段包含自己 id 的注释,然后定义了一个 id 的函数,我输入注释 chatgpt 并没有给出对应的代码。
    巧合的可能性也蛮大,不过确实蛮吓人的,因为我对 copilot 生成的代码改了挺多,后面发现连同注释都出现的同时,真的惊了。
    顺便问一句,如果大家使用 chatgpt 问比较个性化的问题,下一个人提问 chatgpt 的时候,chatgpt 会不会使用你调教过的内容呢?
    Supplement 2  ·  Feb 16, 2023
    代码不太方便放,很多朋友提了训练数据的问题,chatgpt 是生成内容,21 年前的素材足够他生成任何内容了,有没有可能通过用户的使用数据和反馈,来调整自己的生成内容。
    比如说刚开始 chatgpt 生成的内容是错误的,用户引导他生成了正确的答案,以后 chatgpt 会不会改进,最后直接生成正确的答案。
    我自己没有抓包严格分析,单纯脑洞,欢迎大家讨论
    37 replies  •  2023-02-16 19:20:37 +08:00
    ersic
    ersic
    Feb 16, 2023
    1
    不太可能吧,chatgpt 的数据不是截止到 2021 年吗?
    hakim
    hakim
    Feb 16, 2023
    2
    不敏感的话,贴一下代码段大家一起看看?
    lkxjlkejwr
    lkxjlkejwr
    Feb 16, 2023 via Android❤️6
    3
    恭喜你和 ai 55 开 2333 。
    IDAEngine
    IDAEngine
    Feb 16, 2023❤️1
    4
    不太可能,毕竟不是实时训练的。估计是你写的代码也是其他地方参考了思路的
    registerrr
    registerrr
    Feb 16, 2023❤️1
    5
    55 开,豹笑了啊🤣🤣
    AllenTsui
    AllenTsui
    Feb 16, 2023❤️10
    6
    有没有可能,你本身是一个 chatgpt ,装在人脑里了。
    icyalala
    icyalala
    Feb 16, 2023
    7
    如果你想说 "copilot 把你的代码分享给了 chatgpt 然后 chatgpt 记住了" 那绝对不可能。
    chatgpt 没有连网功能,训练用的数据集只到 2021 年。你和它给的代码一样,只能说你的想法别人早就有过了。
    cmu2chert
    cmu2chert
    Feb 16, 2023
    8
    不可能。
    dreasky
    dreasky
    Feb 16, 2023
    9
    有没有可能你当时写的代码是 ctrl+v 的
    qsnow6
    qsnow6
    Feb 16, 2023
    10
    先不说有没有联网功能了,刚用的代码就被当成语料库训练了?实时训练的开销可不小,目前还没有产品能做到吧
    kop1989smurf
    kop1989smurf
    Feb 16, 2023
    11
    说明你的代码撰写思路和大多数人的一致。
    虽然你认为你的函数名字、变量名字是你自己编的,但是通过上下文,业务,功能,基本上能猜个七七八八。

    btw:copilot 一样出自 openAI ,模型基于 GPT-3 结合 github 上的开源代码进行训练所获得。
    kop1989smurf
    kop1989smurf
    Feb 16, 2023❤️1
    12
    而且这也顺道证明了,很多开发工作,真的就是在无限的 ctrl+v ,它们在统计学上的重复率非常高。
    jenlors
    jenlors
    Feb 16, 2023
    13
    是的,用了 copilot 之后,我感觉我想要的变量命名什么的它完全能猜出来
    alne
    alne
    Feb 16, 2023
    14
    说明 chatgpt 开始上 V2EX 装人类发帖了 /doge
    22too
    22too
    Feb 16, 2023
    15
    有没有可能,你是抄写的 chatgpt ,然后自己忘记了。
    以为是 chatgpt 偷窃你的成果?
    krixaar
    krixaar
    Feb 16, 2023
    16
    你今天能想到的代码变量注释和 2021 年之前的一样,说明人类的本质就是复读机……
    mooncakeSec
    mooncakeSec
    OP
    Feb 16, 2023
    17
    @icyalala 训练数据可能是之前的,但是模型的输出,不会随着输入反馈改变吗(回答的点赞),另外 chatgpt 一直在自我迭代吧,这里只是一个讨论,我自己没有严格的验证
    mooncakeSec
    mooncakeSec
    OP
    Feb 16, 2023
    18
    @qsnow6 从讨论的角度看,不用实时训练数据,chatgpt 生成的内容会根据用户的反馈改变的,maybe 根据用户使用的数据就可以完成更新
    ponycoding3
    ponycoding3
    Feb 16, 2023❤️1
    19
    看来开发真就是 cv
    Cloud9527
    Cloud9527
    Feb 16, 2023
    20
    gpt 的数据模型没可能更新这么快把,除非 copilot 和 gpt 数据互通,但不是一家公司也不可能啊。
    xujinkai
    xujinkai
    Feb 16, 2023 via Android
    21
    可能真的只是五五开🤣
    我自己的经验 copilot 经常比我自己还懂😂
    OnlyShimmer
    OnlyShimmer
    Feb 16, 2023❤️1
    22
    说明什么?说明你的代码质量跟 AI 五五开.作为渣渣前端经常用 chatgpt 优化代码.
    ytmsdy
    ytmsdy
    Feb 16, 2023
    23
    前几天面试一个工程师,在 live 的 coding 。我在 leetcode 上随便找了 2 个简单题,想看看他的编程能力。
    然后他问我能不能用 copilot ,我也没多想,说可以用。
    他在 vs 里,把题目的内容用注释写了一下,还没等注释写完,coplit 就提示了一大堆的代码。
    快速扫了一眼,基本上大差不差。
    反正相当的蛋疼。
    QuixoteCoding
    QuixoteCoding
    Feb 16, 2023
    24
    @ytmsdy 面试 coding 用 copilot 那还面个啥...
    otakustay
    otakustay
    Feb 16, 2023
    25
    1. 代码出现在 ChatGPT:不可能,ChatGPT 不会读新数据
    2. chatgpt 会不会使用你调教过的内容呢:不会
    3. 有没有可能通过用户的使用数据和反馈,来调整自己的生成内容:会,但要发布新的模型版本,版本不变当前的模型就是 21 年的数据
    4. 事实上你拿 davinci 模型模拟 ChatGPT ,就有 22 年的数据了,效果也很接近
    he15hiss
    he15hiss
    Feb 16, 2023 via iPhone
    26
    有没有可能,你也是 AI ,和 chargpt 一个模型,/狗头
    shinession
    shinession
    Feb 16, 2023
    27
    copilot 使用经验来看, AI 已经会根据上下文和习惯等, 给出变量名和注释了, 而且看起来就像是自己写的一样, chatGPT 应该进化过, 有类似的体验不奇怪
    penzi
    penzi
    Feb 16, 2023 via Android
    28
    醉了,copilot 和 chatgpt 就是 gpt 的两个分支...都是 openai 做的,生成结果一样有什么好奇怪的吗?
    zhchaos
    zhchaos
    Feb 16, 2023
    29
    @ersic 是的 问过 chatgpt ,数据到 2021 年
    Tink
    Tink
    Feb 16, 2023
    30
    贴一下注释看看
    nojsja
    nojsja
    Feb 16, 2023
    31
    copilot 会根据代码上下文,模仿你的编程风格
    galaxychan
    galaxychan
    Feb 16, 2023
    32
    [免费获取] OpenAi ChatGPT 智能聊天机器人账号共享 2 月 16 日批次,免费直接体验 chatgpt ,欢迎来到查特世界。话不多说,微信搜索关注公众号:

    查特世界


    聊天窗口回复 chatgpt 可领取更多 ChatGPT 官网共享账号
    NSAgold
    NSAgold
    Feb 16, 2023
    33
    @Livid #32 的 @galaxychan 无意义 AD
    ThirdFlame
    ThirdFlame
    Feb 16, 2023
    34
    #32 在各个帖子里面回复相同的内容,是公众号推广。
    @Livid @Kai @Olivia @GordianZ @sparanoid @Girlphobia
    kadycui
    kadycui
    Feb 16, 2023
    35
    有没有一种可能, 这个帖子就是 ChatGPT 发的.......
    vitoaaazzz
    vitoaaazzz
    Feb 16, 2023
    36
    copilot 的实际体验如何
    mooncakeSec
    mooncakeSec
    OP
    Feb 16, 2023
    37
    @vitoaaazzz 还可以,我自己不怎么写 python 基本只需要我稍微改改,有的时候提示会比较烦,我使用的还不够熟练,我应该多适应适应,提示这些,熟练了会有很大提升
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Privacy   ·   Solana   ·   1835 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 78ms · UTC 04:49 · PVG 12:49 · LAX 20:49 · JFK 23:49
    ♥ Do have faith in what you're doing.