感觉 chatgpt 的上下文老长了,好奇它是怎么做到的。难道 api 只是接口给的一个限制?
感觉 chatgpt 的上下文老长了,好奇它是怎么做到的。难道 api 只是接口给的一个限制?
|
Tspm1ecaJul 15, 2023
1
是的,openai 加的限制
|
|
customerJul 15, 2023
2
只是历史长,你用问答测试一下就会发现多几轮对话之后前面的内容就无法正确回答了
|
|
chris555Jul 17, 2023
3
超了会自动截断的
|
|
mmdsunJul 17, 2023 via iPhone
4
可能自己设计了个文本压缩算法吧
|
|
wujiang007Jul 18, 2023
5
gpt3.5 已经是 16k 了,GPT4 是 8k ,超了之后还是一样截断。
|