Thread Reader
Toggle theme
PJ Wu
@WuPingJu
Mar 2, 2023
2 tweets
Tweet
Share
Download
今天用了一下 ChatGPT 的 API ,目前理解是,若要達成 ChatGPT 網頁版的「維持對話記憶」的功能,好像必須要把先前的結果包起來,變成新的輸入內容的一部分? 這樣感覺起來比網頁版本還要不實用一點? 不過以單次對話的需求來說,就很好,而且真的是好便宜... 有人有相關的經驗想分享或討論嗎~
感謝 Twitter 演算法,馬上看到一篇在討論
https://
x.com/zach_osaka/sta
tus/1631176910863757313
…
那以目前來說,要真的做到維持對話脈絡的話,感覺需要設計一下整個流程,然後用的 tokens 應該也會非常多(等於對話一陣子以後,每次對話都會用上三四千個 tokens )
逢坂隆也 Zachary
@zach_coredump
Mar 02 23
View on Twitter
研究了一下午ChatGPT API, 发现坑点有两个, 一个是token计算是双向收费的, 也就是你发给他的和他发给你的加起来一起收费; 另一个就是它不能自动维护对话, 每次要把所有的对话内容+新增内容一起发给他......也就是说几个来回对话很快就能消耗大量的费用.
Show this thread
PJ Wu
@WuPingJu
Customer Experience Manager @Heptabase 我寫的信:https://t.co/nSOxUWXveO
Follow on 𝕏
twitter-thread.com/t/1631230458871832580
Missing some tweets in this thread? Or failed to load images or videos? You can try to
force a refresh
.