Thread Reader
PJ Wu

PJ Wu
@WuPingJu

Mar 2, 2023
2 tweets
Tweet

今天用了一下 ChatGPT 的 API ,目前理解是,若要達成 ChatGPT 網頁版的「維持對話記憶」的功能,好像必須要把先前的結果包起來,變成新的輸入內容的一部分? 這樣感覺起來比網頁版本還要不實用一點? 不過以單次對話的需求來說,就很好,而且真的是好便宜... 有人有相關的經驗想分享或討論嗎~

感謝 Twitter 演算法,馬上看到一篇在討論 x.com/zach_osaka/sta 那以目前來說,要真的做到維持對話脈絡的話,感覺需要設計一下整個流程,然後用的 tokens 應該也會非常多(等於對話一陣子以後,每次對話都會用上三四千個 tokens )
研究了一下午ChatGPT API, 发现坑点有两个, 一个是token计算是双向收费的, 也就是你发给他的和他发给你的加起来一起收费; 另一个就是它不能自动维护对话, 每次要把所有的对话内容+新增内容一起发给他......也就是说几个来回对话很快就能消耗大量的费用.
PJ Wu

PJ Wu

@WuPingJu
Customer Experience Manager @Heptabase 我寫的信:https://t.co/nSOxUWXveO
Follow on 𝕏
Missing some tweets in this thread? Or failed to load images or videos? You can try to .