Thread Reader
P.J. Wu 吳秉儒

P.J. Wu 吳秉儒
@WuPingJu

Mar 2, 2023
2 tweets
Twitter

今天用了一下 ChatGPT 的 API ,目前理解是,若要達成 ChatGPT 網頁版的「維持對話記憶」的功能,好像必須要把先前的結果包起來,變成新的輸入內容的一部分? 這樣感覺起來比網頁版本還要不實用一點? 不過以單次對話的需求來說,就很好,而且真的是好便宜... 有人有相關的經驗想分享或討論嗎~

感謝 Twitter 演算法,馬上看到一篇在討論 twitter.com/zach_osaka/sta… 那以目前來說,要真的做到維持對話脈絡的話,感覺需要設計一下整個流程,然後用的 tokens 應該也會非常多(等於對話一陣子以後,每次對話都會用上三四千個 tokens )
研究了一下午ChatGPT API, 发现坑点有两个, 一个是token计算是双向收费的, 也就是你发给他的和他发给你的加起来一起收费; 另一个就是它不能自动维护对话, 每次要把所有的对话内容+新增内容一起发给他......也就是说几个来回对话很快就能消耗大量的费用.
P.J. Wu 吳秉儒
喜歡嘗試不同生產力工具並分享使用心得 相關內容可以看: Pin 起來:https://t.co/RRfex5bZZH 電子報:https://t.co/mGiJ3Kpliy Mastodon:@pj@pkm.social
Follow on Twitter
Missing some tweets in this thread? Or failed to load images or videos? You can try to .