[2/7] 首先讲讲产品,这三个月下来,我非常强的一点感触是,多做新功能!
每一个大功能都能带来一些新的用户群体:8月上新的知识库,9月上的 Artifacts ,都带来了很大一波增量用户。而由于 10 月没有做新功能,单纯做了订阅相关的优化,同时推广也相对较少,因此增速可以看到明显放缓了。
因此,我们后续会努力把迭代节奏做到一个月一个大 feature,让大家能直观地感受到产品的进展。而这个月的特性将会是很多人期待的「分支对话」~(我自己也想要很久了

)
[3/7] 这段期间,我认为我们一个长足的进步在于 API Gateway 部分能力的全面提升。
借助 LiteLLM 这个顶级的开源项目,我们现在的 AI API 稳定性得到了极大的保障。LiteLLM 不但可以支持多渠道负载均衡,按需控制切流比例,也完美支持失败重试与报错时 fallback

以 Claude 3.5 sonnet 为例,我们目前会同时用两个 tier 4 的官方直连 API key 作为负载均衡,如果遇到负载不足的情况下自动 fallback 到 AiHubMix 的官转渠道。目前只要 Claude 官方不挂,我们就可以确保 Claude 的模型渠道稳定性能达到 100%

(而为了解决官方 API 可能会挂的问题,我们近期也在和 GCP 官方联系开通账号,准备作为 Anthropic 官方 API 挂到以后的兜底渠道

)
同时,上个月我们也花了一点时间建了一个 Kuma ,配全了 AI 模型监控,针对每个模型都做好了真实请求的心跳监控。由于我们大部分渠道都是直连的官方 API,因此通过心跳测试可以看到,平均请求延迟低至 1s 左右

。让终端用户的对话体验得到有效保障

[4/7] 然后再来聊聊产品的成本。
和很多互联网创业者想法不同,其实我们的成本意识还挺强的。毕竟作为一个小团队,也没有可以烧的投资款,因此我们在初期就做了非常多有关成本结构的测算。
假设新增了 10w 新用户,会消耗多大的流量、计算成本、鉴权成本、存储成本,体现到 Vercel、Neon、Clerk、Cloudflare 等平台上是需要付出多少成本,在这个定价上翻多少作为我们的利润空间,最终给出我们的销售定价。
因此我们现在就可以非常确信,如果哪天我们的产品流量突然爆炸式增长 10 倍,现有基础设施不做任何变动的情况下仍然可以接住这些流量,并且能将利润一并扩大 10 倍。
[5/7] 拿 Clerk 为例,实际我们在 Cloud 上跑了才发现,Clerk 几乎可以算是做出海 SaaS Auth 的最佳实践,而且它的计费完全没有大家想的那么夸张。
很多人觉得 Clerk $0.02 MAU 的收费非常贵,这要是 2w MAU 了不得一个月再来 100 刀? 10w MAU 了不得 2千美金?合着给 Clerk 打工么?但事实上根本不是这样。
Clerk 真正计费的 MAU,是按照「有第二次登录」的逻辑来统计的。大部分的用户,可能第一次上你的产品来看一眼就走了,再也不会回来,而这部分用户将不会被 Clerk 收费。只有真正持续活跃的用户,才会被 Clerk 作为计费的 MAU。
拿我们实际在跑的 Cloud 来说,截止目前我们总共有了 2w4 的注册用户,但 Clerk 实际给我们计费的 MAU 只有 3000 左右。
这也就意味着,如果真正打满 Clerk 的 10k MAU 用量,我们的总用户可能需要达到 8w。而按现有的付费率来看,再翻 3 倍用户规模妥妥够我们产出稳定的盈余现金流了。
而且在 Clerk 这样的成本模型下,我们天然就得到了用户行为漏斗的关键节点数据(注册 -> 活跃 -> 付费),而这套漏斗数据如果用自建 auth ,估计还是需要额外付出一些成本的。
至于其他基础服务( Neon / Vercel 等)的成本拆解,后续我准备再单独开一个 Thread 和大家聊聊,敬请期待~
[6/7] 最后再来聊聊支付。
从 8 月开始我们出现了第一起风控问题,有两笔支付订单发起了争议,后面发现就是有人盗刷信用卡,到目前已经 3 笔了。国外的支付环境真的不如国内这么安全,这三笔盗刷的争议已经让我们损失了近 100+ 美金

。
因此强烈建议大家 Stripe 的 Radar 一定要开起来,否则大概率会遇到盗刷支付和争议等问题。 当 Stripe 提示你需要审核某些支付单时,建议第一时间向该账号发起邮件问询,如果一定时间内没有答复,直接发起退款,并标记欺诈,这样可以大大降低后续争议的可能性。
另外,税务开始变成一个我们需要关注的问题,目前我们正在逐一踩坑注册中(英国、欧盟等),等有了完整经验后再和大家分享~
[7/7] 那以上就是这三个月以来新的收获与感悟,这条路没有我们想的那么平坦,但好在也磕磕碰碰地趟了过去。
最后仍然欢迎大家体验 LobeChat ,无论是开源版还是 Cloud (
http://lobechat.com),批评和建议我们都一并接受,并争取做的更好

等我们到了下一个里程碑

,再和大家分享新的感悟~