小团队一起用,有人一天问两百个问题有人一周才问一次。用量差别这么大按人头平分不太公平,有什么好的计费方案
装个token统计中间件 按用量算钱
我们直接按token数分 月底导出统计
一天两百个问题是在摸鱼吧
公司的钱还算这么细?
弄个shared pool 设个人均上限就行
litellm有用户级别的用量统计 可以看看
别搞太复杂 AA完事
直接AA省事,反正差不了多少
小团队一起用,有人一天问两百个问题有人一周才问一次。用量差别这么大按人头平分不太公平,有什么好的计费方案
装个token统计中间件 按用量算钱
我们直接按token数分 月底导出统计
一天两百个问题是在摸鱼吧
公司的钱还算这么细?
弄个shared pool 设个人均上限就行
litellm有用户级别的用量统计 可以看看
别搞太复杂 AA完事
直接AA省事,反正差不了多少