最近用OpenAI的API做项目,隔三差五就报502/504 Gateway Timeout,尤其是下午到晚上高峰期,几乎没法正常跑。
试过换了几个endpoint,设了重试机制,该超时还是超时。日志里一堆timeout error看得头疼。
有没有老哥也遇到这种情况?是线路问题还是他们服务器本身就不稳定?有什么好的解决思路分享一下。
最近用OpenAI的API做项目,隔三差五就报502/504 Gateway Timeout,尤其是下午到晚上高峰期,几乎没法正常跑。
试过换了几个endpoint,设了重试机制,该超时还是超时。日志里一堆timeout error看得头疼。
有没有老哥也遇到这种情况?是线路问题还是他们服务器本身就不稳定?有什么好的解决思路分享一下。
换个节点试试,我用日本线路稳很多
你是不是请求频率太高了,看看有没有触发rate limit
直接ping一下看延迟多少,超过300ms基本就废了
加个队列慢慢发,别一次性怼上去
我这边也是,最近一周特别严重,之前还好