Kiểm tra sự cố ngắt kết nối

Tạo ảnh là một yêu cầu dài(10–60 giây), việc ngắt kết nối phần lớn là dotimeout của phía client hoặc lớp trung gian gây ra. Hãy kiểm tra theo thứ tự dưới đây.

Danh sách kiểm tra

1. Timeout của HTTP client:requests / axios / fetch mặc định thường là 30 giây, thấp hơn thời gian tạo ảnh thì chắc chắn sẽ bị ngắt. Hãy thống nhất đổi thành ≥120 giây:

   client = OpenAI(base_url="...", api_key="...", timeout=180)

2. Timeout của reverse proxy tự dựng:nginx mặc định proxy_read_timeout 60s, cũng cần nới rộng:

   proxy_read_timeout 180s;
   proxy_send_timeout 180s;

3. Giới hạn kích thước body phản hồi:khi trả về base64, phản hồi có thể lên tới vài MB, hãy kiểm tra client_max_body_size / giới hạn body của proxy và gateway;

4. Mạng công ty / VPN:một số proxy doanh nghiệp sẽ cắt các kết nối dài, hãy đổi sang mạng kết nối trực tiếp để so sánh;

5. Đồng thời quá cao:khi có quá nhiều yêu cầu đồng thời, một số yêu cầu sẽ phải xếp hàng, tổng thời gian bị kéo dài rồi kích hoạt timeout—— hãy giảm đồng thời hoặc thêm hàng đợi.

Cách xử lý đúng sau khi bị ngắt

• Yêu cầu thất bạikhông bị tính phí(tạm giữ sẽ tự động hoàn lại), có thể yên tâm thử lại;
• Dùng retry với backoff theo cấp số nhân(5s → 15s → 45s), đừng gửi lại dồn dập ngay lập tức;
• Lỗi 5xx thỉnh thoảng trong giờ cao điểm thuộc loại dao động từ upstream, thử lại 1–2 lần thường sẽ khôi phục, xemError codes and retries.

Vẫn chưa giải quyết được

Kiểm tra trạng thái của yêu cầu đó trong “nhật ký” của bảng điều khiển; đính kèm thời gian yêu cầu và tên model để liên hệ bộ phận hỗ trợ kiểm tra vấn đề ở phía kênh.