Gỡ lỗi SSE

Server-Sent Events (SSE) là một công nghệ giao tiếp thời gian thực được xây dựng dựa trên giao thức HTTP, cho phép máy chủ đẩy các bản cập nhật tới máy khách thông qua một kết nối một chiều, duy trì liên tục. SSE thường được sử dụng để truyền trực tuyến phản hồi của mô hình AI, thông báo trực tiếp và nguồn cấp dữ liệu thời gian thực.

Với SSE, người dùng có thể ngay lập tức xem quá trình suy luận của các mô hình lập luận và nội dung được tạo khi chúng được truyền trực tuyến từ máy chủ.

Điều kiện tiên quyết

Apidog phiên bản 2.3.10 trở lên

Một HTTP endpoint trả về Content-Type: text/event-stream

Khởi tạo kết nối SSE

Tạo endpoint mới

Trong Apidog, tạo một dự án HTTP mới, thêm một endpoint mới và nhập URL cho endpoint của mô hình AI hoặc máy chủ SSE.

Gửi yêu cầu

Sau khi gửi yêu cầu, nếu response header Content-Type bao gồm text/event-stream, Apidog sẽ tự động phân tích dữ liệu được trả về dưới dạng sự kiện SSE.

Xem phản hồi theo thời gian thực

Xem thông báo theo thời gian thực trong chế độ xem Timeline của bảng phản hồi, nơi nội dung được hiển thị ở định dạng ngôn ngữ tự nhiên.

Tự động hợp nhất thông báo

Yêu cầu về phiên bản

Cần Apidog phiên bản 2.7.14 trở lên để sử dụng chức năng tự động hợp nhất.

Apidog tích hợp sẵn hỗ trợ cho các mô hình AI phổ biến, đồng thời tự động nhận dạng và hợp nhất các phản hồi truyền trực tuyến theo các định dạng sau:

Định dạng	Mô tả
Tương thích OpenAI API	Được sử dụng bởi phần lớn các nhà cung cấp mô hình AI
Tương thích Gemini API	Định dạng mô hình Gemini của Google
Tương thích Claude API	Định dạng mô hình Claude của Anthropic
Tương thích Ollama API	Định dạng JSON Streaming (NDJSON) cho các mô hình AI được triển khai cục bộ

Khi phản hồi của mô hình AI khớp với bất kỳ định dạng nào trong số này, Apidog sẽ tự động hợp nhất các đoạn thông báo thành một câu trả lời hoàn chỉnh, với nội dung được xem trước ở định dạng Markdown.

Hỗ trợ mô hình lập luận

Đối với một số mô hình nhất định, chẳng hạn như DeepSeek R1, Apidog hiển thị quá trình suy luận của mô hình trong timeline, mang lại chế độ xem rõ ràng và trực quan hơn về lập luận của AI.

Tùy chỉnh quy tắc hợp nhất

Nếu tính năng Auto-Merge không hoạt động đúng cách, bạn có thể cấu hình các quy tắc trích xuất tùy chỉnh dựa trên trường hợp sử dụng cụ thể của mình.

Cấu hình quy tắc trích xuất JSONPath

Khi SSE trả về nội dung JSON không tuân theo các quy tắc nhận dạng tích hợp sẵn (OpenAI, Gemini, Claude, v.v.), hãy cấu hình thủ công JSONPath để trích xuất nội dung cần thiết.

Ví dụ về phản hồi SSE:

data: {"choices":[{"index":0,"message":{"role":"assistant","content":"H"},"logprobs":null,"finish_reason":"stop"}]}

data: {"choices":[{"index":0,"message":{"role":"assistant","content":"i"},"logprobs":null,"finish_reason":"stop"}]}

Cấu hình JSONPath:

Để trích xuất trường content, hãy sử dụng:

$.choices[0].message.content

Phân tích JSONPath:

Thành phần	Mô tả
`$`	Gốc của đối tượng JSON
`choices[0]`	Phần tử đầu tiên của mảng `choices`
`message.content`	Thuộc tính `content` trong đối tượng `message`

Kết quả trích xuất:

Hi

Sử dụng script hậu xử lý

Đối với các thông báo SSE không phải JSON, bạn có thể:

Sử dụng post processor scripts để xử lý dữ liệu theo cách thủ công

Liên hệ technical support để cung cấp phản hồi về định dạng mô hình bạn đang sử dụng nhằm xem xét khả năng hỗ trợ tích hợp sẵn trong tương lai

FAQ

Cần làm gì nếu timeline SSE không hiển thị thông báo?

Sự cố này thường xảy ra khi phản hồi của máy chủ không tuân theo hướng dẫn về định dạng SSE. Định dạng thông báo SSE tiêu chuẩn yêu cầu:

Nội dung thông báo phải xuất hiện sau data:

Mỗi thông báo phải được phân tách bằng hai ký tự xuống dòng (một dòng trống giữa các thông báo)

Để biết thêm chi tiết về định dạng thông báo SSE, hãy tham khảo tài liệu MDN - Sử dụng Server-Sent Events.

Tìm hiểu thêm

Cách sử dụng Deepseek API (R1 & V3)？

Hướng dẫn đầy đủ về cách lấy khóa DeepSeek API và gỡ lỗi API.

Điều kiện tiên quyết#

Khởi tạo kết nối SSE#

Tự động hợp nhất thông báo#

Hỗ trợ mô hình lập luận#

Tùy chỉnh quy tắc hợp nhất#

Cấu hình quy tắc trích xuất JSONPath#

Sử dụng script hậu xử lý#

FAQ#

Tìm hiểu thêm#

Điều kiện tiên quyết

Khởi tạo kết nối SSE

Tự động hợp nhất thông báo

Hỗ trợ mô hình lập luận

Tùy chỉnh quy tắc hợp nhất

Cấu hình quy tắc trích xuất JSONPath

Sử dụng script hậu xử lý

FAQ

Tìm hiểu thêm