· 5 phút đọc
an-ninh-ai
155 phản hồi bị lộ: bên trong lỗi KV-cache của GLM-5.3 trên Cloudflare
GLM-5.3 trên Cloudflare quảng cáo context window 1,05 triệu token nhưng cache thực chỉ chứa 681 nghìn. Khoảng cách đó, cộng một lỗi trong SGLang, đã làm lộ 155 phản hồi xuyên tenant. Tường trình sự cố nói gì, và bài học cho ai đang vận hành inference multi-tenant.
Đọc tiếp