streaming
Catatan teknis seputar web development, DevOps, dan integrasi AI.
5 artikel
- 16.42backend
CTA_FLAG Terbelah di Tengah Stream SSE
Regex strip per delta nggak bisa melihat marker yang terbelah dua potongan. Pelajaran boundary matching di streaming SSE.
TL;DR: Bug ini terjadi karena regex pembersih CTA_FLAG: YES dijalankan per delta, sementara marker sering terbelah di dua potongan stream sehingga lolos tersimpan ke cache Redis. Perbaikannya strip ulang di string gabungan setelah stream selesai. Pelajarannya: cek invariant di output akhir, dan gunakan structured output JSON untuk solusi kanonis.
#sse#streaming#regex - 15.29ai
Marker CTA_FLAG: YES yang Bocor ke Chat
Regex strip di akhir string nggak cukup: marker CTA dari LLM bisa lolos lewat tengah teks dan jalur streaming SSE sebelum post-processing jalan.
TL;DR: Marker CTA_FLAG: YES bocor ke user lewat dua jalur: LLM naruh marker di posisi acak yang luput dari regex ber-anchor $, dan jalur streaming SSE melewati post-processing. Patch-nya buang anchor dan strip marker di stream juga. Fix fundamentalnya: tombol CTA dirender dari field terstruktur, bukan ditumpang ke teks LLM lalu di-parse regex.
#llm#streaming#sse - 16.30ai
Satu Stream SSE, Dua Versi Jawaban
Jawaban AI di search dialog butuh dua versi: ringkasan cepat dan penjelasan lengkap. Satu SSE stream dari LLM, tapi UI perlu split — caranya pakai marker-based parsing.
#sse#ai#streaming - 12.48frontend
Dialog Cari Jadi Thread: Satu Array Ganti Tujuh useState
Jawaban AI pertama lenyap tiap nanya lagi. Perbaikannya cuma satu array ThreadEntry plus functional update, bukan library state management.
#react#nextjs#sse - 12.22ai
Jawaban AI Streaming di Blog Lewat fetch Biasa
EventSource nggak bisa POST. Jawaban AI di search dialog akhirnya jalan pakai fetch biasa, parser SSE manual, dan satu jebakan CRLF.
#sse#fastapi#nextjs