llm

Label RINGKAS bocor ke gelembung chat AI. Solusinya bukan prompt lebih ketat, tapi sanitasi input dan output di dua ujung pipeline.

TL;DR: Label prompt seperti RINGKAS: bocor ke UI karena model nggak patuh format, dan larangan tambahan malah bikin pelanggarannya makin kreatif. Solusinya dua lapis: sanitasi teks knowledge base sebelum masuk prompt, plus rendering output via react-markdown dan rehype-sanitize yang hanya ngizinkan elemen dari allowlist. Pelajarannya: prompt cukup untuk arah kasar, kontrol andal ada di input dan output, bukan daftar larangan.

Audit internal 11 temuan di pipeline chat AI, dari cache key sampai sanitasi input.

Chat AI yang nyambung tanpa session server: frontend pegang riwayat di localStorage, backend susun ulang prompt dengan char-budget.

LLM router mati saat streaming jawaban. Yang muncul: event meta fallback lalu pengunjung tetap dapat jawaban dari cache atau knowledge.

Ketik hai ke pencarian AI dulu dapat error no_results. Biang keladinya batas panjang kata FULLTEXT, bukan prompt yang salah.

Ganti LIKE dengan FULLTEXT index MariaDB plus ekspansi query via LLM: dua lapis pencarian yang tetap jalan walau index gagal atau LLM mati.