Tujuan Pembelajaran

Memahami arsitektur content safety: input guard, output guard, mid-stream guard
Mampu mengimplementasikan guardrails dengan moderation API dan custom classifiers
Mampu mendesain safety UX yang tidak merusak user experience

Analogi

Diagram


      Content Safety = Security Check di Bandara:

Input Guard (Check-in):
Scan penumpang (prompt user) sebelum naik pesawat (ke LLM)
→ Deteksi barang berbahaya, tolak

Output Guard (Customs):
Scan bagasi (respons AI) setelah pesawat mendarat (setelah LLM generate)
→ Deteksi konten terlarang, sita

Mid-stream Guard (Air Marshal):
Awasi selama penerbangan (selama streaming)
→ Intervensi real-time kalau ada ancaman

Content safety seperti security bandara — input guard, output guard, mid-stream guard. Multi-layer defense.

Penjelasan Konsep

Guardrails adalah lapisan pertahanan yang mencegah AI menghasilkan output berbahaya. Production AI systems butuh multi-layer guardrails.

Arsitektur: (1) Input Guard — filter prompt user sebelum ke LLM. Gunakan moderation API (OpenAI Moderation, Google Safety) + custom keyword/regex filters. Deteksi: hate speech, self-harm, PII, prompt injection. (2) Output Guard — filter respons LLM sebelum ke user. Gunakan content classifier + rule-based checks. Deteksi: harmful content, hallucinated PII, inappropriate content. (3) Mid-stream Guard — monitor streaming response. Bisa intervensi real-time.

Implementation: (1) OpenAI Moderation API — free, deteksi 11 kategori harmful content. (2) Custom safety classifier — fine-tune model untuk domain spesifik. (3) Keyword/regex — simple, fast, untuk pattern yang jelas. (4) LLM-based safety check — “Apakah teks ini mengandung konten berbahaya?” — lebih akurat, lebih lambat.

Safety UX: (1) Jangan expose raw error. (2) Tampilkan pesan sopan: “Respons tidak dapat ditampilkan karena melanggar kebijakan konten.” (3) Beri user jalan keluar: “Kamu bisa merevisi prompt atau menghubungi support.” (4) Log semua safety trigger untuk audit.

Inti yang Perlu Dipahami

Bagian ini berfokus pada memahami arsitektur content safety: input guard, output guard, mid-stream guard., mampu mengimplementasikan guardrails dengan moderation API dan custom classifiers., dan mampu mendesain safety UX yang tidak merusak user experience. Jangan terburu-buru menghafal istilahnya. Lebih penting untuk memahami peran setiap konsep dan kapan konsep itu muncul dalam pekerjaan web development.

Saat membaca Content Safety & Guardrails Implementation, gunakan tujuan belajar sebagai penanda arah. Kalau kamu sudah bisa menjelaskan tujuan itu dengan kata-katamu sendiri, berarti fondasinya mulai terbentuk.

Cara Membayangkannya

Content safety seperti security bandara — input guard, output guard, mid-stream guard. Multi-layer defense. Analogi ini dipakai supaya konsep teknis tidak terasa melayang. Hubungkan setiap istilah dengan perannya: siapa yang meminta, siapa yang memproses, data apa yang berpindah, dan hasil apa yang diharapkan.

Kalau analoginya sudah terasa masuk akal, barulah lihat istilah teknisnya. Cara ini membuat materi lebih mudah dipahami daripada langsung menghafal definisi.

Saat Melihat Contoh Kode

Contoh kode pada chapter ini memakai bahasa typescript. Bacalah contoh kode sebagai ilustrasi alur, bukan sebagai bagian yang harus langsung dihafal.

Perhatikan nama fungsi, urutan langkah, dan data yang berpindah. Biasanya tiga hal itu sudah cukup untuk memahami hubungan antara teori dan praktik.

Konteks dalam Perjalanan Belajar

Setiap konsep di platform ini dipilih karena dipakai di industri. Fokus pada pemahaman, bukan hafalan.

Kamu sudah di bagian lanjutan. Mulai pikirkan bagaimana konsep ini dipakai di dunia kerja — bukan hanya untuk belajar, tapi untuk membangun produk nyata.

Gunakan pertanyaan reflektif dan prompt AI di akhir chapter sebagai latihan aktif. Membaca saja tidak cukup — kamu perlu menjelaskan ulang dengan kata-katamu sendiri.

Contoh Kode

typescript

// Multi-layer guardrails
async function safeGenerate(prompt: string) {
  // Layer 1: Input guard
  const inputCheck = await moderate(prompt);
  if (inputCheck.flagged) {
    throw new SafetyError('Input melanggar kebijakan konten', 'input');
  }
  
  // Layer 2: Generate
  const response = await generateAI(prompt);
  
  // Layer 3: Output guard
  const outputCheck = await moderate(response);
  if (outputCheck.flagged) {
    log({ type: 'safety_trigger', prompt, response, categories: outputCheck.categories });
    throw new SafetyError('Respons tidak dapat ditampilkan', 'output');
  }
  
  return response;
}

// Safety UX: handle error gracefully
function handleSafetyError(error: SafetyError) {
  return {
    message: 'Konten tidak dapat ditampilkan karena kebijakan keamanan.',
    action: 'Coba revisi prompt Anda atau hubungi support.',
    errorId: error.id, // untuk debugging, bukan expose ke user
  };
}

Prompt AI

Implementasi multi-layer guardrails: input guard (OpenAI Moderation), output guard (custom safety classifier), rate limiting. Test dengan adversarial prompts — berapa persen yang tertangkap?

Pertanyaan Reflektif

Test guardrails-mu dengan 20 adversarial prompts. Berapa yang lolos (false negative)? Berapa prompt legitimate yang diblok (false positive)? Keduanya harus diminimalkan.