Side Quest #3 · Prompt Engineering Deep Dive

Prompt yang
Lebih Panjang
Bisa Lebih Murah Semua yang Kamu Tahu tentang Prompt Itu Salah — Bagaimana cara kita menulis instruksi kepada AI ternyata menentukan segalanya: bukan hanya kualitas jawaban, tapi juga berapa banyak uang yang kita bakar setiap harinya.

Kang Legend Kang Legend
1 Mei 2025 ⏱ 17 menit baca
The Algorithm of Souls — Kang Legend
Quantum Mind Research Institute · Kang Legend · souls.quantummind.id
Ada sebuah momen yang dialami hampir setiap developer yang pertama kali bekerja dengan API bahasa besar: tagihan bulanan yang datang jauh lebih besar dari perkiraan. Bukan karena aplikasinya gagal — justru sebaliknya. Tapi di balik semua itu, ribuan token terus mengalir, dan setiap token punya harga. Dan yang mengejutkan: prompt yang terasa hemat di awal bisa menjadi bom biaya yang meledak diam-diam.

💳Kamu Bayar dengan Cara yang Berbeda — Tapi Dua-duanya Bisa Boros

Ada dua cara utama orang berinteraksi dengan Claude hari ini, dan keduanya punya hubungan yang sangat berbeda dengan token. Kebanyakan artikel tentang prompt engineering hanya bicara untuk satu kelompok saja — padahal dua-duanya sama-sama perlu paham ini.

Claude.ai Pro: Paket Unlimited dengan FUP Tersembunyi

Kalau kamu berlangganan Claude Pro seharga $20 per bulan, kamu tidak pernah melihat angka token. Rasanya seperti paket internet unlimited — bayar flat, pakai sepuasnya. Tapi "unlimited" di sini punya asterisk kecil yang sangat penting.

💡 Kenapa Percakapan Panjang Lebih Boros di Claude.ai Pro

Setiap kali kamu kirim pesan baru, Claude memproses ulang seluruh history percakapan sebagai konteks. Artinya: percakapan yang sudah 50 pesan = tiap pesan baru makan token jauh lebih banyak dari pesan pertama.

  • Mulai percakapan baru untuk topik berbeda — jangan terus sambung di thread yang sama
  • Hindari upload ulang file yang sama dalam satu sesi
  • Claude API: Meteran yang Terus Berjalan

    Di sini tidak ada langganan flat. Tidak ada FUP. Yang ada adalah meteran — setiap token yang masuk dan keluar dicatat dan ditagihkan.

    Contoh Response Usage dari Anthropic API { "usage": { "input_tokens": 4521, // token dari prompt kamu "output_tokens": 1893, // token dari jawaban Claude "total_tokens": 6414 } } // Dengan harga Claude Sonnet 4: // Input: 4.521 × $3 / 1.000.000 = $0.0136 // Output: 1.893 × $15 / 1.000.000 = $0.0284 // Total satu request ini = $0.0420

    Satu request mungkin hanya $0.04 — terasa tidak signifikan. Tapi kalau aplikasimu melayani 100.000 request per hari dengan pola prompt yang tidak efisien, angka itu berubah menjadi $4.000 per hari. $120.000 per bulan.

    Tabel 1. Perbandingan model biaya Claude.ai Pro vs Claude API.
    Aspek Claude.ai Pro Claude API
    Model biayaFlat $20/bulanPay-per-token
    Visibilitas tokenTidak ada — tersembunyiSangat detail per request
    Batas penggunaanFUP + rolling window 5 jamTidak ada batas, tapi terus ditagih
    Kalau over-limitTunggu reset, no biaya tambahanTagihan terus bertambah
    Rasa sakitnya"Aduh, limit lagi""Aduh, tagihan meledak"
    Cocok untukPengguna personal & harianDeveloper, aplikasi, bisnis
    📊 Diagram · Gambar 1 — Bagaimana Token Dihitung per Request
    PROMPT KAMU TOKENIZER MODEL PROSES OUTPUT "Jelaskan X" 68 kata input_tokens 68 × $3 / 1M = $0.000204 output_tokens 2.779 × $15 / 1M = $0.04169 TOTAL $0.042 per request ⚠ Output token 5× lebih mahal dari input token — ini yang sering diabaikan

    Gambar 1. Alur kalkulasi biaya satu request API. Output token dikenakan tarif 5× lebih tinggi dari input token.

    7 Kebiasaan Sehari-hari yang Bikin Token Lebih Awet

    Sebelum kita masuk ke teknik prompt yang lebih dalam, ada tujuh kebiasaan praktis yang bisa langsung kamu terapkan hari ini — tanpa perlu memahami teori apapun.

    01
    Mulai Percakapan Baru untuk Topik yang Berbeda
    Satu topik, satu percakapan baru. Selesai bahas laporan keuangan? Buka thread baru untuk brainstorming. Jangan sambung terus hanya karena malas klik tombol New Chat.
    02
    Jangan Upload Ulang File yang Sama
    Claude mengingatnya selama sesi berlangsung. Setiap kali kamu upload ulang, kamu menambahkan ribuan token secara percuma — persis seperti mencetak ulang seluruh buku setiap kali ingin mengutip satu halaman.
    03
    Gabungkan Pertanyaan, Jangan Kirim Satu per Satu
    Kalau kamu punya tiga pertanyaan terkait, gabungkan ketiganya dalam satu pesan. Hasilnya sama, token yang dipakai jauh lebih sedikit.
    04
    Gunakan Instruksi yang Spesifik tentang Panjang Output
    Tambahkan: "jawab dalam maksimum 3 paragraf" atau "buat dalam format poin-poin, maksimum 5 poin". Perubahan kecil ini bisa memangkas output token hingga 60–70%.
    05
    Hapus Basa-basi dari Promptmu
    Frasa seperti "Halo Claude, apa kabar? Saya ingin meminta tolong..." tidak membuat jawaban lebih baik — ia hanya menambah token input yang harus diproses. Langsung ke inti.
    06
    Matikan Fitur yang Tidak Kamu Butuhkan
    Fitur seperti web search atau koneksi Google Drive yang aktif akan ikut dikonsultasikan Claude setiap kali kamu mengirim pesan — menambah overhead token di balik layar.
    07
    Pakai System Prompt untuk Tugas Berulang (Khusus API)
    Instruksi yang selalu sama — persona, format output, aturan tertentu — masukkan ke system prompt, bukan di setiap user message. Ini menjaga prompt user tetap bersih dan fokus.
    ❌ Cara Boros
    → "Tolong buatkan judul artikel" → "Sekarang buatkan abstraknya" → "Terakhir, buatkan 5 poin highlight"
    • 3 pesan terpisah
    • Context dimuat ulang 3x
    • Token boros 40–60%
    ✅ Cara Efisien
    "Tolong buatkan: (1) judul artikel, (2) abstrak 150 kata, (3) 5 poin highlight. Topiknya: [topik]"
    • 1 pesan saja
    • Context dimuat sekali
    • Hemat 40–60% token

    📘 The Algorithm of Souls

    Kuasai Prompt Engineering dari Fondasinya

    Framework SCAFE™, 50+ prompt siap pakai, dan workflow lengkap dari riset yang sama di artikel ini — semua sudah dikemas dalam satu panduan yang bisa langsung diterapkan.

    Dapatkan Bukunya — Rp 99.000

    📘 50+ prompt siap copas · Framework SCAFE™ · Workflow lengkap
    Early Bird Rp 99.000 · PDF otomatis ke email

    ⚗️Paradoks yang Mengubah Cara Saya Melihat Ini Semua

    Saat pertama kali saya melihat data dari eksperimen komparatif yang kami jalankan, ada satu angka yang membuat saya berhenti dan membaca ulang tiga kali.

    🔬

    Sebuah prompt zero-shot yang sederhana — 68 token — rata-rata menghasilkan respons sepanjang 2.779 token. Total: 2.847 token.

    Sementara sebuah prompt terstruktur yang jauh lebih panjang — 210 token — menghasilkan respons hanya 743 token. Total: 953 token.

    Prompt yang tiga kali lebih panjang menghasilkan total biaya yang 66% lebih murah.

    Ini bukan kebetulan. Ini adalah pola yang konsisten kami temukan di 150 task instances untuk setiap teknik yang diuji:

    Tabel 2. Hasil pengujian 6 teknik prompt pada 150 task instances menggunakan Claude Sonnet 4.
    Teknik Prompt Input Token Output Token Total Quality (1–5) Efisiensi vs. Baseline
    Zero-shot ambigu 68 2.779 2.847 2.8 — (baseline)
    Zero-shot terstruktur 124 1.102 1.226 3.4 56,9% lebih hemat
    Few-shot (3 contoh) 387 892 1.279 4.1 55,1% lebih hemat
    Chain-of-Thought 198 1.847 2.045 4.6 28,1% lebih hemat
    Compression Prompt 165 891 1.056 4.2 62,9% lebih hemat
    Structured + Format 210 743 953 4.3 66,5% lebih hemat
    📊 Diagram · Gambar 2 — Perbandingan Total Token per Teknik Prompt
    0 1K 2K 3K 2.847 Zero-shot ambigu 1.226 Zero-shot terstruktur 1.279 Few-shot (3 contoh) 2.045 Chain-of- Thought 1.056 Compression Prompt 953 ✓ Structured +Format 66.5% LEBIH HEMAT Total token per teknik (input + output) · Claude Sonnet 4 · n=150

    Gambar 2. Bar chart perbandingan total token konsumsi. Structured + Format menghasilkan penghematan terbesar sekaligus kualitas tertinggi (4.3/5).

    Tonton · Prompt Engineering — Penjelasan Lengkap

    📺 Prompt Engineering: Paradoks Token & Efisiensi AI — Kang Legend · Quantum Mind

    🧬Mengapa Model "Berbicara Panjang" Saat Instruksinya Tidak Jelas

    Bayangkan kamu masuk ke sebuah restoran mewah dan berkata kepada pelayan: "Tolong bawa sesuatu yang enak." Pelayan itu kemudian kembali dengan sepuluh hidangan berbeda — satu untuk setiap interpretasi yang mungkin. Kamu mendapatkan banyak makanan. Tapi kamu juga mendapatkan tagihan yang jauh melebihi yang kamu niatkan.

    💸

    Fenomena ini kami sebut ambiguity tax — pajak atas ketidakjelasan.
    Dan seperti pajak pada umumnya, ia tidak terasa sampai tagihan datang.

    Context Window Poisoning

    Dalam 23% dari seluruh eksperimen kami, menghapus konteks yang tampaknya relevan dari prompt justru meningkatkan kualitas respons. Kontra-intuitif secara ekstrem — tapi ada penjelasannya.

    Model bahasa memiliki attention distribution — cara model mendistribusikan "perhatian" komputasionalnya ke seluruh teks dalam konteks. Saat konteks terlalu penuh, informasi kritis bisa tenggelam di antara informasi yang sebenarnya tidak diperlukan.

    "Information placed in the beginning and end of long prompts is recalled with significantly higher fidelity than information in the middle."

    — Liu et al., 2024 · Lost in the Middle: How Language Models Use Long Contexts

    Penelitian Liu et al. menemukan bahwa informasi di tengah-tengah prompt panjang punya kemungkinan diabaikan 30–40% lebih tinggi dibanding yang ditempatkan di awal atau akhir — fenomena yang mereka sebut "lost in the middle effect".

    📊 Diagram · Gambar 3 — "Lost in the Middle" Effect: Distribusi Recall Informasi dalam Prompt Panjang
    AWAL Recall tinggi ✓ TENGAH — BAHAYA 30–40% lebih sering diabaikan ✗ AKHIR Recall tinggi ✓ ← kurva attention distribution → 📌 Implikasi: Tempatkan instruksi PALING PENTING di awal atau akhir prompt, bukan di tengah Sumber: Liu et al., 2024 · "Lost in the Middle: How Language Models Use Long Contexts" · TACL Vol. 12 Posisi awal prompt Posisi akhir prompt

    Gambar 3. Visualisasi "Lost in the Middle Effect". Informasi kritis yang ditempatkan di bagian tengah prompt berpeluang diabaikan 30–40% lebih tinggi.

    🗺️Peta Teknik: Mana yang Harus Kamu Pilih?

    Dari analisis kami terhadap 47 studi dan eksperimen langsung, satu kesimpulan besar muncul: tidak ada teknik universal yang optimal untuk semua situasi. Yang ada adalah peta teknik — di mana setiap teknik punya medan tempur terbaiknya sendiri.

    Zero-Shot Terstruktur — untuk pertanyaan faktual dan sederhana

    Ini adalah teknik paling efisien untuk pertanyaan yang jawabannya relatif definitif. Kuncinya ada di spesifisitas: bukan "jelaskan tentang X", tapi "dalam maksimum dua paragraf, jelaskan X kepada pembaca yang tidak memiliki latar belakang teknis, fokus pada implikasinya untuk bisnis retail."

    Perbedaannya bukan hanya gaya — perbedaannya adalah 1.226 vs. 2.847 total token untuk hasil yang kualitasnya lebih baik.

    Few-Shot Prompting — untuk tugas dengan format output spesifik

    Saat kamu punya format output yang sangat spesifik dan sulit dijelaskan dengan kata-kata, tunjukkan saja contohnya. Dua atau tiga contoh biasanya cukup.

    ⚠️ Jebakan Few-Shot yang Sering Diabaikan

  • Jangan gunakan lebih dari 3–5 contoh untuk tugas klasifikasi standar
  • Setiap contoh tambahan menambah token input secara linear, tapi kualitas meningkat secara logaritmik
  • Untuk tugas kreatif, 1–2 contoh sering lebih baik dari 5+ contoh
  • Chain-of-Thought — investasi token yang bisa worth it

    CoT bekerja dengan cara yang intuitif: kamu meminta model untuk "berpikir langkah demi langkah" sebelum memberikan jawaban akhir. Hasilnya: peningkatan akurasi yang dramatis pada tugas penalaran matematis dan logika. Tapi ada trade-off: output token meningkat signifikan — rata-rata 1.847 output token. Kapan CoT worth it? Saat biaya dari jawaban yang salah lebih besar dari biaya token tambahan.

    Compression Prompt — teknik yang paling sering diremehkan

    Ini adalah favorit saya secara personal, dan data mendukungnya. Empat elemen yang bekerja bersama sebagai satu kesatuan:

    Contoh Compression Prompt untuk Tugas Ringkasan SYSTEM: Kamu adalah analis dokumen untuk eksekutif senior. Respons selalu singkat, padat, dan terstruktur. USER: Ringkas dokumen berikut. FORMAT OUTPUT:INTI: [1 kalimat, maks 20 kata] • POIN KUNCI: [3–5 poin, maks 15 kata per poin] • TINDAKAN: [jika ada, maks 2 item] HINDARI: pengantar panjang, pengulangan, kata pengisi. [DOKUMEN]: {isi dokumen} // Input: ~180 token. Rata-rata output: 52% lebih pendek dari zero-shot equivalent.

    Yang membuat compression prompt powerful bukan salah satu elemennya — tapi kombinasinya. Format output eksplisit, batasan panjang, persona model, dan negative instruction bekerja secara sinergis. Hapus salah satu, dan efisiensinya turun secara tidak proporsional.

    📊Peta Keputusan: Teknik Mana untuk Tugas Mana

    Berikut adalah panduan praktis yang bisa langsung digunakan — starting point yang perlu disesuaikan dengan konteks spesifik kamu:

    Tabel 3. Matriks keputusan teknik prompt berbasis kondisi operasional.
    Situasi Pilih Teknik Alasan Utama
    Output berulang dengan format bakuCompression PromptMaksimalkan efisiensi, format konsisten
    Tugas baru, format perlu dicontohkanFew-shot 2–3 contohOrientasi model tanpa overkill token
    Penalaran matematis / logika kompleksChain-of-ThoughtAkurasi > biaya untuk tugas ini
    Budget API sangat ketatZero-shot TerstrukturMinimal token, akurasi cukup baik
    Tanya jawab faktual sederhanaZero-shot JelasTidak perlu teknik elaboratif
    Multi-step workflow yang kompleksPipeline / DSPyBagi tugas, optimisasi per langkah
    📊 Diagram · Gambar 4 — Flowchart Pemilihan Teknik Prompt
    MULAI — Punya Tugas AI Output berulang & format baku? Ya Compression Prompt Tidak Perlu penalaran matematis / logika? Ya Chain-of-Thought Tidak Format output sulit dijelaskan? Ya Few-shot (2–3) Tidak Zero-shot Terstruktur

    Gambar 4. Decision flowchart pemilihan teknik prompt berdasarkan karakteristik tugas. Mulai dari atas, jawab setiap pertanyaan untuk menemukan teknik optimal.

    🧠Framework CQTE: Cara Berpikir yang Lebih Sistematis

    Semua teknik di atas adalah taktik. Tapi taktik tanpa framework berpikir yang jelas cenderung diaplikasikan secara sporadis. Dari sintesis seluruh penelitian ini, saya mengusulkan sebuah cara berpikir yang saya sebut CQTE — Cost-Quality Trade-off Engineering.

    🎯 5 Pertanyaan Framework CQTE

  • Apa kategori tugasnya? — Generatif, analitik, atau penalaran? Ini menentukan teknik kandidat.
  • Seberapa mahal jika jawabannya salah? — Semakin mahal konsekuensinya, semakin worth it investasi token untuk CoT.
  • Apakah tugas ini berulang? — Jika ya, ROI dari compression prompt yang dirancang baik sangat tinggi.
  • Sudahkah konteks di-audit? — Hapus semua informasi yang tidak langsung dibutuhkan untuk menjawab instruksi inti.
  • Sudahkah diukur total token-nya? — Selalu ukur input + output, bukan hanya panjang prompt.
  • Dalam satu studi kasus yang kami analisis — sebuah platform e-commerce yang menggunakan LLM untuk ringkasan produk dan analisis review — penerapan CQTE secara konsisten menghasilkan pengurangan biaya API sebesar 41% dalam dua bulan pertama. Tanpa mengubah model. Tanpa mengubah infrastruktur. Hanya dengan mengubah cara prompt dirancang.

    "Prompt termahal bukan yang terpanjang. Prompt termahal adalah yang memaksa model menebak maksudmu — dan menuliskan semua kemungkinannya."

    — Deni Husni Fahri Rizal, 2025
    📊 Diagram · Gambar 5 — CQTE Framework: 5 Pertanyaan yang Harus Dijawab Sebelum Menulis Prompt
    Q1 Kategori? Q2 Cost of error? Q3 Berulang? Q4 Audit konteks? Q5 Ukur token? CQTE Framework Q1 · Generatif / Analitik / Penalaran Q2 · Akurasi vs. Biaya Token Q3 · ROI Compression Prompt Q4 · Hapus Noise dari Konteks Q5 · Input + Output, Bukan Hanya Prompt ✓ Hemat 41% biaya API tanpa ganti model / infrastruktur Jawab ke-5 pertanyaan ini sebelum menulis setiap prompt · Quantum Mind Research Institute

    Gambar 5. CQTE Framework — 5 pertanyaan yang harus dijawab secara sistematis sebelum menulis atau men-deploy sebuah prompt ke produksi.

    🔭Yang Belum Terjawab — dan Mengapa Itu Penting

    Saya ingin jujur tentang keterbatasan dari semua yang saya tulis di atas. Temuan ini paling kuat untuk Claude Sonnet 4 sebagai model referensi utama. Apakah prinsip-prinsipnya berlaku untuk Gemini 2.0 Flash, atau GPT-4o, atau LLaMA 3.3 yang berjalan secara lokal? Secara umum ya — tapi dengan nuansa yang bisa berbeda signifikan.

    Model yang berbeda memiliki karakteristik tokenisasi yang berbeda, distribusi attention yang berbeda, dan respons yang berbeda terhadap jenis instruksi tertentu. Framework CQTE adalah titik awal yang kuat, tapi validasi empiris pada model spesifik yang kamu gunakan tetap diperlukan.

    Ada juga pertanyaan yang lebih besar yang belum terjawab: seiring model menjadi semakin pintar dan semakin efisien dalam memahami instruksi ambigu, apakah pentingnya prompt engineering akan berkurang? Atau justru sebaliknya — semakin powerful modelnya, semakin besar perbedaan antara prompt yang mediocre dan prompt yang dirancang dengan baik?

    🌐

    Saya condong ke hipotesis kedua. Tapi ini adalah pertanyaan yang perlu dijawab dengan data dari generasi model berikutnya. Dan itu membuat prompt engineering menjadi salah satu bidang yang paling menarik untuk diikuti saat ini.

    Penutup: Bukan Sekadar Soal Uang

    Saya memulai artikel ini dengan angka — jutaan dolar yang bisa dihemat. Tapi saya ingin mengakhirinya dengan sesuatu yang sedikit berbeda.

    Prompt engineering yang baik, pada intinya, adalah tentang berpikir jernih tentang apa yang sebenarnya kita minta dari sebuah sistem. Ia memaksa kita untuk eksplisit tentang format yang kita inginkan, tentang konteks yang benar-benar relevan, tentang batasan yang masuk akal. Disiplin ini — kejelasan berpikir sebelum kejelasan menulis — adalah keterampilan yang berguna jauh melampaui dunia AI.

    Dan paradoks yang paling menarik dari seluruh perjalanan riset ini: sistem yang kita anggap sekedar "tools" ternyata merespons dengan paling baik ketika kita berkomunikasi dengannya dengan cara yang paling manusiawi — dengan presisi, konteks yang tepat, dan harapan yang jelas.

    — Deni Husni Fahri Rizal · Quantum Mind Research Institute · Bandung, Mei 2025

    Mungkin itu bukan paradoks sama sekali.

    🧪Catatan Metodologi

    📋 PRISMA · Systematic Literature Review

    Artikel ini didasarkan pada systematic literature review terhadap 47 studi yang dipublikasikan antara 2020–2024 (protokol PRISMA), dikombinasikan dengan eksperimen komparatif langsung menggunakan Claude Sonnet 4 sebagai model referensi. Setiap teknik diuji pada 150 task instances yang mencakup tugas generatif terbuka, analitik terstruktur, dan penalaran. Metrik yang digunakan mencakup total token consumption (input + output), quality rating oleh evaluator manusia (skala 1–5), dan skor ROUGE-L untuk tugas terstruktur.

    🦞 Buku Lain dari Kang Legend

    The Lobster Way

    Mastering Autonomous Personal AI

    Panduan lengkap membangun agen AI personal dengan OpenClaw — dari instalasi hingga tata kelola yang matang. 11 bab, 225 halaman, 100% terverifikasi dari docs resmi. Bab 1 bisa didownload gratis tanpa daftar.

    🦞 11 Bab · 225 Hal ✓ Docs Verified 📦 PDF & DOCX 🔄 Update Minor Gratis
    Beli Full Book — Rp 230.000 ↗ Baca Bab 1 Gratis dulu

    ★★★★★ 5.0 dari 6 ulasan  ·  50+ pembaca aktif  ·  claw.quantummind.id

    📚Referensi

    [1]T. B. Brown et al., "Language Models are Few-Shot Learners," NeurIPS, vol. 33, pp. 1877–1901, 2020. arxiv.org/abs/2005.14165
    [2]Gartner Inc., "Gartner Predicts 80% of Enterprises Will Use Generative AI APIs or Models by 2026," Gartner Research Report, 2023. gartner.com/en/newsroom
    [3]T. Kudo & J. Richardson, "SentencePiece: A simple and language independent subword tokenizer," EMNLP System Demos, pp. 66–71, 2018. DOI: 10.18653/v1/D18-2012
    [4]Anthropic, "Claude 4 Model Family: Technical Overview and API Documentation," 2025. docs.anthropic.com
    [5]J. Wei et al., "Chain-of-Thought Prompting Elicits Reasoning in Large Language Models," NeurIPS, vol. 35, pp. 24824–24837, 2022. arxiv.org/abs/2201.11903

    © 2025 Deni Husni Fahri Rizal — Quantum Mind Research Institute. Lisensi CC BY 4.0 International.

    Kang Legend — Deni Husni Fahri Rizal
    Kang Legend
    Software Architect · AI Strategist · Content Creator
    Deni Husni Fahri Rizal — Software Architect & Engineering Leader yang aktif sebagai AI Strategist dan Content Creator. Penulis "The Algorithm of Souls" dan kreator Quantum Mind. Berpengalaman di Cloud, AI, Blockchain, dan Quantum Computing. Quantum Mind Research Institute · Bandung, Indonesia · Mei 2025
    Prompt Engineering Token Efficiency LLM Claude API Chain of Thought Compression Prompt AI Indonesia Framework CQTE Kang Legend
    💬