Prompt Engineering 01: Cara Kerja Model Bahasa untuk Penulis Prompt

Kamu tidak perlu menjadi peneliti AI untuk menulis prompt yang baik. Tetapi memahami sedikit cara kerja model bahasa akan menjelaskan banyak hal: kenapa jawaban berubah-ubah, kenapa model kadang mengarang, dan kenapa detail kecil di prompt bisa mengubah hasil.

Materi ini berlaku untuk semua layanan chat AI, seperti ChatGPT, Claude, dan Gemini, karena semuanya dibangun di atas jenis model yang sama: model bahasa besar (large language model, LLM).

Yang akan dipelajari

• Apa yang sebenarnya dilakukan model saat "menjawab"
• Token dan jendela konteks
• Kenapa jawaban bisa berbeda untuk prompt yang sama
• Kenapa model bisa terdengar yakin padahal salah (halusinasi)
• Apa artinya semua itu bagi cara kita menulis prompt

Model menebak kelanjutan teks

Pada dasarnya, model bahasa dilatih untuk satu hal: menebak potongan teks berikutnya berdasarkan teks sebelumnya. Saat kamu menulis prompt, model membaca seluruh percakapan, lalu menghasilkan jawaban sepotong demi sepotong, dan setiap potongan dipilih berdasarkan kemungkinan yang paling cocok dengan konteks.

Model modern juga dilatih lebih lanjut agar mengikuti instruksi dan bersikap seperti asisten. Tetapi mekanisme dasarnya tetap: jawaban dibentuk oleh teks yang ada di depannya. Itulah alasan prompt sangat berpengaruh. Prompt adalah bagian terbesar dari "teks di depan" yang kamu kendalikan.

Akibatnya: model tidak "mencari" jawaban di database seperti mesin pencari. Ia menyusun jawaban yang terdengar paling masuk akal. Biasanya tepat, tetapi tidak dijamin benar.

Token

Model tidak membaca kata per kata, melainkan token: potongan teks yang bisa berupa kata utuh, bagian kata, angka, atau tanda baca. Kata umum dalam bahasa Inggris sering menjadi satu token, sedangkan kata bahasa Indonesia yang panjang bisa terpecah menjadi beberapa token.

Kenapa ini penting?

• Batas panjang input dan output dihitung dalam token, bukan kata.
• Layanan berbayar biasanya menghitung biaya per token.
• Model kadang keliru pada tugas yang bergantung pada huruf, misalnya menghitung huruf dalam sebuah kata, karena ia melihat potongan, bukan huruf satu per satu.

Jendela konteks

Jendela konteks adalah jumlah maksimum token yang bisa "dilihat" model sekaligus: instruksi, riwayat percakapan, dokumen yang kamu tempel, dan jawaban yang sedang ditulis. Ukurannya berbeda-beda antar model dan terus berkembang.

Hal yang perlu diingat:

• Di luar jendela konteks, model tidak ingat apa-apa. Percakapan yang sangat panjang bisa membuat instruksi awal "terlupakan" atau kurang diperhatikan.
• Model tidak otomatis tahu isi file, situs, atau percakapan lain, kecuali layanan yang kamu pakai memang memasukkannya ke konteks.
• Semakin banyak teks yang tidak relevan, semakin besar peluang model salah fokus.

Kenapa jawaban bisa berbeda

Saat memilih potongan berikutnya, model tidak selalu mengambil yang paling mungkin; ada unsur acak yang terkendali. Karena itu, prompt yang sama bisa menghasilkan jawaban dengan susunan berbeda.

Untuk pengguna chat, ini berarti:

• Kalau hasil pertama kurang bagus, mencoba ulang kadang membantu, tetapi memperbaiki prompt jauh lebih andal.
• Untuk tugas yang butuh hasil konsisten (format tetap, data terstruktur), tulis instruksi dan contoh yang jelas. Developer bisa mengatur tingkat keacakan lewat parameter, yang dibahas di materi 13.

Halusinasi: yakin tetapi salah

Karena model menyusun teks yang terdengar masuk akal, ia bisa menghasilkan fakta, kutipan, atau referensi yang tidak ada, dengan nada yang sama yakinnya seperti saat ia benar. Ini disebut halusinasi.

Halusinasi lebih sering terjadi ketika:

• pertanyaannya tentang hal yang sangat spesifik, langka, atau baru;
• kamu meminta referensi, angka, atau kutipan tanpa memberikan sumbernya;
• prompt mendorong model untuk "pasti menjawab".

Model juga punya batas pengetahuan: ia dilatih dengan data sampai waktu tertentu, sehingga tidak tahu kejadian setelahnya kecuali layanan memberinya akses pencarian atau dokumen. Materi 09 membahas cara mengurangi halusinasi secara khusus.

Apa artinya bagi penulis prompt

Sifat model	Implikasi untuk prompt
Jawaban dibentuk oleh teks di depannya	Tulis tugas, konteks, dan format yang jelas; jangan berharap model menebak maksudmu
Tidak tahu apa yang tidak ada di konteks	Berikan data, dokumen, atau contoh yang dibutuhkan
Bisa yakin tetapi salah	Minta sumber dari dokumen yang kamu berikan, izinkan "tidak tahu", dan verifikasi
Ada unsur acak	Gunakan instruksi dan contoh untuk hasil yang konsisten
Konteks terbatas	Fokuskan isi prompt; mulai percakapan baru untuk tugas baru

Coba sendiri

Salin prompt ini ke layanan chat AI yang kamu pakai, lalu jalankan dua atau tiga kali:

Sebutkan tiga paper ilmiah tentang segmentasi citra panoramik gigi,
lengkap dengan judul, penulis, tahun, dan DOI.

Lalu periksa: apakah DOI-nya bisa dibuka di https://doi.org/? Apakah judulnya benar-benar ada di Google Scholar? Sering kali sebagian referensi ternyata tidak ada atau datanya tercampur. Inilah halusinasi dalam praktik.

Sekarang bandingkan dengan prompt ini:

Saya sedang mencari literatur tentang segmentasi citra panoramik gigi.
Jangan menyebutkan judul atau DOI paper yang spesifik.
Sebutkan kata kunci pencarian dan nama konferensi/jurnal yang relevan
agar saya bisa mencarinya sendiri di Google Scholar.

Prompt kedua memanfaatkan kekuatan model (mengetahui istilah dan bidang) tanpa memaksanya mengarang detail yang mudah salah.

Kesalahan yang sering terjadi

Kesalahan	Akibat
Menganggap model sebagai mesin pencari	Menerima referensi atau angka karangan tanpa dicek
Percakapan sangat panjang untuk banyak tugas	Instruksi awal kurang diperhatikan; hasil melenceng
Menyimpulkan "AI tidak bisa" dari satu percobaan	Padahal prompt yang lebih jelas sering memberi hasil jauh lebih baik
Menanyakan kejadian terbaru tanpa sumber	Model menjawab dengan informasi usang atau mengarang

Latihan

1. Minta model menjelaskan sebuah konsep yang kamu kuasai betul (misalnya topik mata kuliahmu). Tandai bagian yang benar, kurang tepat, dan salah. Apa yang kamu pelajari tentang tingkat kepercayaan jawabannya?
2. Jalankan prompt yang sama tiga kali. Catat apa yang berubah dan apa yang tetap.
3. Tulis ulang prompt berikut supaya tidak mendorong model mengarang: "Berikan statistik jumlah pengguna AI di Indonesia tahun ini."

Contoh jawaban

Coba kerjakan sendiri dulu. Untuk prompt, jawaban yang baik bisa lebih dari satu; yang penting alasannya.

Latihan 1

Tidak ada satu jawaban benar. Yang biasanya terlihat: penjelasan umum cenderung benar, sedangkan detail spesifik (angka, nama, tahun) lebih sering keliru. Pelajarannya: semakin spesifik klaimnya, semakin wajib diverifikasi.

Latihan 2

Biasanya isi pokoknya mirip, tetapi susunan kalimat, urutan poin, dan contoh berubah. Kalau bagian fakta ikut berubah-ubah antar percobaan, itu tanda model tidak yakin dan jawabannya perlu dicek.

Latihan 3

Contoh prompt yang lebih baik:

Saya butuh data jumlah pengguna AI di Indonesia untuk laporan.
Jangan memberikan angka dari ingatanmu.
Sebutkan lembaga atau jenis sumber yang biasanya merilis data seperti ini
(misalnya lembaga survei, kementerian, atau laporan industri),
dan kata kunci untuk mencarinya. Jika kamu tidak yakin, katakan tidak yakin.

Alasannya: angka statistik terbaru hampir pasti berada di luar pengetahuan model atau mudah dikarang. Prompt ini mengalihkan model ke tugas yang bisa ia lakukan dengan baik, yaitu menunjukkan di mana mencari, dan memberi izin untuk berkata tidak yakin.