Prompt Engineering 08: Bekerja dengan Dokumen Panjang

Salah satu kegunaan terbesar model bahasa adalah membaca dokumen yang panjang: paper, laporan, peraturan, atau transkrip wawancara. Tetapi semakin panjang dokumen, semakin besar risiko model melewatkan detail, mencampur bagian, atau menjawab dari "pengetahuan umum" alih-alih dari dokumenmu.

Yang akan dipelajari

• Menempatkan dokumen dan instruksi di dalam prompt
• Memberi label pada beberapa dokumen
• Teknik "kutip dulu, baru jawab"
• Meringkas dokumen yang sangat panjang secara bertahap
• Menyiasati batas jendela konteks

Letakkan dokumen di atas, pertanyaan di bawah

Untuk dokumen panjang, susunan yang umumnya bekerja baik:

<dokumen>
[isi dokumen panjang]
</dokumen>

[Instruksi dan pertanyaan di sini, setelah dokumen]

Alasannya: instruksi yang berada dekat bagian akhir prompt tidak "tenggelam" di bawah ribuan kata dokumen. Beberapa penyedia model menyarankan pola ini dalam panduan resmi mereka. Jika instruksinya panjang, kamu juga bisa menulis instruksi singkat di atas ("Kamu akan membaca laporan, lalu menjawab pertanyaan di bagian akhir"), lalu instruksi lengkap di bawah.

Beberapa dokumen: beri label

Jika ada beberapa dokumen, bungkus masing-masing dengan tag dan metadata:

<dokumen id="1">
<judul>Laporan Tahunan Lab 2025</judul>
<isi>...</isi>
</dokumen>

<dokumen id="2">
<judul>Proposal Hibah 2026</judul>
<isi>...</isi>
</dokumen>

Bandingkan target publikasi di dokumen 2 dengan capaian di dokumen 1.
Sebutkan nomor dokumen untuk setiap klaim.

Label membuat model bisa merujuk sumber, dan kamu bisa memeriksa klaimnya.

Kutip dulu, baru jawab

Teknik ini sangat efektif untuk pertanyaan tentang dokumen panjang: minta model mengambil kutipan yang relevan dulu, baru menjawab berdasarkan kutipan tersebut.

<paper>
[isi paper]
</paper>

Pertanyaan: Apa keterbatasan penelitian ini menurut penulisnya sendiri?

Langkah:
1. Di dalam tag <kutipan>, salin kalimat dari paper yang membahas
   keterbatasan, apa adanya, tanpa parafrase.
2. Di dalam tag <jawaban>, jawab pertanyaan hanya berdasarkan kutipan itu.
Jika tidak ada kutipan yang relevan, tulis "Paper tidak membahas hal ini."

Keuntungannya:

• Model "mencari" bagian yang tepat dulu, sehingga jawaban lebih fokus.
• Kamu bisa memverifikasi jawaban dengan mencocokkan kutipan ke dokumen asli (gunakan Ctrl+F).
• Mengurangi jawaban dari pengetahuan umum yang tidak ada di dokumen.

Kutipan yang dihasilkan model juga bisa keliru sedikit. Untuk pekerjaan penting, cocokkan kutipan ke teks aslinya.

Meringkas dokumen yang sangat panjang

Jika dokumen terlalu panjang untuk diproses sekaligus, atau ringkasan sekali jalan terlalu dangkal, gunakan pendekatan bertahap:

1. Bagi dokumen per bab atau per bagian yang wajar.
2. Ringkas setiap bagian dengan format yang sama (misalnya 5 poin + istilah penting).
3. Gabungkan ringkasan bagian menjadi ringkasan keseluruhan.

Berikut ringkasan per bab dari sebuah buku (dibuat sebelumnya).
Susun ringkasan keseluruhan 300 kata yang menjelaskan argumen utama
buku dan bagaimana setiap bab mendukungnya.

<ringkasan_bab no="1">...</ringkasan_bab>
<ringkasan_bab no="2">...</ringkasan_bab>
...

Ini adalah bentuk prompt chaining (materi 06) yang khusus untuk dokumen.

Batas konteks

• Model hanya bisa membaca sebanyak jendela konteksnya. Layanan chat bisa memotong dokumen yang terlalu panjang tanpa pemberitahuan yang jelas.
• Dokumen PDF hasil pindaian bisa terbaca buruk. Jika hasil terasa aneh, coba salin teksnya langsung atau periksa apakah layanan berhasil membaca file.
• Tabel dan rumus di PDF sering rusak saat diekstrak. Untuk pertanyaan tentang tabel, pertimbangkan menyalin tabelnya secara manual atau mengunggah gambar halaman tersebut jika layanan mendukung.

Cara cepat memeriksa apakah dokumen terbaca utuh: tanyakan isi bagian akhir dokumen, misalnya "Apa judul subbab terakhir?"

Coba sendiri

Ambil satu paper yang pernah kamu baca, lalu:

<paper>
[tempel teks paper]
</paper>

Jawab tiga pertanyaan berikut. Untuk setiap pertanyaan, berikan dulu
kutipan pendukung (apa adanya) di <kutipan>, lalu jawaban di <jawaban>.
Jika paper tidak membahasnya, katakan demikian.

1. Dataset apa yang dipakai dan berapa ukurannya?
2. Metrik evaluasi apa yang dipakai?
3. Apa saran penelitian lanjutan dari penulis?

Cocokkan kutipan dengan paper aslinya.

Kesalahan yang sering terjadi

Kesalahan	Perbaikan
Instruksi di atas, dokumen panjang di bawah, tanpa pengulangan	Taruh pertanyaan setelah dokumen
Beberapa dokumen ditempel tanpa label	Bungkus dengan tag dan id
Menerima jawaban tanpa bukti	Minta kutipan dulu
Mengira seluruh PDF terbaca	Uji dengan pertanyaan tentang bagian akhir
Meringkas 200 halaman dalam satu prompt	Ringkas bertahap per bagian

Latihan

1. Kamu punya tiga paper dan ingin tahu paper mana yang memakai dataset publik. Tulis prompt-nya.
2. Model menjawab pertanyaan tentang laporanmu dengan informasi yang terdengar benar tetapi tidak ada di laporan. Perubahan apa yang kamu lakukan pada prompt?
3. Rancang langkah meringkas transkrip seminar tiga jam.

Contoh jawaban

Latihan 1

<paper id="1">...</paper>
<paper id="2">...</paper>
<paper id="3">...</paper>

Untuk setiap paper, tentukan apakah dataset yang dipakai bersifat publik.
Format tabel: Paper | Nama dataset | Publik? (Ya/Tidak/Tidak jelas) | Kutipan pendukung.
Gunakan "Tidak jelas" jika paper tidak menyebut ketersediaan dataset.
Jangan memakai pengetahuan di luar teks paper.

Alasannya: label paper, kolom kutipan, dan pilihan "Tidak jelas" mencegah model menebak berdasarkan pengetahuan umum tentang dataset terkenal.

Latihan 2

Tambahkan: (1) instruksi tegas "Jawab hanya berdasarkan isi <laporan>", (2) teknik kutip dulu baru jawab, dan (3) izin "Jika laporan tidak memuat informasinya, katakan tidak ada." Lalu uji dengan pertanyaan yang jawabannya memang tidak ada di laporan untuk memastikan model berani menjawab "tidak ada".

Latihan 3

1. Bagi transkrip per sesi atau per 20–30 menit.
2. Untuk setiap bagian: poin utama, pertanyaan peserta beserta jawabannya, dan istilah penting, dengan format yang sama.
3. Gabungkan ringkasan bagian menjadi ringkasan seminar: tema utama, kesimpulan, dan tindak lanjut.
4. Periksa ringkasan akhir dengan kriteria: setiap poin bisa ditelusuri ke ringkasan bagian.