Learning / Teknik Prompting
Prompt Chaining
Pengantar Prompt Chaining
Untuk meningkatkan keandalan dan kinerja LLM, salah satu teknik prompt engineering yang penting adalah memecah tugas menjadi sub-tugas. Setelah sub-tugas tersebut teridentifikasi, LLM diberi prompt berisi satu sub-tugas, lalu responsnya dipakai sebagai input untuk prompt berikutnya. Inilah yang disebut prompt chaining, yaitu tugas dipecah menjadi sub-tugas dengan tujuan membentuk rantai operasi prompt.
Prompt chaining berguna untuk menyelesaikan tugas kompleks yang mungkin sulit ditangani LLM jika diberi satu prompt yang sangat detail. Dalam prompt chaining, prompt-prompt dalam rantai melakukan transformasi atau proses tambahan pada respons yang dihasilkan sebelum mencapai hasil akhir yang diinginkan.
Selain menghasilkan kinerja yang lebih baik, prompt chaining membantu meningkatkan transparansi aplikasi LLM kamu, serta meningkatkan kemampuan kontrol dan keandalannya. Artinya, kamu bisa men-debug masalah pada respons model dengan jauh lebih mudah, serta menganalisis dan meningkatkan kinerja di tahap-tahap yang perlu diperbaiki.
Prompt chaining sangat berguna terutama saat membangun asisten percakapan berbasis LLM dan untuk meningkatkan personalisasi serta pengalaman pengguna aplikasimu.
Contoh Penggunaan Prompt Chaining
Prompt Chaining untuk QA Dokumen
Prompt chaining bisa dipakai dalam berbagai skenario yang melibatkan beberapa operasi atau transformasi. Misalnya, salah satu penggunaan LLM yang umum adalah menjawab pertanyaan tentang dokumen teks yang panjang. Akan sangat membantu jika kamu merancang dua prompt berbeda: prompt pertama bertugas mengambil kutipan yang relevan untuk menjawab pertanyaan, dan prompt kedua menerima kutipan tersebut beserta dokumen aslinya sebagai input untuk menjawab pertanyaan yang diberikan. Dengan kata lain, kamu akan membuat dua prompt berbeda untuk mengerjakan tugas menjawab pertanyaan berdasarkan sebuah dokumen.
Prompt pertama di bawah ini mengambil kutipan yang relevan dari dokumen berdasarkan pertanyaannya. Perhatikan bahwa supaya sederhana, kami menambahkan placeholder {{document}} untuk dokumennya. Untuk menguji prompt ini, kamu bisa menyalin dan menempelkan artikel dari Wikipedia, misalnya halaman tentang prompt engineering ini. Karena konteks yang dipakai untuk tugas ini lebih besar, kami memakai model gpt-4-1106-preview dari OpenAI. Kamu juga bisa memakai prompt ini dengan LLM berkonteks panjang lainnya seperti Claude.
Prompt 1:
Kamu adalah asisten yang membantu. Tugasmu adalah membantu menjawab pertanyaan berdasarkan sebuah dokumen. Langkah pertama adalah mengambil kutipan yang relevan dengan pertanyaan dari dokumen, yang dibatasi oleh ####. Tuliskan daftar kutipan tersebut di dalam <quotes></quotes>. Jawab dengan "Tidak ada kutipan relevan yang ditemukan!" jika tidak ada kutipan yang relevan.
####
{{document}}
####
Berikut tangkapan layar dari keseluruhan prompt, termasuk pertanyaannya yang dikirim memakai peran user.

Output dari Prompt 1:
<quotes>
- Chain-of-thought (CoT) prompting[27]
- Generated knowledge prompting[37]
- Least-to-most prompting[38]
- Self-consistency decoding[39]
- Complexity-based prompting[41]
- Self-refine[42]
- Tree-of-thought prompting[43]
- Maieutic prompting[45]
- Directional-stimulus prompting[46]
- Textual inversion and embeddings[59]
- Using gradient descent to search for prompts[61][62][63][64]
- Prompt injection[65][66][67]
</quotes>
Contoh ini dibiarkan dalam bahasa Inggris karena isinya kutipan langsung dari artikel Wikipedia berbahasa Inggris (daftar yang sama juga dipakai di Prompt 2 dan output-nya).
Kutipan yang dihasilkan prompt pertama sekarang bisa dipakai sebagai input untuk prompt kedua di bawah ini. Perhatikan bahwa kamu bisa merapikan kutipannya sedikit lagi, misalnya dengan menghapus nomor sitasinya. Sitasi tersebut bisa dihapus atau dimanfaatkan sebagai bagian dari prompt lain dalam rantai, tetapi untuk sekarang kamu bisa mengabaikannya. Prompt kedua kemudian mengambil kutipan relevan hasil prompt 1 dan menyusun respons yang membantu untuk pertanyaan berdasarkan dokumen dan kutipan yang diambil tersebut. Prompt kedua bisa seperti berikut:
Prompt 2:
Diberikan sekumpulan kutipan relevan (dibatasi oleh <quotes></quotes>) yang diambil dari sebuah dokumen beserta dokumen aslinya (dibatasi oleh ####), susunlah jawaban untuk pertanyaan tersebut. Pastikan jawabannya akurat, bernada ramah, dan terdengar membantu.
####
{{document}}
####
<quotes>
- Chain-of-thought (CoT) prompting[27]
- Generated knowledge prompting[37]
- Least-to-most prompting[38]
- Self-consistency decoding[39]
- Complexity-based prompting[41]
- Self-refine[42]
- Tree-of-thought prompting[43]
- Maieutic prompting[45]
- Directional-stimulus prompting[46]
- Textual inversion and embeddings[59]
- Using gradient descent to search for prompts[61][62][63][64]
- Prompt injection[65][66][67]
</quotes>
Output dari Prompt 2:
Teknik prompting yang disebutkan dalam dokumen meliputi:
1. Chain-of-thought (CoT) prompting[27]
2. Generated knowledge prompting[37]
3. Least-to-most prompting[38]
4. Self-consistency decoding[39]
5. Complexity-based prompting[41]
6. Self-refine[42]
7. Tree-of-thought prompting[43]
8. Maieutic prompting[45]
9. Directional-stimulus prompting[46]
10. Textual inversion and embeddings[59]
11. Using gradient descent to search for prompts[61][62][63][64]
12. Prompt injection[65][66][67]
Masing-masing teknik ini memakai strategi unik untuk meningkatkan atau memperjelas interaksi dengan large language model agar menghasilkan output yang diinginkan.
Seperti yang kamu lihat, menyederhanakan dan membuat rantai prompt adalah pendekatan prompting yang berguna ketika respons perlu melewati beberapa operasi atau transformasi. Sebagai latihan, silakan rancang prompt yang menghapus nomor sitasi (misalnya [27]) dari respons sebelum mengirimkannya sebagai respons akhir kepada pengguna aplikasimu.
Kamu juga bisa menemukan lebih banyak contoh prompt chaining di dokumentasi ini, yang memanfaatkan LLM Claude. Contoh kami terinspirasi dan diadaptasi dari contoh-contoh mereka.