Learning / Teknik Prompting

Automatic Prompt Engineer (APE)

APE

Sumber gambar: Zhou et al., (2022)

Zhou et al., (2022) mengusulkan automatic prompt engineer (APE), sebuah framework untuk membuat dan memilih instruksi secara otomatis. Masalah pembuatan instruksi dirumuskan sebagai sintesis bahasa alami yang ditangani sebagai masalah optimasi black-box, dengan memakai LLM untuk menghasilkan dan menelusuri kandidat-kandidat solusi.

Langkah pertama melibatkan large language model (sebagai model inferensi) yang diberi contoh (demonstrasi) output untuk menghasilkan kandidat instruksi bagi sebuah tugas. Kandidat-kandidat solusi ini akan memandu proses pencarian. Instruksi-instruksi itu dijalankan menggunakan model target, lalu instruksi yang paling sesuai dipilih berdasarkan skor evaluasi yang dihitung.

APE menemukan prompt zero-shot CoT yang lebih baik daripada prompt buatan manusia "Let's think step by step" (Mari kita berpikir langkah demi langkah) (Kojima et al., 2022).

Prompt "Let's work this out in a step by step way to be sure we have the right answer." (Mari kita selesaikan ini langkah demi langkah agar yakin jawabannya benar) memicu penalaran chain-of-thought dan meningkatkan kinerja pada benchmark MultiArith dan GSM8K:

APECOT

Sumber gambar: Zhou et al., (2022)

Contoh ini dibiarkan dalam bahasa Inggris karena kedua prompt tersebut adalah kutipan persis yang diuji dalam riset berbahasa Inggris.

Paper ini menyentuh topik penting dalam prompt engineering, yaitu ide mengoptimalkan prompt secara otomatis. Meskipun kami tidak membahas topik ini secara mendalam di panduan ini, berikut beberapa paper kunci kalau kamu tertarik dengan topiknya:

  • Prompt-OIRL - mengusulkan penggunaan offline inverse reinforcement learning untuk menghasilkan prompt yang bergantung pada kueri.
  • OPRO - memperkenalkan ide memakai LLM untuk mengoptimalkan prompt: meminta LLM untuk "Take a deep breath" (tarik napas dalam-dalam) meningkatkan kinerja pada soal matematika.
  • AutoPrompt - mengusulkan pendekatan untuk membuat prompt secara otomatis bagi beragam tugas berdasarkan pencarian yang dipandu gradien (gradient-guided search).
  • Prefix Tuning - alternatif ringan untuk fine-tuning yang menambahkan prefiks kontinu yang bisa dilatih di depan input untuk tugas NLG.
  • Prompt Tuning - mengusulkan mekanisme untuk mempelajari soft prompt melalui backpropagation.
Gabung grup