Ako sa rozprávať s modelom: prompty bez zaklínadiel

Internet je plný zoznamov typu „10 magických promptov". Väčšinou obsahujú frázy ako „si svetovo uznávaný expert" a odporúčania ponúknuť modelu sprepitné. Nič z toho nefunguje o nič lepšie než obyčajná jasná veta.

Čo funguje, je nudnejšie: povedať presne, čo chcete.

Prečo „buď expert" nepomáha

Nemá to koho oklamať. Model nezačne vedieť viac tým, že mu poviete, že vie viac. Rola v prompte môže mierne posunúť štýl odpovede — formálnejší tón, iná slovná zásoba — ale znalosti nepridá.

Rozdiel, ktorý naozaj vidno, je medzi „napíš mi text o našom produkte" a „napíš dva odseky pre e-shop s náradím, cieľová skupina sú remeselníci, zdôrazni životnosť a servis, bez superlatívov, do 400 znakov".

Tá druhá veta nie je magická. Je len konkrétna.

Štyri veci, ktoré fungujú vždy

1. Kontext. Model nevie nič o vašej firme. Keď mu nepoviete, že predávate B2B a zákazník je nákupca, napíše text pre koncového spotrebiteľa. Nie preto, že by sa mýlil — preto, že hádal.

2. Príklady. Toto je najsilnejší nástroj, aký máte. Ukázať dva-tri hotové výstupy, ktoré sa vám páčia, funguje lepšie než odsek popisu, ako to má vyzerať. Modely sú v napodobňovaní vzoru výrazne lepšie než v dodržiavaní abstraktného pokynu.

3. Formát. Povedzte, čo chcete dostať. JSON s týmito poľami. Tri odrážky. Jedna veta. Bez tohto dostanete esej, aj keď ste chceli slovo.

4. Hranice. Čo nerobiť. „Ak v texte nie je dátum splatnosti, vráť null — nehádaj." Toto je jediná obrana proti tomu, aby model niečo vymyslel, keď mu chýba údaj.

Čo naozaj pomáha pri zložitejších úlohách

„Postupuj krok za krokom" nie je zaklínadlo, ale má reálny efekt pri úlohách, kde treba niečo odvodiť. Model, ktorý najprv napíše medzikroky, dá častejšie správnu odpoveď než ten, ktorý strieľa rovno výsledok. Dôvod je prozaický: každý napísaný krok sa stáva súčasťou kontextu pre ten ďalší.

Má to cenu — platíte za tie kroky. Pri jednoduchej klasifikácii je to zbytočné. Pri odvodení, či faktúra sedí s objednávkou, sa to oplatí.

Kde ľudia najčastejšie chybujú

• Prompt je zoznam výnimiek. Keď má tristo riadkov a polovica sú „DÔLEŽITÉ: nezabudni…", nie je to prompt engineering, je to symptóm. Úlohu treba rozbiť na menšie.
• Zdvorilosť namiesto informácie. „Prosím, buď taký dobrý a skús…" nie je kontext. Nič to nepridá.
• Negácia. „Nepíš dlho" funguje horšie než „napíš do 300 znakov". Povedzte, čo chcete, nie čo nechcete.
• Jeden prompt na päť úloh. Prečítaj, over, zaraď, zhrň a odpovedz. Rozbite to.
• Testovanie na jednom príklade. Prompt, ktorý raz vyšiel, nie je hotový prompt. Skúste ho na desiatich prípadoch vrátane tých škaredých.

Prompt v kóde je iná disciplína

Toto sa často zamieňa. Prompt v chate píšete pre seba a keď vyjde nezmysel, opakujete otázku. Prompt v aplikácii beží tisíckrát denne a nikto sa naň nepozerá.

Z toho vyplýva pár vecí, ktoré v chate riešiť netreba:

Do promptu vkladáte cudzí text — od používateľa, z e-mailu, z dokumentu. Ten text môže obsahovať pokyny. Oddeľte dáta od inštrukcií jasnou hranicou a napíšte modelu, že obsah medzi značkami je dáta, nie príkaz. Nie je to nepriestrelné, ale je to nutné minimum.

Výstup si overte. Keď má prísť JSON s tromi poľami, skontrolujte, že prišiel JSON s tromi poľami. Bez toho pošlete halucináciu do databázy.

A verzujte. Prompt je súčasť kódu — patrí do gitu, nie do premennej, ktorú niekto raz zmenil a už si nepamätá prečo.

Zhrnutie

Dobrý prompt vyzerá ako dobré zadanie pre kolegu, ktorý o vašej firme nevie nič, je veľmi rýchly a berie všetko doslova. Žiadne zaklínadlá. Len presnosť.

Keď píšete prompt a máte pocit, že je otravne konkrétny, ste zhruba na správnom mieste.