Kde AI nepoužiť (a prečo vám to nikto nepovie)

Sme firma, ktorá stavia AI riešenia. Tento článok je preto trochu proti našim krátkodobým záujmom. Ale klient, ktorý si o rok povie, že mu niekto predal nezmysel, je horší než zákazka, ktorú sme nevzali.

Takže: kde AI nepatrí.

Tam, kde stačí obyčajný kód

Toto je zďaleka najčastejší prípad a zároveň najtrápnejší.

Videli sme jazykový model, ktorý rozhodoval, či má objednávka nárok na dopravu zdarma. Pravidlo znelo: nad sto eur áno. Jedna podmienka v kóde. Namiesto toho tam bolo volanie API, ktoré stálo peniaze, trvalo dve sekundy, občas vrátilo zlú odpoveď a nedalo sa poriadne otestovať.

Keď sa dá pravidlo napísať, napíšte pravidlo. Je to lacnejšie, rýchlejšie a nepomýli sa. Model nasadzujte až tam, kde pravidlo napísať neviete.

Presné výpočty

Jazykový model nepočíta. Predpovedá, ako by mal vyzerať výsledok, čo je niečo úplne iné.

Pri malých číslach to väčšinou vyjde, lebo podobné príklady videl v tréningu. Pri vašich číslach — 14 položiek, tri sadzby DPH, zľava a zaokrúhlenie — to vyjde tiež, väčšinou. To „väčšinou" je presne ten problém.

Ceny, dane, mzdy, sklad, účtovníctvo. Všetko obyčajná aritmetika v kóde. Model môže nanajvýš prečítať čísla z dokumentu — sčítať ich musí niekto iný.

Rozhodnutia s právnym dopadom

Zamietnutie reklamácie. Vyhodnotenie, či zákazník porušil podmienky. Posúdenie žiadosti. Čokoľvek, kde je na konci rozhodnutie, ktoré niekoho poškodí a on sa proti nemu môže brániť.

Problém nie je len v tom, že sa model môže pomýliť. Problém je, že neviete vysvetliť prečo. Keď sa vás úrad alebo zákazník opýta, na základe čoho ste rozhodli, „model to tak vyhodnotil" nie je odpoveď. A pri niektorých typoch rozhodnutí máte podľa GDPR povinnosť zabezpečiť ľudský zásah — automatizované rozhodnutie s právnym účinkom nie je len technická otázka.

Model tu môže pripraviť podklad. Rozhodnúť musí človek, ktorý sa pod to podpíše.

Keď nemáte dáta

„Chceli by sme predpovedať, ktorí zákazníci odídu." Dobre. Koľko máte historických prípadov odchodu? „No... asi tridsať."

Tridsať príkladov nie je dataset. Je to anekdota. Nech postavíte čokoľvek, naučí sa to šum a bude to vyzerať presvedčivo, kým to nenasadíte.

Toto sa netýka jazykových modelov, ktoré prišli natrénované — tam dáta nepotrebujete. Týka sa to všetkého, čo má predpovedať niečo špecifické pre vašu firmu.

Citlivé dáta bez premysleného rámca

Nie je to zákaz, je to varovanie. Keď posielate do externého API zdravotné údaje, mzdy alebo osobné dáta klientov, musíte vedieť: kam to ide, ako dlho sa to tam drží, či sa na tom niekto neučí a či na to máte právny základ.

Tie odpovede existujú a väčšinou sú v poriadku — providery majú režimy, kde sa na dátach netrénuje. Ale musí to niekto overiť predtým, nie potom, čo sa niekto spýta.

Keď nikto nekontroluje výstup

Toto je zhrnutie všetkého vyššie.

AI funkcia, ktorú si nikto nepozrie, je časovaná bomba. Nie preto, že by model bol zlý, ale preto, že sa nemáte ako dozvedieť, že sa niečo pokazilo. Chyby jazykových modelov sú tiché — výstup vyzerá rovnako dobre, či je správny alebo nie. Práve to ich odlišuje od klasického softvéru, ktorý keď padne, tak padne nahlas.

Ak na otázku „kto sa na to pozerá?" nemáte meno, projekt nie je hotový.

Nie je to o skepse

Nič z toho neznamená, že AI nefunguje. Znamená to, že funguje na určité úlohy, a keď ju natlačíte na tie ostatné, dostanete drahý a nespoľahlivý spôsob, ako robiť niečo, čo sa dalo spraviť lepšie.

Najlepšie AI projekty, aké sme robili, mali jednu spoločnú vec: veľkú časť pôvodného zadania sme z nich vyhodili, lebo sa to dalo vyriešiť normálne.