Kam idú vaše dáta, keď ich pošlete do AI modelu

Pri AI aplikácii nie je najdôležitejšia otázka „aký model", ale „ktoré dáta opustia náš systém a kto sa k nim dostane". Na tú odpoveď sa dá pozrieť technicky aj právne — a obe odpovede potrebujete.

Keď aplikácia pošle otázku do jazykového modelu, pošle s ňou všetko, čo je v prompte. To znamená aj podklady, ktoré ste tam pridali, aby model odpovedal presne. Meno zákazníka, číslo zmluvy, obsah e-mailu.

Veľa firiem si to uvedomí až vtedy, keď sa ich na to opýta audítor.

Čo z vášho systému naozaj odchádza

Nie celá databáza. Odchádza presne to, čo dáte do promptu — a to je vec návrhu, nie náhody. Rozdiel medzi „pošleme celý záznam zákazníka" a „pošleme tri polia, ktoré model potrebuje" je rozdiel, ktorý spravíte vy, nie poskytovateľ modelu.

Preto sa oplatí vedieť, kde presne sa prompt skladá, a mať jedno miesto, cez ktoré to prechádza. Keď je konštrukcia promptu rozsypaná po celej aplikácii, na otázku „čo posielame von" sa nedá odpovedať inak než hľadaním v kóde.

Tri veci, ktoré si treba overiť u poskytovateľa

1. Či sa vaše vstupy používajú na trénovanie. Firemné a API podmienky sa v tomto bežne líšia od tých spotrebiteľských. Nepredpokladajte, overte si to v podmienkach vašej zmluvy.
2. Kde fyzicky prebieha spracovanie. Niektorí poskytovatelia vedia spracovanie obmedziť na európske regióny, iní nie. Pre prenos mimo EÚ platia osobitné pravidlá.
3. Ako dlho sa vstupy uchovávajú. Zvyčajne existuje nejaké okno na zneužitie a bezpečnosť, aj keď sa dáta netrénujú.

Toto sú zmluvné otázky, nie technické. Odpovede patria do spracovateľskej zmluvy, nie do dokumentácie API.

Čo sa dá spraviť technicky

Dosť veľa — a je to lacnejšie než riešiť to neskôr:

• Filtrovanie citlivých polí ešte pred odoslaním. Model nepotrebuje rodné číslo na to, aby zhrnul reklamáciu.
• Oddelené prostredia. Testovacia prevádzka nemá čo siahať na ostré dáta. Tento jeden krok zabráni veľkej časti nepríjemností.
• Logy bez obsahu promptov. Zalogovať celý prompt je pohodlné pri ladení a je to zároveň druhá kópia osobných údajov na mieste, kde ju nikto nečaká.
• Šifrovanie pri prenose aj v úložisku a prístupy len tam, kde sú potrebné.

Kde končí naša práca a začína práca právnika

Technické opatrenia vieme navrhnúť a nasadiť. Posúdenie, či konkrétne spracovanie má právny základ, aký a či preň treba posúdenie vplyvu, patrí vášmu právnikovi — a to platí aj vtedy, keď odpoveď vyzerá zrejmo. Pripravíme podklady, ktoré na to potrebuje: čo sa spracúva, kam to ide, ako dlho sa to drží.

Súvisí s tým aj otázka, kde AI radšej vôbec nenasadzovať. Niekedy je najlacnejšie opatrenie nepoužiť model na tú konkrétnu úlohu. Ak riešite prevádzku ako celok, pozrite si čo obnáša hosting AI aplikácií, prípadne nám napíšte.