GPT, Claude a vlastné ML modely v business aplikáciách – spracovanie dokumentov, klasifikácia dát a asistenti pracujúci nad vašimi dátami. AI má zmysel tam, kde treba spracovať veľa nejednotného textu alebo rozhodnúť podľa pravidiel, ktoré sa nedajú zapísať do jednoduchej podmienky.

Kde to reálne funguje

Pri čítaní faktúr, dodacích listov a objednávok z PDF alebo e-mailu. Pri kategorizácii produktov a dopĺňaní chýbajúcich parametrov z popisov. Pri triedení prichádzajúcej pošty a jej prevode na úlohy. Pri sumarizácii dlhých dokumentov a pri vyhľadávaní odpovedí vo vlastnej dokumentácii, kde bežné fulltextové hľadanie zlyháva.

Ako to nasadzujeme

  • Model pracuje nad vašimi dátami, nie nad všeobecnými znalosťami z internetu.
  • Výstup sa validuje voči schéme – aplikácia nikdy nespracuje odpoveď naslepo.
  • Neisté prípady idú na ručné potvrdenie namiesto tichého odhadu.
  • Náklady na volania sledujeme a limitujeme, aby účet neprekvapil.
  • Citlivé dáta ošetrujeme podľa toho, čo daný poskytovateľ garantuje.

Čo AI nevyrieši

Nenahradí chýbajúce dáta ani neurobí poriadok v procese, ktorý poriadok nemá. Ak sú vstupy nekonzistentné, model bude nekonzistentný tiež – len rýchlejšie. Preto pri každom zadaní najprv posudzujeme, či problém nie je v skutočnosti dátový, a či sa neoplatí najprv upratať zdroj.

Praktický príklad je TaskR, kde AI spracúva prichádzajúce e-maily a vytvára z nich úlohy s kontextom.

Časté otázky

Kde končia naše dáta?

Závisí od zvoleného poskytovateľa a nastavenia. Pri citlivých dátach vyberáme riešenia, ktoré vstupy nepoužívajú na ďalší tréning, prípadne model prevádzkujeme tak, aby dáta neopustili vaše prostredie. Toto rozhodnutie robíme na začiatku, nie dodatočne.

Ako spoľahlivé sú výsledky?

Pri dobre ohraničenej úlohe s validáciou výstupu vysoko, ale nikdy nie stopercentne. Preto navrhujeme procesy tak, aby neisté prípady išli na ručné potvrdenie a aby bolo spätne vidieť, na základe čoho systém rozhodol.