WPIS
Model decyzyjny a model językowy: kto podejmuje decyzję w Twoim AI?
LLM rozumie język, ale nie powinien sam decydować o akcji. Pokazujemy, gdzie kończy się generowanie tekstu, a zaczyna warstwa decyzyjna.
W wielu wdrożeniach zakładamy, że model językowy zrobi wszystko: zrozumie pytanie, wybierze akcję i ją wykona. To wygodne założenie, ale miesza dwie różne role — rozumienie języka i podejmowanie decyzji.
W skrócie:
- Model językowy zamienia niejednoznaczny tekst na strukturę i sens.
- Model decyzyjny wybiera klasę, trasę, próg albo następną akcję.
- Im wyższy skutek decyzji, tym mniej miejsca na „kreatywność” modelu.
Dwie różne role
Model językowy odpowiada na pytanie „co klient miał na myśli?”. Radzi sobie z odmianą, kontekstem, skrótami i błędami. Jego naturalnym wyjściem jest tekst albo ustrukturyzowany JSON.
Model decyzyjny odpowiada na pytanie „co powinno się teraz stać?”. Jego wyjściem jest klasa, priorytet, trasa, próg ryzyka albo konkretna akcja.
| Warstwa | Wejście | Wyjście | Typowy błąd |
|---|---|---|---|
| Model językowy | Pytanie, dokument, rozmowa | Tekst, streszczenie, JSON | Halucynacja i nadmierna pewność |
| Model decyzyjny | Ustrukturyzowane dane i kontekst | Klasa, trasa, priorytet, akcja | Zły próg i niezauważony edge case |
| Polityka | Decyzja i uprawnienia | Zgoda, odmowa, eskalacja | Zbyt szerokie uprawnienia |
Model językowy może opisać decyzję. Nie znaczy to, że powinien ją podejmować.Neurasensei AI
Dlaczego nie wszystko przez LLM
LLM jest elastyczny, ale kosztowny i niedeterministyczny. Przy każdym pytaniu może odpowiedzieć inaczej, nawet jeśli dane są takie same. Do tego dochodzi opóźnienie i koszt tokenów.
Jeśli decyzja jest powtarzalna — np. „czy zgłoszenie dotyczy zamówienia, czy sprzedaży?” — klasyfikator, reguła albo mały model lokalny będą tańsze i łatwiejsze do przetestowania.
Architektura, która się sprawdza
- Warstwa rozumienia. LLM zamienia pytanie na intencję, encje i parametry.
- Warstwa decyzji. Reguły, klasyfikator lub model wybiera trasę i priorytet.
- Warstwa polityki. System sprawdza uprawnienia, limity i potrzebę zatwierdzenia.
- Warstwa akcji. Narzędzie wykonuje operację i zapisuje wynik.
Dzięki temu LLM może się zmienić, a logika biznesowa i uprawnienia pozostają stabilne.
Kiedy wystarczy reguła
- Decyzja ma wysokie skutki: płatność, dostęp do danych, zmiana ceny.
- Przepisy lub umowy wymagają powtarzalnego, audytowalnego kryterium.
- Dane wejściowe są ustrukturyzowane, a przypadki dobrze znane.
- Potrzebujesz wyjaśnić każdą decyzję bez odwoływania się do modelu.
Kiedy LLM może być modelem decyzyjnym
LLM sprawdza się tam, gdzie decyzja wymaga rozumienia nietypowego kontekstu, a skutek jest niski lub średni. Nawet wtedy warto ograniczyć wyjście do zamkniętej listy etykiet i dodać próg pewności.
Jeśli model nie jest pewny, decyzja powinna trafić do człowieka albo do bezpiecznej ścieżki domyślnej.
Checklist projektowa
- Zapisz decyzję jako zestaw dopuszczalnych wyników.
- Oddziel rozumienie języka od wyboru akcji.
- Określ, które decyzje wymagają człowieka.
- Dodaj próg pewności i ścieżkę eskalacji.
- Loguj wejście, decyzję, uzasadnienie i wynik.
- Testuj na przypadkach brzegowych, nie tylko na typowych.
Projektujesz warstwę decyzyjną? Napisz przez formularz kontaktowy — pomożemy oddzielić LLM od akcji i uprawnień.