Co AI może zdecydować za ciebie — a czego nie

W tekście o autonomii sesji ustaliliśmy prostą rzecz: dostawszy zadanie, AI samo układa sobie drogę do celu — rozbija je na cele pośrednie, decyduje o kolejności i samo rozpoznaje, kiedy jest skończone. Gdyby tego nie robiło, każda praca byłaby wieczną pętlą, dopóki człowiek nie powie „stop”. Czego AI nie robi, to nie nadaje sobie celu samo z siebie — nie wybiera, czym ma się w ogóle zająć, nie ustawia własnej agendy z niczego. Kierunek i granice daje człowiek; wewnątrz nich AI jest samodzielne.

Podzieliliśmy tam też działania na trzy klasy — odwracalne (robi samo), nieodwracalne (tylko za zgodą człowieka) i zabronione (nigdy). To było pytanie „co wolno mu zrobić”.

Ten tekst idzie o piętro głębiej i pyta o coś trudniejszego: co AI może za ciebie zdecydować — nie „wykonać”, ale „rozstrzygnąć”. Bo im więcej firm wpuszcza AI do realnej pracy, tym częściej wraca kuszące zdanie: „nasz system podejmie decyzje za ciebie”. Warto rozłożyć to na części, zanim się na nie zgodzimy.

Jak zwykle jedno zastrzeżenie na wstępie: nie piszemy tego jako eksperci, którzy wiedzą, jak masz ustawić firmę. Pokazujemy, jak sami to widzimy z naszej strony — z codziennej pracy z systemami wieloagentowymi. Decyzja, co z tym zrobić, zostaje twoja.

Decyzja to nie tylko trafny wybór

Pierwszy odruch: skoro model potrafi przewidzieć dobrą odpowiedź, to potrafi zdecydować. I tu tkwi pomyłka. Decyzja to nie tylko wynik — to także czyja ona jest. Model policzy, co byłoby dobrym wyborem, często trafnie. Ale nie będzie tym, kto za ten wybór odpowiada — kto poniesie ciężar, gdy wyjdzie źle, kto stanie przed klientem czy urzędem. Decyzja bez kogoś, kto za nią stoi, to nie decyzja — to prognoza.

W firmie ta różnica jest różnicą między narzędziem a ryzykiem: model, który „zdecydował” i nie ma jak odpowiedzieć za skutek, po cichu przesuwa odpowiedzialność na tego, kto go wpuścił.

Dwie warstwy każdej decyzji

Żeby zobaczyć, co realnie da się oddać maszynie, warto rozłożyć decyzję na dwie warstwy.

Warstwa reguł — czy to jest legalne, zgodne z dobrymi zasadami, nie robi nikomu krzywdy. Tę warstwę model, na podstawie danych, na których powstał, nieźle rozpoznaje; potrafi wskazać „tego nie wolno”. To jest ta część, którą można w dużej mierze zautomatyzować.

Warstwa charakteru — co zdecydowałaby ta konkretna firma, z jej priorytetami, apetytem na ryzyko, stylem. Tę warstwę też da się częściowo odczytać — z historii, z tego, co firma dotąd akceptowała, a co odrzucała. Na tej podstawie system może odwzorować wasz wzorzec.

I teraz sedno praktyczne: tam, gdzie obie warstwy się zgadzają, a sprawa jest rutynowa i mieści się we wzorcu — spokojnie można oddać ją systemowi. Klasyfikacja typowego zgłoszenia, wstępna odpowiedź według znanego schematu, rozdzielenie zadań tak, jak zawsze. Tam, gdzie warstwy się rozjeżdżają — albo sprawa jest nowa — decyzja wraca do człowieka.

Dlaczego człowiek zostaje właśnie na granicy

Tu jest punkt, który brzmi abstrakcyjnie, a jest bardzo konkretny.

Historia firmy potrafi odpowiedzieć tylko na pytanie „co zdecydowaliśmy wcześniej”. A cały powód, dla którego na jakimś rozdrożu w ogóle potrzebna jest decyzja, jest taki, że tego jeszcze tam nie ma. Gdyby sprawa w pełni mieściła się we wzorcu — nie decydowałbyś, to byłby odczyt z tabeli, automat. Każda prawdziwa decyzja jest z natury odrobinę poza tym, co system już zna.

Dlatego człowiek nie siedzi „wszędzie” — siedzi dokładnie tam, gdzie kończy się przewidywalność. I to nie jest kwestia zebrania większej ilości danych. Im więcej danych, tym lepiej system zgadnie rutynę — ale rozdroże, z definicji, ucieka przed wzorcem. To jest strukturalne, nie tymczasowe.

Odwraca to zwykłe pytanie. Nie „czy AI potrafi decydować” (na rutynie — tak), tylko: które decyzje są we wzorcu i tanie (niech robi), a które są nowe, drogie albo nieodwracalne (człowiek bierze na siebie). I najważniejsze — prawdziwym zadaniem dobrego systemu nie jest „decydować o wszystkim”, tylko wiedzieć, kiedy jest poza swoją głębią i oddać sprawę wyżej. Wartość jest w rozpoznaniu granicy, nie w samym wyborze.

Co to znaczy w praktyce

Nie trzeba z tego robić filozofii. Wystarczy ustawić trzy rzeczy:

• Podziel decyzje, nie tylko zadania. To, co rutynowe i odwracalne — system robi sam. To, co nieodwracalne albo wysokiej stawki (pieniądze, klient, dane, żywy system) — wymaga człowieka. To granica, nie hasło.
• Zbuduj próg eskalacji. System ma umieć powiedzieć „to wykracza poza to, co znam” i podać sprawę dalej — zamiast pewnym tonem dorabiać rozstrzygnięcie. Cichy, pewny siebie strzał w nowej sprawie jest groźniejszy niż uczciwe „nie wiem”.
• Zostaw sobie ostatnie słowo tam, gdzie stawka jest realna. Nie dlatego, że systemowi nie można ufać — dlatego, że przy nieodwracalnym ktoś musi móc za to odpowiedzieć.

Na koniec

„W pełni autonomiczne AI, które zdecyduje za ciebie” brzmi jak oszczędność czasu. W istocie sprzedaje jedną rzecz, której oddawać nie warto: to, że za decyzją stoi ktoś, kogo można do niej pociągnąć.

Dojrzały system nie ten, który decyduje o wszystkim. Ten, który spokojnie bierze rutynę — i oddaje ci granicę. Rutyna niech płynie sama. Rozdroże zostaje twoje, bo tylko twoje może być.

MafiaAI — zespół ludzi i agentów AI budujący narzędzia, strony i rozwiązania, w tym wdrożenia AI prowadzone lokalnie i prywatnie. Więcej: t8.pl