AI, które za każdym razem nie wie, kim jesteś — pamięć modelu w webie, sesji i API

Model sam z siebie nie niesie wiedzy o twojej firmie. Kim jesteś, jakie masz zasady, co ustaliliście wcześniej — musisz mu to podać. To nie wada jednego narzędzia, tylko cecha tego, jak modele działają: pamięć o tobie nie jest w modelu.

Ale to, jak bardzo cię to dotyka — i czego się o tym w ogóle dowiadujesz — zależy od tego, w którym z trzech trybów pracujesz z AI. I w żadnym z nich nie jest ci to pokazane do końca uczciwie. O tym jest ten tekst.

Zastrzeżenie jak zawsze: nie piszemy jako eksperci z gotową receptą. Pokazujemy, jak sami to widzimy z codziennej pracy. Decyzja, co z tym zrobić, zostaje twoja.

Trzy tryby, trzy różne twarze tej samej sprawy

1. Web — modele w przeglądarce (popularne czaty AI). Tu jest najwięcej złudzenia. Użytkownik myśli „zamykam okno, rozmowa się kończy” — a część narzędzi ma opcje pamięci albo wglądu w starsze rozmowy, które da się włączyć, i wtedy model korzysta z większej wiedzy o tobie, niż się wydaje. Rzadko jest to jasno pokazane. Efekt: człowiek nie wie, co zostaje, a co znika. Zdanie rzucone „mimochodem” tydzień temu może dać się później odszukać — i odwrotnie, to, na czym ci zależało, mogło w ogóle nie zostać zapisane. Nie wiesz, w którą stronę — i sama ta niepewność jest problemem.

2. Sesja z kontekstem — praca ciągła (tak działają asystenci i agenci). Tu jest limit kontekstu. Gdy się zapełnia, następuje kompakt: część rozmowy zostaje przeniesiona dalej w skrócie, reszta — ucięta. Sam mechanizm jest w porządku. Gorsze jest to, że zwykle nie ma jawnego znacznika — użytkownik nie widzi, że doszło do kompaktu, co model zabrał ze sobą, a co zostawił. Ciągłość rwie się po cichu. Uczciwiej byłoby powiedzieć wprost: „był kompakt; zachowałem to, to i to; reszta poza zasięgiem”. Brak takiego znacznika to nie przypadek — gładka, nieprzerwana rozmowa „ocenia się” lepiej niż taka, która przyznaje lukę. To ten sam mechanizm, o którym pisaliśmy przy skłonności modeli do przytakiwania: forma, która się podoba, wygrywa z formą, która mówi prawdę o swoim stanie.

3. API — jedno wywołanie, jedna odpowiedź. Tu firma potyka się najczęściej. Model dostaje prompt, oddaje odpowiedź i o niej zapomina; następne wywołanie zaczyna od zera. Nie ma sesji, nie ma „wczoraj”. Całą ciągłość — kim jest firma, jej zasady, stan sprawy — trzeba wnieść w każde wywołanie i utrzymywać poza modelem. Duże okno kontekstu tego nie rozwiązuje: pozwala wkleić więcej, ale dalej ktoś musi wiedzieć, co wkleić, i trzymać to aktualne. To „co wkleić” jest właśnie pamięcią firmy — tyle że twoją, nie modelu. Tu największą robotę robi twarda dyscyplina formatu: stały, jednoznaczny sposób podawania stanu, którego model nie negocjuje i nie nadinterpretuje. Właśnie do tego — do precyzyjnego podawania stanu przy każdym wywołaniu — wypracowaliśmy własny format, NOR Protocol v4: jedną parsowalną linię, która niesie stan i operację zamiast prozy, tak żeby model dostawał dokładnie to, co ma wiedzieć, bez miejsca na domysł. Opisaliśmy go osobno; jest otwarty do użytku.

Wspólny mianownik

Tryby są różne, ale spód ten sam: pamięć o tobie żyje poza modelem — a to, ile jej jest i co się z nią dzieje, rzadko jest ci pokazane wprost. W webie złudzenie „to znika” (a część zostaje). W sesji cichy kompakt bez znacznika. W API czysta pustka, którą musisz wypełnić sam. Za każdym razem ciągłość jest twoją robotą, nie właściwością modelu.

To odwraca pytanie, które zwykle zadajemy. Nie „czy AI jest mądre” — w pojedynczym wywołaniu potrafi być bardzo. Tylko: „co z tego, co dziś ustaliliśmy, przetrwa do jutra — gdzie to trzymamy i czy widać, co zostało wycięte?“

Jak z tym pracujemy

Skoro model nie niesie pamięci sam, ciągłość dajemy mu z zewnątrz: stan trzymamy w danych — bieżące ustalenia, zasady, historia decyzji razem z powodami (nie tylko „co”, ale „dlaczego”) — i podajemy je modelowi przy każdym nowym wejściu. Dostaje wtedy stan sprawy, a nie pustą kartkę. Pamięta nie model — pamięta system wokół niego. W praktyce ten „system” to nic wymyślnego: miejsce, w którym trzyma się stan sprawy, plus prosty nawyk, że przy każdym wejściu ten stan trafia do modelu, zanim ten zacznie pracę.

I trzymamy się jednej zasady, której brakuje w większości narzędzi: kiedy coś zostaje ucięte, to widać. Znacznik zamiast gładkiej iluzji — wprost, co zostało zachowane, a co poza zasięgiem. Pamięć bez przyczyn to kronika; pamięć z przyczynami, i uczciwa co do swoich granic, to coś, na czym można budować.

Czego to nie znaczy

Nie chodzi o to, żeby model „pamiętał wszystko” — to byłby bałagan i ryzyko. Chodzi o to, żeby właściwe rzeczy przetrwały: kim jest firma, jej twarde zasady, historia ważnych decyzji, stan bieżącej sprawy — i żeby było jasne, co jest trzymane, a co nie.

Ważne jest też, po co to wszystko: ciągłość ma pomóc AI lepiej pracować z tobą, nie zastąpić cię. To człowiek nadaje systemowi charakter; pamięć zewnętrzna tylko sprawia, że ten charakter nie paruje przy każdym nowym wejściu.

Na koniec

Model, który wita cię jak obcego, nie jest zepsuty — jest po prostu bezpamiętny z natury, w każdym z trzech trybów trochę inaczej. Pytanie nie brzmi „czy AI jest mądre”. Brzmi: „co z tego, co ustaliliśmy, przetrwa — gdzie to trzymamy, i czy widać, gdy coś zniknęło?“

Bo inteligencja, która przy każdym wejściu zaczyna od zera — i nie mówi ci o tym — to nie partner. To bardzo zdolny nieznajomy. A z nieznajomym trudno zbudować cokolwiek, co ma trwać.

MafiaAI — zespół ludzi i agentów AI budujący narzędzia, strony i rozwiązania, w tym wdrożenia AI prowadzone lokalnie i prywatnie. Więcej: t8.pl