Prawdziwa różnica między czatbotem a agentem

Jedno z nich odpowiada na pytanie. Drugie decyduje, co zrobić, robi to, sprawdza własną pracę i przechodzi do następnego kroku — nie czekając, aż poprosisz. Ta różnica nie jest akademicka. Zmienia to, co może pójść nie tak i kto ma to wyłapać.

Czatbot bierze to, co wpisujesz, generuje odpowiedź i zatrzymuje się. Agent bierze to, co wpisujesz, decyduje, co musi się stać, coś z tym robi, sprawdza, czy zadziałało, i decyduje, co zrobić dalej — sam, często przez wiele kroków — zanim człowiek zobaczy cokolwiek z tego. Na tym polega cała różnica. Wszystko, o co ludzie się spierają, gdy spierają się o „agentów AI” — ryzyko, nadzór, którego system potrzebuje, i większość zamieszania marketingowego — wynika z tej jednej różnicy.

Co czatbot naprawdę robi

Czatbot to system jednego przebiegu. Dajesz mu tekst, on generuje tekst z powrotem i interakcja na tym się kończy. Nawet czatbot z długą pamięcią rozmowy wciąż robi jedną rzecz na turę: czyta wszystko, co powiedziano do tej pory, i przewiduje następną wiadomość. Nigdy nie odpytuje bazy danych, żeby sprawdzić fakt, nigdy niczego nie wysyła w twoim imieniu i nigdy nie wraca później, żeby zobaczyć, czy odpowiedź się utrzymała. Jeśli się myli, szkodą jest zdanie, które człowiek czyta — i które w zwykłym biegu rzeczy może wyłapać, zanim na jego podstawie zadziała.

Większość tego, o co ludzie proszą czatboty, ma ten kształt, choć nikt tego nie zauważa: streść ten dokument, napisz wiadomość urodzinową, wyjaśnij naszą politykę zwrotów, napisz trzy warianty nagłówka. Żadne z nich nie wymaga, by system sprawdził cokolwiek wobec realnego świata albo podjął działanie poza oknem czatu. To nadal prawda, gdy interfejs nazywa się „asystentem AI” albo „copilotem”, a nie „czatbotem” — etykieta na pudełku nie zmienia tego, co dzieje się w środku.

Co agent naprawdę robi

Agent działa w pętli, a nie w jednym przebiegu: planuje krok, podejmuje działanie, wywołując prawdziwe narzędzie — przeszukuje bazę danych, wysyła wiadomość, edytuje plik, odpytuje API — sprawdza, co to działanie faktycznie zwróciło, i na tej podstawie decyduje o następnym kroku. Powtarza to, aż zadanie zostanie ukończone, agent utknie albo zostanie zaprojektowany tak, by skonsultować się z człowiekiem. Ważne jest to, że nikt nie zatwierdza każdego pojedynczego kroku po drodze. System sam decyduje, czego spróbować dalej, na podstawie tego, co faktycznie wydarzyło się ostatnim razem, gdy działał — i może się mylić w każdym z tych punktów decyzyjnych, nie tylko w końcowej odpowiedzi.

Ta pętla nie jest nowa ani egzotyczna. Badacze opisują jej warianty — rozumowanie o tym, co zrobić, działanie, obserwacja wyniku, ponowne rozumowanie — od lat i właśnie ona działa pod produktami nazywającymi się agentami, od oprogramowania rozliczającego wydatki po narzędzia programistyczne, które otwierają terminal i uruchamiają własne polecenia. Agentem, a nie bardzo gadatliwym czatbotem, czyni coś to, że oddziałuje na świat, obserwuje, co się stało, i koryguje działanie — wielokrotnie, bez człowieka zatwierdzającego każdy ruch.

To samo polecenie, na dwa sposoby

Oto jak ta różnica wygląda, gdy dwa systemy dostają instrukcje, które brzmią podobnie.

Zadaj czatbotowi drugie polecenie, a i tak poda coś, co wygląda jak odpowiedź: trzy wiarygodnie brzmiące e-maile z przypomnieniem, wygenerowane z tego, co akurat wklejono do rozmowy. Nie odpyta jednak twojego prawdziwego systemu fakturowania, nie zweryfikuje liczby faktur i nie zapisze niczego w prawdziwym folderze wersji roboczych. Wynik może wyglądać podobnie. To, co system faktycznie zrobił, już nie.

Dlaczego to nie jest tylko spór o słowa

Różnica ma znaczenie, bo zmienia to, co może pójść nie tak i kto to wyłapie. Najgorszy przypadek czatbota to zła odpowiedź. Ktoś ją czyta i w normalnym toku rzeczy albo wyłapuje błąd, albo decyduje, że nie będzie na jej podstawie działał — pomyłka nigdy nie opuszcza rozmowy. Najgorszy przypadek agenta to zła czynność już wykonana w realnym świecie: przypomnienie, które poszło do niewłaściwego klienta z błędnym saldem, rekord zaktualizowany błędną wartością, zwrot środków zrealizowany dwa razy — zanim ktokolwiek cokolwiek sprawdził. Pomyłka nie jest już zdaniem. Jest zdarzeniem, a zdarzeń nie da się cofnąć.

Dlatego agent wymaga innego rodzaju nadzoru niż czatbot. Czatbot potrzebuje głównie kogoś, kto sprawdza jego odpowiedzi, kiedy znajdzie na to czas. Agent wymaga, by jego twórcy z góry, zanim w ogóle ruszy, zdecydowali, które działania może podejmować bez pytania, które wymagają, by człowiek najpierw zobaczył plan, i co się dzieje, gdy agent utknie. Jeśli rozstrzygniesz to dopiero po fakcie, przekonasz się na własnej skórze, co agent już zrobił.

Możesz ufać tylko temu, co widzisz

To ta sama idea, która stoi za pojęciem Czytelność w FabricLoop: możesz zarządzać tylko takim dostępem i takim zachowaniem, które faktycznie widzisz. W przypadku czatbota jest to niemal automatyczne — cały jego wynik to wiadomość, którą czyta człowiek, więc czynność i zapis czynności są tym samym. W przypadku agenta tak nie jest. Jego działania dzieją się wewnątrz innych systemów — CRM, skrzynki odbiorczej, bazy danych, pliku — i jeśli nic nie rejestruje, czego dotknął, co zmienił albo co wysłał, nie da się tego później przejrzeć, a tym bardziej zatrzymać wcześniej. Czytelność nie jest dodatkiem do zgodności z przepisami, nakładanym na agenta. W przypadku agenta to cała kwestia, bo jego „odpowiedź” nie jest zdaniem, które można sprawdzić i poprawić — to zbiór działań, o których możesz nigdy się nie dowiedzieć, jeśli system nie został zbudowany tak, by ci je pokazać.

To praktyczne powiązanie obu idei: agent niesie ze sobą większe i inne ryzyko niż czatbot, i właśnie dlatego potrzebuje widocznego śladu tego, co zrobił, a w przypadkach o wyższej stawce punktu kontrolnego przed działaniem — pojęcie Wskaźnik Interwencji Człowieka w FabricLoop traktuje to jako liczbę, którą się projektuje i mierzy, a nie dodatek doklejany wtedy, gdy coś już poszło nie tak.

Rynek konsekwentnie wycenia to na opak

Gdy masz już prawdziwy test, widać, jak często etykieta kłamie w obie strony. Mnóstwo produktów intensywnie promowanych jako „agenci AI” — to słowo w nagłówku strony głównej, w planach cenowych — to w środku jeden dobrze dostrojony prompt: przeczytaj dane wejściowe, wygeneruj wynik, koniec. Żadnego samodzielnego wywołania narzędzia, żadnej pętli, żadnej decyzji podjętej bez człowieka zatwierdzającego kolejne kliknięcie. Tymczasem mnóstwo oprogramowania, które nigdy nie używa słowa „agent” — zautomatyzowany proces fakturowania, system monitoringu, który sam przekierowuje ruch, skrypt operacyjny, który restartuje usługę po awarii i sprawdza, czy to pomogło — po cichu uruchamia dokładnie opisaną wyżej pętlę. Słowo na etykiecie nie mówi nic pewnego o tym, z której maszyny naprawdę korzystasz.

Nic z tego nie wymaga zaplecza technicznego, żeby to zastosować. Następnym razem, gdy dostawca albo kolega nazwie coś agentem, zapytaj, co naprawdę zrobiło między twoją instrukcją a wynikiem — i o ilu z tych kroków zdecydowało samo.