Anatomia głębokiego agenta: plan, podagenci, pliki, pamięć

Zostawiasz agenta na noc z zadaniem na kilka godzin: przeczytać wytyczne trzech programów grantowych, sprawdzić wobec każdego Twój projekt i przygotować jednostronicową notatkę, do którego warto aplikować. Rano czeka radosna wiadomość, że gotowe. Notatka poleca program, którego termin minął w zeszłym miesiącu — agent zauważył to w dwunastym kroku i zapomniał w czterdziestym. Jego rozumowanie jest rozsiane po rozmowie, której przeczytanie zajęłoby godzinę. Nie ma planu do obejrzenia, nie ma notatek i nie ma od czego zacząć ponownie, jeśli chcesz poprawić jedną część.

Prawdziwa przyczyna: pętla to jeszcze nie agent

Większość agentów to pętla. Model myśli, wywołuje narzędzie, czyta wynik, myśli dalej. Na pięć kroków to wystarcza. Na pięćset nie, bo wszystko, co agent wie o zadaniu, mieszka w jednym miejscu — w rozmowie — a rozmowa jest jednocześnie jego pamięcią, obszarem roboczym i planem.

Głębi nie daje agentowi większy model. Dają ją części poza modelem, które nadają pracy strukturę: coś do planowania, ktoś do delegowania, miejsce do pisania i coś do pamiętania. Zabierz którąkolwiek, a zepsuje się coś konkretnego.

Cztery części i co się psuje bez każdej z nich

Plan. Lista zadań w pliku. Bez niej plan agenta to to, co powiedział ostatnio, a długi przebieg dryfuje: wczesne ograniczenia, takie jak termin, po cichu znikają z pola widzenia. Z nią plan jest obiektem, który możecie czytać oboje, każdy punkt ma status, a ograniczenie zapisane na górze zostaje na górze.

Podagenci. Wykonawcy uruchamiani z czystym kontekstem, po jednym na punkt, oddający jeden raport. Bez nich wszystko dzieje się w jednym kontekście, a uwaga agenta idzie na jego własną historię — o tym jest tekst rój zamiast jednego bota. Z nimi planista trzyma tylko plan i raporty.

System plików. Wirtualny system plików, który agenci czytają i zapisują: notatki, szkice, pobrane dokumenty, wyniki pośrednie. Bez niego każdy wynik żyje w rozmowie i razem z nią umiera, a długie zadanie nie przetrwa restartu. Z nim praca odkłada się tam, gdzie możesz ją otworzyć, a jeden podagent może przekazać kolejnemu plik zamiast akapitu.

Pamięć. Dwa rodzaje, celowo trzymane osobno. Pamięcią roboczą zadania są wspomniane pliki i należy ona do zadania. Długa pamięć o Tobie to co innego: w Kyber należy do KyberBota, mieszka na Twoich urządzeniach, a w większości na węźle domowym. Rój dostaje z niej wycinek, którego potrzebuje zadanie. Agenci mogą zachować to, czego nauczyli się o pracy — to źródło było niewiarygodne, ta metoda zawiodła — zapisane jako notatki, ale nie to, czego dowiedzieli się o Tobie.

Warto nazwać też piątą część. Umiejętności to katalogi z instrukcjami i skryptami — jak czytać wytyczne grantu, jak sformatować notatkę — wczytywane tylko wtedy, gdy zadanie ich potrzebuje. Bez nich albo prompt rośnie, aż w większości jest nie na temat, albo każdy przebieg wymyśla metodę od nowa. Z nimi wiedza agenta o tym, jak coś zrobić, jest czytelną rzeczą, którą możesz wersjonować i poprawiać.

Co spina te części

Części to jeszcze nie system. Łączą je cztery rzeczy.

Homeostat na koszt i pewność. Planista obserwuje, ile rój wydaje i jak często jego raporty wymagają poprawek, a gdy któraś zmienna wychodzi z zakresu, zwalnia: mniej podagentów, mniejsze kroki, więcej pytań. Argument za regulowaniem własnego zachowania agenta jest w tekście agent, który reguluje sam siebie.

Polityki poza modelem. O tym, co podagent może przeczytać, uruchomić i z czym się połączyć, decyduje jego cela KyberCell, a nie akapit w promptcie. Model da się wyperswadować z instrukcji. Z zamkniętego portu — nie.

Człowiek w pętli, jednymi drzwiami. Agenci nie przerywają Ci bezpośrednio. Wszystko, co wrażliwe, wraca do KyberBota, który wie, kiedy i jak Cię zapytać.

Wspólny obraz świata. Dwudziestu podagentów potrzebuje jednej odpowiedzi na pytanie, czym jest klient albo termin. Daje im ją niewielka ontologia i graf, dzięki czemu ich raporty do siebie pasują.

Nic z tego nie zależy od tego, który model myśli. Mały model na decku i duży gdzie indziej pasują do tej samej anatomii, i o to chodzi: struktura zostaje, gdy model się wymienia. Wszystko działa na KyberLinux, tym samym systemie na karcie i na serwerze.

Test, który możesz zrobić dziś

Daj swojemu obecnemu agentowi zadanie na mniej więcej dziesięć kroków. W szóstym kroku go zatrzymaj. Potem odpowiedz:

1. Czy możesz otworzyć plik, który pokazuje, które kroki są zrobione?
2. Czy wyniki pośrednie to pliki, które możesz przeczytać, czy tylko wiadomości w rozmowie?
3. Czy po restarcie zacznie od kroku siódmego, czy od pierwszego?
4. Czy ograniczenie podane na początku jest dla niego nadal widoczne w szóstym kroku?
5. Czy wczytał instrukcje do zadań, których nie wykonywał?

Każde „nie” przy pierwszych czterech i każde „tak” przy ostatnim to brakująca część. Nie potrzebujesz naszego systemu, żeby to naprawić, ale skończysz na budowaniu tych samych pięciu rzeczy. Strona główna KyberAgent pokazuje, jak je składamy.