Stanford: Agenci AI sobie nie "ufają" i dużo na tym tracimy. Problem koordynacji zadań w systemach multiagentowych
Michał Nowakowski · 8 czerwca 2026
Badanie na Stanford wyraźnie daje do zrozumienia - współpraca nie jest mocną stroną agentów AI...
Natrafiłem dzisiaj na bardzo interesujące badanie "CooperBench" opracowane w ramach Uniwersytetu Stanforda. Poważne, z konkretnymi eksperymentami i benchmarkami. To lubię. W badaniu chodziło w zasadzie o to, aby sprawdzić jak agenci AI (de facto modele LLM) radzą sobie we współpracy, tak jak robi się to np. w zespołach developerskich. I czy są potencjalnie lepsi niż ludzcy odpowiednicy.
No bo przecież agenci AI to przyszłość i już dzisiaj powinniśmy ostro iść w systemy multiagentowe!
** Zanim przejdę do zwyczajowego narzekania i nakłaniania Was do większej ostrożności przy podejmowaniu "dużych" decyzji inwestycyjnych w AI spójrzmy na to co wynika z badań, które przeprowadził Hao Zhu z kolegami i koleżankami. A można to streścić tak: **
- W CooperBench dowiedzieliśmy się, że choć agenci AI rozmawiają jak ludzie, wciąż muszą się jeszcze wiele nauczyć o tym, jak język działa w kontekście społecznym. Zastrzeżenia wymaga tutaj, że badaczom chodziło o obszar programowania. *
A po ludzku? Chyba nie będzie nadużyciem, jeżeli napiszę, że po prostu agenci AI - na razie - lepiej radzą sobie w pojedynkę. Bardziej złożone zadania, które mogą wymagać wielu etapów i podejmowania decyzji na różnych poziomach mogą być nie do ogarnięcia przez zespoły składające się np. z kilku agentów, którym przypiszemy konkretne - projektowe - role mogą się istotnie pogubić na skutek działania nawet tylko jednego z agentów.
Podobne wnioski pojawiły się w innym badaniu, które wykazało, że multiagentowe systemy mogą sobie dobrze radzić ze złożonymi zadaniami, ale jeden błąd może wykrzaczyć całość. I odwołując się do CooperBench - może się zdarzyć, że drugi czy kolejny agent np. zignoruje sugestie o błędach i wykona zadanie w sposób niewłaściwy.
Badanie: https://openreview.net/pdf?id=bkiM54QftZ
Czyli innymi słowy - pojawia się swoista "ejajowa" głuchota i ignorancja. Badacze wykazali, że "zły" agent może zwyczajnie być uparty i pchać błędny kod lub zwyczajnie nie dostrzegać błędu, a może nawet być przekonany, o tym że jego jest lepsze =)
W konsekwencji możemy otrzymać wynik, np. kod pójdzie na produkcje i popsuje nam piątkowe popołudnie. To w zasadzie nie jest jakieś gigantyczne odkrycie, bo przecież od dawna jest jasne, że raz popełniony i niedostrzeżony błąd może wpłynąć na realizację projektu. Tylko tutaj ciekawsze jest coś innego.
W "tradycyjnych-białkowych" zespołach rzadko (a przynajmniej nie tak często) zdarza się, że po dostrzeżeniu błędu przez drugiego pracownika jest on ignorowany i "puszczany" dalej. Rzecz jasna czasem nie da się powstrzymać ego i przekonani o swoich nadzwyczajnych i niepodrabialnych umiejętnościach przepuszczamy coś dalej, ale powiedzmy sobie szczerze - zespoły są po to, żeby się wspierać i eliminować ryzyko błędu poprzez "drugą parę oczu" i bardziej złożony nadzór. Prędzej czy później ktoś dostrzeże i poprawi.
Tymczasem badanie CooperBench pokazuje coś zupełnie innego - agenci AI niekoniecznie działają jak zespół z podziałem ról i odpowiedzialności. Ba, nawet więcej - lepiej radzą sobie w pojedynkę, naprawiając własne błędy. Według badaczy:
Wyniki - realizacja konkretnych zadań wypadała lepiej, gdy agent działał w pojedynkę, a nie w "grupie". To akurat odnosi się do specyficznych typów zadań, jakimi jest kodowanie, ale badanie, które cytowałem wcześniej było szersze i obejmowało także inne typy zadań.
Oczywiście to wcale nie musi być regułą, ale jeżeli przyjmiemy, że ryzyko adaptacji błędnych "decyzji" jest wyższe niż w przypadku tradycyjnego zespołu lub samodzielnego agenta, to poddaje to pod wątpliwość budowania - dzisiaj - bardziej złożonych struktur multiagentowych.
Może to mieć szczególne znaczenie w przypadku obszarów i decyzji "high stake", czyli takich, które mogą np. wpływać na systemy "core'owe", sytuację człowieka czy strategiczne procesy lub funkcjonalności.
I teraz kolejna ciekawostka dotycząca komunikacji:
Wiemy dobrze, że przejrzystość i jasna komunikacja to złoto. Dzięki temu jesteśmy w stanie uniknąć bardziej kosztownych błędów i relatywnie szybko zmienić kierunek działań. Dobrze zorganizowana i dokumentowana komunikacja jest też ważna z perspektywy odpowiedzialności, bo coś raz powiedziane/napisane zostaje. A audyt może być mało wyrozumiały.
Tymczasem zdaniem badaczy ze Stanforda:
- agenci przeznaczają nawet do 20% swojego budżetu na komunikację. Zmniejsza to liczbę konfliktów przy scalaniu kodu (ang. merge conflicts), ale nie przekłada się na poprawę ogólnego wskaźnika sukcesu. Kanał łączności jest przeciążony powtórzeniami, brakiem reakcji ze strony modeli oraz halucynacjami. *
Te 20% to także realny koszt do uwzględnienia przy budżetowaniu rozwiązań agentowych, bo to jednak konsumuje tokeny, które nie przynoszą realnych korzyści. Dodatkowo mamy konkretne statystyki (rzecz jasna na badanej próbce), które pokazuję, że
- Błędy dotyczące oczekiwań (42%): agenci nie potrafią przetworzyć i uwzględnić informacji o stanie, w jakim znajduje się ich partner.
- Błędy komunikacyjne (26%): zadawane pytania pozostają bez odpowiedzi, co przerywa pętle decyzyjne.
- Błędy dotyczące zobowiązań (32%): agenci łamią wcześniejsze obietnice lub składają niemożliwe do zweryfikowania deklaracje.
Brzmi jak typowy zespół developerski? Może, ale mechanizm kontroli i nadzoru jest w tym przypadku łatwiejszy do zaaplikowania, a system zarządzania jakością ma prawo zadziałać. Przy automatycznym i dość szybkim działaniu jest to znacznie utrudnione.
** Pojawia się więc zasadnicze pytanie - brać czy nie brać? **
To w zasadzie problem governance - czy się nam to podoba, czy nie. Jeżeli jesteśmy w stanie:
- zaakceptować ryzyko związane z multiagentami i umiejętnie tym ryzykiem zarządzić [zadajcie sobie pytanie czy jest to np. opisane w Waszej matrycy ryzyk i przypisane do właściwego zespołu],
- stworzyć mechanizmy kontroli jakości połączone z eskalacją i działaniami naprawczymi, w tym w zakresie incydentów ICT,
- jasno określić zakresy odpowiedzialności oraz wprowadzić mechanizmy "human-in-the-loop", a także zmodyfikować i wdrożyć odpowiedni ML/AIops,
to w zasadzie można spróbować. Oczywiście nie możemy tutaj zapominać o analizie kosztów i uzysków, które z wprowadzenia rozwiązania możemy ponieść i osiągnąć. Badacze obu projektów dają pewne nadzieje - są mechanizmy, które usprawniają działanie agentów w modelu koordynacji, ale są one wymagające i jeszcze niezbyt dojrzałe.
Może więc warto poczekać? A jeżeli nie możecie czekać, to czas wziąć się do roboty i zacząć budować swój AI Governance, który uwzględni również perspektywę agentową. Do dzieła!