jak zarządzić agentami ai?

Michał Nowakowski · 8 sierpnia 2026

Po prostu - jak zacząć tworzyć nasz system zarządzania agentami AI w organizacj

Co zrobić, gdy autonomiczny agent wymknie się nam spod kontroli i z przyjaznego "co-pilota" stanie się jeźdźcem apokalipsy siejącym pożogę i zniszczenie?

No, albo wyśle sms dla byłego/byłej zamiast nas samych? Dobra, dokona "autonomicznego" ataku na ogromną organizację:

✅ planując swoją ucieczkę z nieszczelnego laboratorium (sandboxa),

✅ zbierając materiały "na" atakowaną organizację ze źródeł, do których nie powinien mieć dostępu,

✅ uzbrajając się potężnie i siejąc wspomnianą destrukcję?

Przede wszystkim się uspokoić i zastanowić nad faktami. A fakty są takie, że systemy agentowe jak bardzo byśmy nie chcieli są nadal narzędziami, za których konfigurację odpowiadają ludzie. Co oznacza, że to co ewentualnie się dzieje jest wynikiem:

❌ błędu ludzkiego, np. nadmiernych uprawnień, braku filtrowania czy braku ograniczeń co do źródeł, a także nadzoru ludzkiego,

✅ intencjonalnego działania człowieka, który chce coś sprawdzić lub zwyczajnie ma nieczyste/nieetyczne intencje.

I teraz, gdy wróciliśmy z ☁️, to możemy zastanowić się co właściwie powinniśmy robić w kontekście rozwiązań agentowych, o ile w ogóle dopuszczamy je w naszej działalności.

Nasz plan działania powinien być następujący:

🎯 zdefiniowanie pojęcia agentycznej AI, bo bez tego pewne rozwiązania mogą nam wymykać się z kontroli i nadzoru,

🎯 ustalenie procesów / obszarów, w których można wykorzystywać agentów i określenie warunków, które należy spełnić, aby było to bezpieczne, zgodne z przepisami i efektywne biznesowo,

🎯 jasne określenie zakresów odpowiedzialności za rozwiązania agentyczne, zarówno na poziomie od "zera do wdrożenia", jak i później w ramach monitorowania działania,

🎯 zdefiniowanie zasad nadzoru człowieka i poziomów decyzyjności, które są akceptowalne, np. decyzje personalne podejmuje wyłącznie człowiek, ale także określenie "thresholdów" dla "killswitch",

🎯 wprowadzenie mechanizmów AgenticAIops (lub po prostu ML/AIops), które pozwolą nie tylko na bieżący monitoring i pozyskiwanie logów, ale także podejmowanie działań na skutek incydentów,

🎯 ustalenie i zastosowanie zasad dotyczących działania "po", czyli w jaki sposób pozyskujemy dane do weryfikacji "co się stało" i kto podejmuje dalsze działania, np. naprawcze czy raportowe.

Oczywiście jest to dziedzina mocno interdyscyplinarna i nie może być realizowana wyłącznie przez IT i security. Aby to było bezpieczne musimy też uwzględnić w naszych ryzykach właśnie ryzyka AI, a tam podkategorię dla agentów AI. Bez tego nie ogarniemy skali wyzwań.

I potem mamy problem, bo obecny chłopak/dziewczyna naszej/ego ex może zarzucić nam - niesłusznie! - że próbujemy odbić. A tego przecież nie chcemy, prawda?

• credits to Eduardo Ordax / nie wiem czy ten "twitt" istnieje, ale idealnie tutaj pasuje.