jak zarządzić agentami ai?
Michał Nowakowski · 8 sierpnia 2026
Po prostu - jak zacząć tworzyć nasz system zarządzania agentami AI w organizacj
Co zrobić, gdy autonomiczny agent wymknie się nam spod kontroli i z przyjaznego "co-pilota" stanie się jeźdźcem apokalipsy siejącym pożogę i zniszczenie?
No, albo wyśle sms dla byłego/byłej zamiast nas samych? Dobra, dokona "autonomicznego" ataku na ogromną organizację:
✅ planując swoją ucieczkę z nieszczelnego laboratorium (sandboxa),
✅ zbierając materiały "na" atakowaną organizację ze źródeł, do których nie powinien mieć dostępu,
✅ uzbrajając się potężnie i siejąc wspomnianą destrukcję?
Przede wszystkim się uspokoić i zastanowić nad faktami. A fakty są takie, że systemy agentowe jak bardzo byśmy nie chcieli są nadal narzędziami, za których konfigurację odpowiadają ludzie. Co oznacza, że to co ewentualnie się dzieje jest wynikiem:
❌ błędu ludzkiego, np. nadmiernych uprawnień, braku filtrowania czy braku ograniczeń co do źródeł, a także nadzoru ludzkiego,
✅ intencjonalnego działania człowieka, który chce coś sprawdzić lub zwyczajnie ma nieczyste/nieetyczne intencje.
I teraz, gdy wróciliśmy z ☁️, to możemy zastanowić się co właściwie powinniśmy robić w kontekście rozwiązań agentowych, o ile w ogóle dopuszczamy je w naszej działalności.
Nasz plan działania powinien być następujący:
🎯 zdefiniowanie pojęcia agentycznej AI, bo bez tego pewne rozwiązania mogą nam wymykać się z kontroli i nadzoru,
🎯 ustalenie procesów / obszarów, w których można wykorzystywać agentów i określenie warunków, które należy spełnić, aby było to bezpieczne, zgodne z przepisami i efektywne biznesowo,
🎯 jasne określenie zakresów odpowiedzialności za rozwiązania agentyczne, zarówno na poziomie od "zera do wdrożenia", jak i później w ramach monitorowania działania,
🎯 zdefiniowanie zasad nadzoru człowieka i poziomów decyzyjności, które są akceptowalne, np. decyzje personalne podejmuje wyłącznie człowiek, ale także określenie "thresholdów" dla "killswitch",
🎯 wprowadzenie mechanizmów AgenticAIops (lub po prostu ML/AIops), które pozwolą nie tylko na bieżący monitoring i pozyskiwanie logów, ale także podejmowanie działań na skutek incydentów,
🎯 ustalenie i zastosowanie zasad dotyczących działania "po", czyli w jaki sposób pozyskujemy dane do weryfikacji "co się stało" i kto podejmuje dalsze działania, np. naprawcze czy raportowe.
Oczywiście jest to dziedzina mocno interdyscyplinarna i nie może być realizowana wyłącznie przez IT i security. Aby to było bezpieczne musimy też uwzględnić w naszych ryzykach właśnie ryzyka AI, a tam podkategorię dla agentów AI. Bez tego nie ogarniemy skali wyzwań.
I potem mamy problem, bo obecny chłopak/dziewczyna naszej/ego ex może zarzucić nam - niesłusznie! - że próbujemy odbić. A tego przecież nie chcemy, prawda?
- credits to Eduardo Ordax / nie wiem czy ten "twitt" istnieje, ale idealnie tutaj pasuje.