Czy agent AI musi mieć "sumienie"?

Michał Nowakowski · 2 października 2026

ISO 42001 wymaga etyki? Czy to oznacza, że agenci i asystenci AI muszą być projektowani z uwzględnieniem ludzkiej moralności? Co w praktyce oznacza "embedded trustworthiness" w AI Governance?

ISO 42001 wymaga etyki? Czy to oznacza, że agenci i asystenci AI muszą być projektowani z uwzględnieniem ludzkiej moralności? Co w praktyce oznacza "embedded trustworthiness" w AI Governance?

Kończę przygotowywać jednego klienta do certyfikacji ISO 42001, czyli standardu zarządzania AI. Przygotowując dokumenty operacyjne, a więc takie, które pozwalają na wykonanie konkretnych założeń Polityki, dużo miejsca powinniśmy poświęcić zagadnieniu etycznego projektowania, rozwijania i stosowania AI.

To nie moje "widzimisię", ale konkretny wymóg. Oczywiście nikt nie zmusi nas do postępowania w sposób "moralny", ale jeżeli chcemy się certyfikować i ogólnie pozostawać w zgodzie z dobrymi praktykami i standardami, to czeka nas co najmniej przygotowanie instrukcji.

Taka instrukcja powinna mieć uniwersalny charakter, ale dzisiaj chciałbym skupić się na części dotyczącej agentów i asystentów AI. Trochę na kanwie rekomendacji ENISA w sprawie bezpiecznego wytwarzania oprogramowania AI, a trochę "po prostu".

Z czego składa się taki dokument?

✅ cele, zakres i definicje, a więc zakreślenie konkretnego obszaru, który pokrywamy, w taki sposób, aby nie budził wątpliwości - tutaj centralnym zagadnieniem jest zdefiniowanie czym są dla nas agenci i asystenci AI,

✅ role, a więc jasne określenie kto i za co odpowiada w aspekcie wewnętrznym,

✅ autonomia, gdzie wyznaczamy jej poziomy, np. wspierający, potwierdzany, ograniczony i autonomiczny,

✅ proces projektowania, a więc zasady które musimy stosować tworząc fundamenty dla agentów, w tym poprzez odpowiednie decyzje projektowe co do dostępu do źródeł czy narzędzi,

✅ proces rozwijania, gdzie określamy takie zagadnienia jak instrukcje "behawioralne", bramki narzędziowe czy zasady funkcjonowania w ramach sandboxa,

✅ procesy wdrażania i eksploatacji, gdzie wprowadzamy konkretne reguły dotyczące monitorowania,

✅ zasady korzystania z agentów oraz ograniczenia dla agentów "przychodzących", a także zasady zbierania logów.

Do tego dochodzą załączniki w postaci między innymi MANIFESTU czy karty agenta. Tutaj mamy dowolność, ale musimy to spiąć z różnymi jednostkami w naszej organizacji. I teraz pojawia się pytanie - gdzie w tym wszystkim etyka?

W każdym z tych obszarów staramy się zaadresować zasady, wartości i działania, które są oczekiwane w świetle naszego podejścia do kwestii etycznej i godnej zaufania AI. Naszemu personalowi dajemy bardzo konkretne wsparcie w postaci checklist do sprawdzenia i zachowań akceptowalnych i nieakceptowalnych. To możemy łączyć chociażby z AI Act.

Oczywiście wszystko rozbijać się będzie potem o konkrety, a więc np. uwzględnienie takiej instrukcji w procesie SDLC. No i pozostaje pytanie - kto będzie monitorował stosowanie. Czy będzie to compliance czy AI Governance Officer? A może ktoś bardziej techniczny? Odpowiedź już wkrótce ; )