Czy agent AI musi mieć "sumienie"?

Michał Nowakowski · 2 października 2026

ISO 42001 wymaga etyki? Czy to oznacza, że agenci i asystenci AI muszą być projektowani z uwzględnieniem ludzkiej moralności? Co w praktyce oznacza "embedded trustworthiness" w AI Governance?

ISO 42001 wymaga etyki? Czy to oznacza, że agenci i asystenci AI muszą być projektowani z uwzględnieniem ludzkiej moralności? Co w praktyce oznacza "embedded trustworthiness" w AI Governance?

Kończę przygotowywać jednego klienta do certyfikacji ISO 42001, czyli standardu zarządzania AI. Przygotowując dokumenty operacyjne, a więc takie, które pozwalają na wykonanie konkretnych założeń Polityki, dużo miejsca powinniśmy poświęcić zagadnieniu etycznego projektowania, rozwijania i stosowania AI.

To nie moje "widzimisię", ale konkretny wymóg. Oczywiście nikt nie zmusi nas do postępowania w sposób "moralny", ale jeżeli chcemy się certyfikować i ogólnie pozostawać w zgodzie z dobrymi praktykami i standardami, to czeka nas co najmniej przygotowanie instrukcji.

Taka instrukcja powinna mieć uniwersalny charakter, ale dzisiaj chciałbym skupić się na części dotyczącej agentów i asystentów AI. Trochę na kanwie rekomendacji ENISA w sprawie bezpiecznego wytwarzania oprogramowania AI, a trochę "po prostu".

Z czego składa się taki dokument?

✅ cele, zakres i definicje, a więc zakreślenie konkretnego obszaru, który pokrywamy, w taki sposób, aby nie budził wątpliwości - tutaj centralnym zagadnieniem jest zdefiniowanie czym są dla nas agenci i asystenci AI,

✅ role, a więc jasne określenie kto i za co odpowiada w aspekcie wewnętrznym,

✅ autonomia, gdzie wyznaczamy jej poziomy, np. wspierający, potwierdzany, ograniczony i autonomiczny,

✅ proces projektowania, a więc zasady które musimy stosować tworząc fundamenty dla agentów, w tym poprzez odpowiednie decyzje projektowe co do dostępu do źródeł czy narzędzi,

✅ proces rozwijania, gdzie określamy takie zagadnienia jak instrukcje "behawioralne", bramki narzędziowe czy zasady funkcjonowania w ramach sandboxa,

✅ procesy wdrażania i eksploatacji, gdzie wprowadzamy konkretne reguły dotyczące monitorowania,

✅ zasady korzystania z agentów oraz ograniczenia dla agentów "przychodzących", a także zasady zbierania logów.

Do tego dochodzą załączniki w postaci między innymi MANIFESTU czy karty agenta. Tutaj mamy dowolność, ale musimy to spiąć z różnymi jednostkami w naszej organizacji. I teraz pojawia się pytanie - gdzie w tym wszystkim etyka?

W każdym z tych obszarów staramy się zaadresować zasady, wartości i działania, które są oczekiwane w świetle naszego podejścia do kwestii etycznej i godnej zaufania AI. Naszemu personalowi dajemy bardzo konkretne wsparcie w postaci checklist do sprawdzenia i zachowań akceptowalnych i nieakceptowalnych. To możemy łączyć chociażby z AI Act.

Oczywiście wszystko rozbijać się będzie potem o konkrety, a więc np. uwzględnienie takiej instrukcji w procesie SDLC. No i pozostaje pytanie - kto będzie monitorował stosowanie. Czy będzie to compliance czy AI Governance Officer? A może ktoś bardziej techniczny? Odpowiedź już wkrótce ; )

← Wszystkie wpisy · Strona główna

Część treści serwisu Legal Architect powstała przy wsparciu AI, również na etapie opracowania pojedynczych fragmentów. Informacja ta nie oznacza, że każdy materiał lub cytowane źródło zostały wygenerowane przez AI.