Operacjonalizacja: incydenty AI

Zarządzanie incydentami AI

Wykrywanie, klasyfikacja, reakcja i raportowanie incydentów związanych z systemami AI.

Incydent AI to zdarzenie, w którym system AI zachowuje się niezgodnie z założeniami i powoduje (lub może spowodować) szkodę dla użytkownika, organizacji lub osób trzecich. Wymaga osobnego procesu — klasyczne IT IR nie wystarcza. ## Klasy incydentów - **Halucynacje i błędy faktograficzne** wpływające na decyzje. - **Bias / dyskryminacja** — nieuczciwe wyniki dla grup chronionych. - **Wycieki danych przez prompt / output** (np. dane osobowe w odpowiedzi LLM). - **Naruszenia bezpieczeństwa** — prompt injection, model theft, data poisoning. - **Drift jakości** — spadek dokładności poniżej progu akceptacji. ## Proces reakcji 1. Wykrycie (monitoring, zgłoszenie użytkownika, alert). 2. Triage i klasyfikacja (powaga, zasięg, kategoria). 3. Powstrzymanie (rollback modelu, wyłączenie funkcji, fallback do człowieka). 4. Analiza przyczyny źródłowej. 5. Naprawa i wdrożenie kontroli. 6. **Raportowanie zewnętrzne** — AI Act art. 73 (poważne incydenty), UODO (jeżeli dotyczy danych osobowych), CSIRT (jeżeli cyber). 7. Lekcje i aktualizacja rejestru ryzyk.

Enabled: tak

Primary Label: Skontaktuj się

Secondary Label: Zobacz usługi

Operacjonalizacja: incydenty AI

Jak ułożyć proces zgłaszania i obsługi incydentów AI: kategoryzacja, eskalacja, lekcje wyciągnięte i obowiązki raportowania z AI Act i NIS2.