Etyka AI (Responsible AI)
Czym powinna być „dobra” instrukcja / wytyczne dla etycznego projektowania, rozwijania i stosowania AI?
Moralność masz w sercu. Etykę kształtujemy razem.
Jednym z filarów AI & Data Governance jest etyczne podejście do danych oraz systemów AI. Przez ostatnie lata pojawiło się wiele „frameworków” i podejść, które aspirują do bycia modelowym dla organizacji. Prawda jest jednak taka, że…
…każda organizacja musi znaleźć swoją drogę, która będzie odzwierciedlała jej DNA, kulturę, ale i operacyjny model. Szukanie rozwiązania „one-size-fits-all” może sprowadzić nas w niewłaściwym kierunku. Może doprowadzić do ograniczenia działalności biznesowej lub po prostu stać się „washingiem” — papierowym podejściem, które się nie sprawdza.
A przecież nie o to chodzi…
Czym właściwie jest etyka AI?
- Ciągłym procesem — Wbudowanie w istniejące procesy oczekiwań w zakresie operacyjnej etyki to bezpieczeństwo organizacji i użytkowników.
- Realnym wpływem — Ustalenie w jaki sposób (nie)działamy przy projektowaniu, rozwijaniu i stosowaniu AI jest naszym kompasem i gwiazdą polarną. To nasze DNA.
- Mierzalnym celem — Etyka AI ma swoje „twarde” wskaźniki, np. w odniesieniu do sprawiedliwości, co pozwala na mierzenie realnego wpływu oczekiwań na procesy biznesowe.
- Wsparcie zarządzania ryzykiem — Zarządzanie ryzykiem w inicjatywach AI & Data jest kluczowe. Brak etycznego podejścia to realne ryzyko reputacyjne, finansowe i regulacyjne.
Ludzie nie stosują czegoś czego nie rozumieją
Wiele organizacji boryka się z problemem rozumienia czym jest etyka w kontekście projektów AI & Data.
Wynika to z faktu, że nikt nie tłumaczy na czym się ona opiera, jak ją stosować i kto właściwie za to wszystko odpowiada. Brak zrozumienia podstaw powoduje, że nie przechodzimy do szczegółów. Ignorujemy, a jak ktoś zapyta, to wzruszamy ramionami — „nikt nie wie co robić”.
Operacyjne ramy etycznej AI należy tłumaczyć w sposób adekwatny do odbiorcy. Inaczej „sprawiedliwość” rozumie inżynier, a inaczej pracownik działu zgodności.
Aby etyka AI wpisała się na stałe w procesy projektowania, rozwijania i stosowania AI musimy:
- Osadzić ją w strategii oraz polityce
- Budować i promować kulturę
- Komunikować i tłumaczyć
- Wyznaczyć osoby odpowiedzialne
- Stworzyć instrukcje i wytyczne dopasowane do odbiorców
75% w 2027 — tyle organizacji może posiadać „jakiś” framework etycznej AI.
Zasady etycznego podejścia do AI
- Poszanowanie autonomii człowieka — Systemy AI nie mogą prowadzić np. do ograniczenia zdolności człowieka do samostanowienia, nie mogą być wykorzystywane do manipulowania czy przejmowania kontroli nad zachowaniami człowieka.
- Zapobieganie szkodom — emanacja zasady „AI4GOOD”, czyli zapewnienie, że wykorzystanie systemów AI ma chronić człowieka a nie mu zagrażać, w tym w sferze psychicznej, ale i finansowej.
- Sprawiedliwość — Nasze dane i modele, które wykorzystujemy w ramach systemów AI powinny minimalizować ryzyko wystąpienia uprzedzeń i niesprawiedliwości.
- Wyjaśnialność — Systemy AI powinny być w jak najwyższym stopniu wyjaśnialne. Oznacza to, że niekiedy jeżeli nie będziemy w stanie wyjaśnić naszych decyzji bazujących na modelach, powinniśmy zrezygnować z ich stosowania. To należy łączyć z wymogami w zakresie ochrony danych osobowych.
Etyka AI nie jest częścią „prawa”, ale silnie je uzupełnia. Jest równoległa, nie obok.
AI Act
Choć etyka AI nie jest wpisana w przepisy, to… w samej preambule znajduje się bezpośrednie odwołanie do zasad „etycznej sztucznej inteligencji godnej zaufania” jako fundamentu systemów AI. Do tego są praktyki zakazane.
Nie tylko AI Act
Również przepisy o ochronie danych osobowych i wyjaśnienia do nich silnie akcentują potrzebę etycznego podejścia do technologii.
W ISO 42001 i 42005 oraz standardzie NIST AI Risk Management Framework etyka jest stałym i częstym aspektem.
Use case: ubezpieczenia
Zastosowanie systemów AI w ubezpieczeniach OC daje ogromne możliwości optymalizacji i zarządzania ryzykiem, ale niesie też konkretne wyzwania.
Poniżej przykłady sytuacji, które mogą spotkać ubezpieczyciela w kontekście systemów AI i które mogą wymagać decyzji o charakterze etycznym (moralnym).
Usuwanie danych Jeżeli model „silnie koreluje” np. miejsce zamieszkania z pochodzeniem czy zamożnością, to być może należy te dane usunąć ze zbioru danych treningowych?
Optymalizacja ceny Klient może być bardziej skłonny do zapłaty, nawet wyższej ceny, przy określonym progu, szczególnie przy stałych klientach. Rezygnacja z takiego podejścia jest decyzją o charakterze etycznym.
Przejrzystość Pokazanie klientowi powodów dla których dzisiaj otrzymuje wyższą składkę (np. konkretna stłuczka, styl jazdy), to ważna część „etycznej AI”.
Automatyzm Systemy odrzucające automatycznie skargi lub roszczenia, które mają znaczenie dla człowieka niekoniecznie możemy traktować jako etyczne. Obecność człowieka jest kluczowa. Są jednak też wyjątki.
Instrukcja — czego potrzebujemy?
Choć budowanie etycznego podejścia do projektów AI & Data należy zacząć od określenia naszej strategii i przyjęcia odpowiedniej polityki, to jednak „operacyjna instrukcja” będzie ważnym dokumentem praktycznym.
Celem instrukcji nie jest narzucenie określonego działania, ale wskazanie JAK można przyczynić się do realizacji zasad wyrażonych w polityce, np. zarządzania systemami AI. Ma ona być wsparciem dla realizacji celów biznesowych, a nie kolejnym „blokerem” biznesu.
Wyjaśnienie pojęć Nie dla każdego pojęcie „etycznej AI”, „sprawiedliwości”, „uprzedzenia” czy „przejrzystości” może być zrozumiałe. Wyjaśnijmy, aby uniknąć wątpliwości.
Zasady Etyczne podejście do inicjatyw AI & Data bazuje na zasadach (i wartościach). Objaśnijmy jak je rozumieć i jak osadzają się one w kontekście biznesowym.
Konkrety Lista działań, które możemy podjąć, żeby czuć się „etycznymi” w konkretnych przypadkach użycia. To ważna część — tutaj tłumaczymy naszą filozofię i przekładamy je na konkretne procesy.
Monitoring Określamy w jaki sposób badamy czy wszystko się „zgadza”. Wskażmy kto określa mierniki i weryfikuje ich spełnienie. To ważne także dla celów audytowych.
Przybornik AI Governance — etyka
- Polityka zarządzania AI — Dokument o znaczeniu fundamentalnym dla procesów obsługi inicjatyw AI & Data. To podstawy, które stosujemy w praktyce i w całym cyklu życia systemu AI.
- Polityka generatywnej AI — Zamiast zakazywać warto pozwolić, ale na naszych zasadach. Dobrze skonstruowana polityka daje nam większe poczucie bezpieczeństwa bez utraty efektywności.
- Instrukcja etycznej AI — Ważny dokument, który inżynierom, specjalistom od danych, compliance officerom daje wyraźne wskazówki jak powinni postępować.
- Mapowanie — Umiejscowienie „etycznych” elementów w kontekście całej organizacji jest kluczowe, jeżeli „to ma działać”. Połączenie tego z kwestiami compliance jest również istotne.
Zacznijmy powoli — szkolenia i warsztaty
Wspólnie ustalimy szczegóły, określimy docelową grupę i to, na czym na koniec Tobie zależy.
Instrukcja etycznej, odpowiedzialnej AI: czym jest etyka AI, jej zasady, use case, przybornik dokumentów i warsztaty. Materiał Michała Nowakowskiego.
Aktualizacja: