Frontier AI w sektorze finansowym. Unijne organy radzą a ja tłumaczę, żebyście nie musieli czytać*

Michał Nowakowski · 3 sierpnia 2026

Nowe stanowisko unijnych organów nadzorujących sektor finansowy pokazuje na co zwrócić uwagę w kontekście modeli frontier AI. Tłumaczę co dokładnie tam znajdziecie

Frontier AI. A właściwie modele, które są na tyle zaawansowane, że ich udostępnienie może stanowić ryzyko systemowe. Co ciekawe, często - jakimś cudem - wymykają się unijnym regulacjom wynikającym z AI Act. Przynajmniej w zakresie systemowego ryzyka w rozumieniu tego rozporządzenia. No, ale ja dzisiaj nie o tym. A o czym?

O kolejnym "oświadczeniu" [ostrzeżeniu] w zakresie ryzyk, które mogą wynikać z pojawienia się świadomej AI. Wróć, modeli przełomowych. Całkiem niedawno nasz rodzimy nadzorca wydał własne rekomendacje (pisałem o tym tutaj), w których wyraził swoje dość konkretne i rozsądne oczekiwania względem instytucji finansowych i podmiotów je wspierających (pośrednio). A na koniec lipca swoim stanowiskiem postanowiły uraczyć nas unijne organy nadzoru, które w dokumencie "ESA Statement Toward a consistent and risk-based approach for ICT risks from frontier AI models" fajnie opisały co można by zrobić, żeby lepiej zarządzać ryzykiem ICT "w specyfice" AI.

Frontier AI.

Zdaniem unijnych organów nadzoru ich rozwój i dostępność mogą przyśpieszyć coś o czym mówiliśmy od dawna - rozwój ryzyk w zakresie cyberbezpieczeństwa i stanowi wyraźny sygnał, że potrzeba wzmocnienia środków ochrony i zdolności do szybkiego odpowiadania na incydenty, które mogą się pojawić.

Naprawdę? Serio. No bo takie modele w niewłaściwych rękach mogą generować ryzyko systemowe, ponieważ:

✅ pozwalają na naprawdę szybkie wykrywanie i wykorzystywanie podatności (to akurat pokazują ostatnie wydarzenia, m.in. z Hugging Face i OpenAI),

✅ umożliwiają dokonywanie ataków nie tylko na pojedynczym "obiekcie", ale i na współdzielonej (np. chmurowej) infrastrukturze,

✅ dają radę z wykorzystywaniem pojedynczych punktów podatnych na awarię w więcej niż jednym podmiocie.

Oczywiście organy dostrzegają również pozytywy, bo przecież te modele AI mogą wzmocnić naszą pozycję obroną, o ile możemy z nich korzystać i mamy do nich zaufanie. Swoboda w dostępie po stronie atakujących pokazuje jednak, że mamy nierównowagę sił, bo przecież taka instytucja finansowa musi:

przeprowadzić długie postępowanie zakupowe, dostać 1000 zgód i podpisów, zweryfikować czy organ nadzorczy pozwala na taką rewoltę lub czy przepisy nie mówią twardego "NIE", przejść przez procesy integracji, testy itp. itd.

Organy piszą tutaj o działaniach zgodnych z protokołami zapewnienia jakości, to złożone i mało elastyczne w świecie cyberzagrożeń z AI. Rzeczywiście, łatwo nie jest. A atakujący? No cóż, easy task. Więc ta nierównowaga rzeczywiście jest. Ale...

Jednocześnie nie jest tak źle, bo jak piszą organy:

Obecne unijne ramy regulacyjne, w szczególności akt o operacyjnej odporności cyfrowej (DORA) oraz akt o sztucznej inteligencji (AI Act), stanowią solidną podstawę do radzenia sobie z ryzykiem wynikającym z udostępniania modeli AI o wysokich możliwościach.

No dobra, dość złośliwości. Rzeczywiście jest tak, że przepisy - te unijne i te krajowe - dają solidne podstawy do zarządzania ryzykiem ICT. Problemem jest jednak to, że rzadko odnoszą się one do specyfiki AI (zachęcam do skorzystania z narzędzia opartego o MITRE ATLAS, żeby zobaczyć jaka jest skala zagrożeń). To coś za co zabraliśmy się niestety bardzo późno. Nie bacząc na to, że zagrożenia czają się za rogiem i wcale - jestem o tym przekonany - nie musieliśmy czekać na kolejne (bo teraz co dwa tygodnie premiera) na modele typu frontier AI.

W każdym razie, jeżeli mamy dobrze wdrożoną DORA i NIS2, to w sumie chyba powinno być ok. Organy przypominają jednak, że powinniśmy nasze ramy zarządzania ryzykiem ICT nieco poszerzyć i zaktualizować w trzech obszarach:

✅ zapobiegania, które powinno opierać się na REJESTRZE ZASOBÓW IT, która uwzględni także komponenty AI (dużo o tym mówiłem w trakcie ostatniego szkolenia, a uczestnicy dostali nawet wzór takiego rejestru); taki rejestr ułatwia nam ocenę co jest krytyczne, a co mniej i jakie ryzyko może generować dane aktywo (to ważny element AI Governance, które czerpie garściami z cyberbezpieczeństwa) + wdrożeniu zasad bezpiecznego projektowania (secure-by-design), które ma odzwierciedlenie m.in. w procedurach i procesach sSDLC; mamy też aktualizacje itp. itd. - raczej standard,

✅ wykrywania, które musi rozszerzyć się na nowe podatności, ale także zmodyfikować pod kątem szybkości reakcji i złożoności, bo dzisiejsze zagrożenia mocno przyśpieszyły i zwiększyły skalę zagrożenia; musimy więc wdrażać środki techniczne i organizacyjne do detekcji, które zapewnią, że identyfikacja, analizowanie i reagowanie na naruszenia naszej przestrzeni będą na tyle skuteczne, że uchronią nas przed poważnymi incydentami; tutaj organy podkreślają (!!!):

Procesy monitorowania przechodzą z trybu okresowego na ciągły, co pozwala skrócić czas wykrycia oraz reakcji i zwiększyć widoczność nietypowych lub złośliwych zachowań. W tym mieści się jeszcze jedna bardzo ważna uwaga:

Zdolności centrów operacji bezpieczeństwa (SOC) oraz zespołów red teamingowych mogą zostać wzmocnione rozwiązaniami sztucznej inteligencji, stanowiąc uzupełnienie dotychczasowego potencjału technicznego i kadrowego. Nie oszukujmy się - budżety na cyberbezpieczeństwo muszą istotnie wzrosnąć, jeżeli nie chcemy się potknąć i naprawdę wybić sobie zęby.

✅ zarządzania ryzykiem ICT, które obejmie także testowanie odporności, usprawnienie procedur "backupowych" i disaster recovery czy PODNOSZENIE DOJRZAŁOŚCI w zakresie cyber; mamy tutaj kolejną radę, którą warto wziąć sobie do serca:

Ramy zarządzania ryzykiem, metodologie testowania oraz struktury nadzoru (governance) muszą dostosować się do zagrożeń wspieranych przez AI i potencjalnych awarii obejmujących wiele systemów naraz. Pomyślmy w tym miejscu o dobrym AI Governace. Dobrym, nie bazującym wyłącznie na przepisach.

No i w ramach tego zarządzania musimy na nowo przemyśleć nasze ramy odpowiedzialności, bo jak wskazują organy, "[r]ównolegle organy zarządzające muszą zapewnić, że odpowiedzialność nadąża za nowo powstającymi ryzykami, podczas gdy budowanie świadomości cyberbezpieczeństwa musi ewoluować w stronę bardziej proaktywnego i elastycznego podejścia". To nic innego jak wezwanie dla zarządów, aby poważnie podchodziły do kwestii odporności cyfrowej i choć akurat instytucje finansowe mają to dobrze zaadresowane, to co z pozostałymi?

Tak czy siak, warto jeszcze pomyśleć o naszej architekturze biznesowej i modyfikacji planów ciągłości działania - raczej standardzik. No, ale jest też jeszcze coś. Zarządy powinny być w pełni zaangażowane w tematykę zagrożeń wynikających z modeli frontier AI, co wymuszać będzie przebudowanie ram nadzoru i odpowiedzialności, planami reagowania oraz TADAM:

wystarczającymi inwestycjami wewnętrznymi przeznaczonymi na wzmacnianie odporności cyfrowej.

To koniec? Prawie. Przypomniano także o ramach apetytu na ryzyko, które powinniśmy poddać przeglądowi. To wydaje się jasne, tym bardziej, że takie aktualizacje powinny mieć zawsze miejsce w przypadku pojawienia się "czarnego łabędzia" (przynajmniej w teorii), żeby uwzględnić nowe ryzyko w naszej tabelce.

Tutaj organy wskazały też, że powinny zostać ustanowione odpowiednie struktury zarządcze, które będą wspierać skuteczne zarządzanie ryzykiem powiązanym z modelami frontier AI. Może nie być to łatwe zadanie, ale jeżeli przemyśleliśmy to odpowiednio wcześnie, np. na etapie projektowania naszych ram AI Governance, to jesteśmy w domu. Jeżeli nie, to czeka nas dodatkowa praca.

Na koniec dostajemy ważny i przydatny załącznik, który objaśnia nam jak w sposób efektywny i skuteczny możemy poradzić sobie z częścią zagrożeń wynikających z tego o czym "rozmawiamy". Warto do tego sięgnąć, a ja z pewnością jeszcze do tego wrócę.

Na koniec. Od lat zajmuje się zagadnieniami AI i cyberbezpieczeństwa w sektorze finansowym, więc jeżeli szukacie kogoś do rozmowy, to może warto się spotkać i porozmawiać?

*żartowałem, i tak musicie ;)