Czym (nie) jest AI?

Zrozumienie granic, możliwości i mechaniki działania AI jest punktem wyjścia do skutecznego zarządzania nią.

Sztuczna Inteligencja (AI) odmienia się dziś przez wszystkie przypadki, co wcale nam sprawy nie ułatwia. Aby móc skutecznie nią zarządzać i kontrolować związane z nią ryzyka, musimy bardzo precyzyjnie zdefiniować, z czym mamy do czynienia.

A AI w rozumieniu biznesowym i prawnym (np. w kontekście AI Act) to niekoniecznie to samo co AI dla biznesu. Do tego dochodzą filozoficzne i marketingowe dyskusje na temat świadomości AI i robi się z tego niezły misz masz.

Czy zrozumienie czym jest a czym nie jest AI jest rzeczywiście tak trudne? To zależy, ale spróbujmy przyjrzeć się zagadnieniu ;)

Czym jest AI?

W dużym uproszczeniu, AI to system maszynowy (sic!) informatyczny projektowany do działania z pewnym stopniem autonomii, który może — dla celów określonych przez człowieka — wyciągać wnioski z otrzymanych danych wejściowych, aby generować wyniki takie jak przewidywania, treści, zalecenia lub decyzje wpływające na środowisko, z którym wchodzi w interakcję.

No, tak przynajmniej twierdzi AI Act, czyli rozporządzenie w sprawie sztucznej inteligencji i nie jest to najszczęśliwsza definicja, ale jest to dla nas jakiś start. Ale jak zapytasz product ownera to będzie miał swoje zdanie. A inżynier? To ten już w ogóle :)

Nieważne kto ma rację (może wszyscy?), ważne jest to, że zasadzie to AI nie ma jakiejś "jednej postaci". Dla jednych to koncepcja naukowa, dla innych po prostu narzędzie, a jeszcze dla innych zbiór algorytmów i matematyka.

Mówimy więc o zaawansowanej statystyce, systemach uczących się na podstawie ogromnych zbiorów danych, a nie o deterministycznych programach komputerowych opartych wyłącznie na warunkach "if-then". To właśnie indeterminizm, czyli brak przewidywalności jest z jednej strony zaletą, a z drugiej wyzwaniem, z którym musimy się mierzyć.

Ja podchodzę do tego tak - ważniejsze jest nieprawne pojęcie systemu AI, które ja rozumiem jako:

Oczywiście technik i podejść w uczeniu maszynowym i pokrewnych rozwiązaniach mamy całkiem sporo i każde mają inne zastosowania, ograniczenia i możliwości.

Nawet wspomniany AI Act ma swoje wytyczne, w których znajdziemy wiele wskazówek co tego typu technik i podejść (co ciekawe będą one niekiedy determinowały stosowanie AI Act.

https://ec.europa.eu/newsroom/dae/redirection/document/118635

Tradycyjne programowanie

Reguły (kod) + dane = odpowiedzi (rezultaty działania). System działa deterministycznie. Zawsze wiemy, dlaczego podjął konkretną decyzję. Z punktu widzenia "wyjaśnialności" (explainability) jest to dobre, bo daje nam szansę na wyjaśnienie z czego wynika dana decyzja. No, ale są też tego ograniczenia, bo nie wyjdziemy poza konkretny schemat.

Machine Learning

dane + odpowiedzi = reguły i wzorce (model). System sam uczy się zależności, dostrzegania zależności. Może działać probabilistycznie, czyli opierać się na prawdopodobieństwie (tzw. "czarna skrzynka") - tak działają np. duże modele językowe.

Czym AI NIE jest?

Z punktu widzenia AI Governance, najważniejsze jest to, że AI podejmuje decyzje, optymalizuje działania lub tworzy treści bazując na prawdopodobieństwie, a nie na z góry zaprogramowanej logice, którą można w pełni przewidzieć.

Dlatego wokół wielu systemów AI musimy budować tzw. "human-in-the-loop" (człowiek w procesie podejmowania decyzji), by móc mitygować związane z tym ryzyka. To nie oznacza, że niekiedy nie można polegać na agentach. Można, ale trzeba mieć to wszystko dobrze poukładane.

Czym jest sztuczna inteligencja?

Definicja AI w AI Act, różnice między modelem, systemem i ogólnym przeznaczeniem (GPAI). Wyjaśniamy pojęcia kluczowe dla zarządzania ryzykiem AI.

Aktualizacja: