Sztuczna inteligencja

Osoba, która podejrzewa naruszenie AI Act, może złożyć skargę do właściwego organu nadzoru rynku. Rozporządzenie daje takie prawo zarówno osobom fizycznym, jak i prawnym. W określonych przypadkach osoba dotknięta decyzją opartą na wyniku systemu wysokiego ryzyka będzie mogła również żądać jasnego i znaczącego wyjaśnienia roli AI oraz głównych elementów rozstrzygnięcia.

System sztucznej inteligencji używany do oceny zdolności kredytowej osoby fizycznej lub ustalenia jej punktowego wyniku kredytowego jest w AI Act klasyfikowany jako rozwiązanie wysokiego ryzyka. Ustawodawca uznał, że taki wynik może przesądzić o dostępie do mieszkania, energii, telekomunikacji i innych podstawowych usług. Po zmianie harmonogramu szczegółowe obowiązki dla tej kategorii mają być stosowane od 2 grudnia 2027 r.

Systemy sztucznej inteligencji używane do oceny ryzyka i ustalania cen w ubezpieczeniach na życie i ubezpieczeniach zdrowotnych zostały w AI Act zaliczone do kategorii wysokiego ryzyka. Nie obejmuje ona automatycznie wszystkich narzędzi używanych przez ubezpieczycieli ani każdej polisy. Regulacja koncentruje się na dwóch rodzajach ochrony, w których algorytmiczna ocena może zdecydować o dostępie do świadczenia i jego cenie.

Meta błyskawicznie wycofała jedną z najbardziej kontrowersyjnych funkcji swojego nowego generatora obrazów. Rozwiązanie pozwalało wskazać publiczny profil na Instagramie i wykorzystać opublikowane na nim zdjęcia do stworzenia zupełnie nowej grafiki. Firma przyznała, że funkcja „minęła się z celem”.

Agent AI może samodzielnie odczytać wiadomość, wybrać usługę, uzupełnić formularz, wysłać polecenie do innego programu, zarezerwować podróż albo uruchomić płatność. AI Act nie tworzy dla takich rozwiązań osobnej kategorii prawnej i nie przyznaje im podmiotowości. Komisja Europejska wyjaśnia, że agent zwykle pozostaje systemem AI, często opartym na modelu ogólnego przeznaczenia, a zakres obowiązków zależy od funkcji i kontekstu użycia. Firma nie może przenieść odpowiedzialności na program tylko dlatego, że wykonał operację bez każdorazowego kliknięcia człowieka.

Małe przedsiębiorstwo nie musi tworzyć własnego modelu językowego, aby podlegać AI Act. Wystarczy, że korzysta z chatbota do obsługi klientów, generatora treści, narzędzia filtrującego CV albo systemu oceniającego zachowanie pracowników. Zakres obowiązków zależy od roli firmy i zastosowania systemu, a nie wyłącznie od wielkości zatrudnienia lub obrotu. MŚP korzystają z ułatwień, w tym łagodniejszej konstrukcji maksymalnych kar i środków wsparcia, ale nie są generalnie wyłączone z rozporządzenia.

Sztuczna inteligencja coraz częściej wspiera lekarzy w analizie badań, opisywaniu obrazów medycznych, planowaniu terapii i organizacji pracy placówek. AI Act nie zakazuje takich rozwiązań, ale uznaje część z nich za systemy wysokiego ryzyka. W ochronie zdrowia stawką jest bezpieczeństwo pacjenta, dlatego unijne przepisy wymagają m.in. zarządzania ryzykiem, wysokiej jakości danych, dokumentacji, przejrzystości i nadzoru człowieka.

AI Act wprowadza jedne z najostrzejszych ograniczeń wobec biometrii w przestrzeni publicznej. Szczególnie restrykcyjnie traktowane jest zdalne rozpoznawanie twarzy w czasie rzeczywistym przez organy ścigania. Unijne przepisy nie zakazują każdej kamery ani każdego systemu identyfikacji, ale stawiają granice tam, gdzie technologia może prowadzić do masowej inwigilacji, profilowania lub naruszania praw podstawowych.

ChatGPT, Gemini, Copilot czy Claude mogą pomóc w przygotowaniu pisma do urzędu, reklamacji, odwołania, wniosku albo skargi. AI Act nie zakazuje obywatelom korzystania z takich narzędzi. Nowe unijne przepisy wprowadzają jednak jasną granicę: sztuczna inteligencja może wspierać człowieka, ale nie powinna zastępować odpowiedzialności za treść dokumentu, zwłaszcza gdy sprawa dotyczy pieniędzy, zdrowia, pracy, świadczeń albo decyzji administracyjnej.

Deepfake przestaje być problemem wyłącznie polityków, celebrytów i dużych firm. Sztuczna inteligencja pozwala dziś tworzyć realistyczne zdjęcia, filmy i nagrania głosowe, które mogą wprowadzać odbiorców w błąd, podszywać się pod inne osoby albo służyć oszustwom. AI Act nie eliminuje tego zjawiska, ale wprowadza obowiązki przejrzystości: odbiorca ma wiedzieć, kiedy ma do czynienia z treścią wygenerowaną lub istotnie zmienioną przez AI.