Akt w sprawie sztucznej inteligencji (AI Act) został uchwalony 13 czerwca 2024 r. Większość jego przepisów ma dość długie vacatio legis i nie podlega jeszcze stosowaniu. Niemniej, od 2 lutego 2025 r. obowiązują już zakazy niektórych praktyk w dziedzinie AI. Warto się im przyjrzeć w kontekście wytycznych, jakie wydała niedawno Komisja Europejska (wydanych na podstawie rozporządzenia [UE] 2024/1689 [AI Act] z dnia 4 lutego 2025 r.).

Zakazy przewidziane w AI Act obejmują systemy AI, które „generują nieakceptowalne ryzyko dla praw podstawowych i wartości unijnych”. W art. 5 tego aktu wymieniono kilka kategorii systemów AI, w przypadku których takie ryzyko zachodzi. W artykule chciałbym omówić takie właśnie zakazane praktyki, pomijając te, które z natury rzeczy dotyczyć będą przede wszystkim władz publicznych.

Manipulowanie ludzkim zachowaniem  

AI Act zakazuje systemów AI, które w sposób nieakceptowalny oddziałują na ludzkie zachowania/decyzje. Są to systemy, które łącznie spełniają trzy warunki. Po pierwsze, stosują techniki podprogowe (np. emitowanie komunikatów głosowych na częstotliwościach, których ludzkie ucho nie rejestruje), celowe techniki manipulacyjne wykorzystujące błędy poznawcze, słabości psychiki lub określony kontekst sytuacyjny lub techniki wprowadzające w błąd (np. chatbot, który udaje członka rodziny, syntetyzując głos). Po drugie celem lub skutkiem wykorzystania ww. technik jest wywołanie znaczącej zmiany zachowania, czyli skłonienie ludzi do podjęcia decyzji, której w innych okolicznościach by nie podjęli. Trzeci łączny warunek będzie spełniony, o ile zmienione pod wpływem AI zachowanie wyrządza lub może wyrządzać szkodę (m.in. śmierć, utrata zdrowia, pogorszenie dobrostanu emocjonalnego, szkoda majątkowa), przy czym musi to być szkoda poważna (istotny negatywny wpływ na daną osobę/grupę).

Zakaz nie obejmuje natomiast zgodnych z prawem praktyk reklamowych czy też klasycznej perswazji, gdy działania perswazyjne nie mają charakteru ukrytego i gdzie uszanowana jest godność oraz autonomia człowieka.

Wykorzystywanie ludzkich słabości

AI Act zakazuje systemów AI, które wykorzystują ludzkie słabości wynikające z wieku, niepełnosprawności lub sytuacji społeczno-ekonomicznych. Kwestia niepełnosprawności i wieku nie wymaga specjalnego wyjaśnienia. Natomiast sytuację społeczno-ekonomiczną należy rozumieć jako przynależność do określonej grupy społecznej (np. mniejszości religijnej) czy przypisanie pewnego statusu w społeczeństwie (np. bycie osobą ubogą).

Powyższy zakaz będzie mógł być zastosowany tylko wtedy, gdy celem lub skutkiem działania systemu AI była znacząca zmiana zachowania, a ponadto, aby zmienione zachowanie wyrządzało lub mogło wyrządzić poważną szkodę. W tym przypadku aktualne pozostają uwagi przedstawione w opisie pierwszego zakazu.

Scoring społeczny

AI Act zakazuje niektórych praktyk scoringu społecznego w odniesieniu do osób fizycznych. Proces oceny powinien trwać przez określony czas, co oznacza, że zakaz nie dotyczy działań o charakterze jednorazowym. Ponadto, musi być dokonywany w oparciu o zachowanie społeczne w różnych kontekstach, w tym również prywatnych lub biznesowych lub w oparciu o cechy osobiste lub cechy osobowości (płeć, rasa, sytuacja rodzinna, itp.).

Systemy scoringu społecznego są zakazane, o ile scoring prowadzi do krzywdzącego lub niekorzystnego traktowania w sytuacjach, które nie są związane z kontekstami, w których pierwotnie wygenerowano lub zebrano dane (np. gdy typowanie do kontroli skarbowych następuje w oparciu o dane niezwiązane z podatkami). Kolejny zakaz dotyczy sytuacji, gdy takie traktowanie jest nieuzasadnione lub nieproporcjonalne do zachowania społecznego lub jego wagi.

Zakaz ma szerokie zastosowanie. Działa on w sferze public i komercyjnej i to także wówczas, gdy sam scoring jest dokonywany (tworzony) przez inny podmiot niż ten, który go finalnie wykorzystuje (np. gdy decydenci kupują oceny scoringowe od podmiotów trzecich). Niemniej, należy podkreślić, że AI Act nie zakazuje każdego rodzaju scoringu bazującego na systemach AI. Nie jest w szczególności zabronione stosowanie tego rodzaju systemów przy scoringu kredytowym czy w ramach systemów antyfraudowych.