Zakazane praktyki w zakresie sztucznej inteligencji.
W książce „Nowy wspaniały świat” Huxleya nowoczesne społeczeństwo zarządzane jest przez sztuczną inteligencją. Ludzie żyją w rzekomo idealnym społeczeństwie. Bez zbrodni, zdrady czy cierpienia. Każdy ma swoje miejsce w społeczeństwie. Ludzie są kontrolowani i obserwowani przez całą dobę. Celem jest aby każdy wypełniał wybraną mu rolę i nawet nie pomyślał, że możliwe jest żyć inaczej. Ostatecznie ludzie nie są jednak szczęśliwi. Nie są wolni. Nie mogą o sobie decydować, co chcą robić i jak żyć. Nie mają również żadnej prywatności, a wręcz prywatność postrzegają jako coś dziwnego i niewłaściwego. Nie chcesz, żeby Cię widzieli znaczy masz coś do ukrycia. Sztuczna inteligencja „wie lepiej”. Myśli za ludzi i nimi rządzi. Ostatecznie doprowadza do zagłady ludzkości. Zaczyna manipulować ludźmi poza ich świadomością. Nastawia ich przeciwko sobie, co kończy się tragicznie. Ludzie z idealnego miasta zaczynają się wzajemnie zabijać, a na koniec miasto zostaje zniszczone. W działaniu takiego systemu najniebezpieczniejsze jest to, że ludzie nie są świadomi manipulacji. Myśli, uczucia, pragnienia nie są ich prawdziwymi przeżyciami. Stanowią odzwierciedlenie działań technologii i są sztucznie wywoływane.
Tym wstępem chcę wprowadzić do tematu zakazanych praktyk w zakresie sztucznej inteligencji. Rozporządzenie Parlamentu Europejskiego i Rady ustanawiające zharmonizowane przepisy dotyczące sztucznej inteligencji (dalej Akt o sztucznej inteligencji) określają zakazane praktyki w zakresie sztucznej inteligencji. Na liście niedopuszczalnych praktyk znalazły się takie, które wykazują znaczny potencjał do manipulowania ludźmi. Można powiedzieć, że człowieka w zetknięciu ze sztuczną inteligencją powinien być chroniony od jego słabszej strony. To znaczy w obszarze gdzie nie ma fizycznej możliwości rozpoznać działania SI i odpowiednio podjąć środki ochrony samodzielnie.
Artykuł 5 Aktu o sztucznej inteligencji używa terminu „zakazuje się”. Nie ma więc wątpliwości, iż jest to bezwzględny zakaz mający zastosowanie do każdego podmiotu prywatnego i publicznego. Dalej wymienione są poszczególne praktyki niedopuszczone na terytorium Unii Europejskiej. Poniżej po kolei omówię każdy z nich, w kolejności jakiej robi to Akt o sztucznej inteligencji.
Sztuczna inteligencja wykorzystująca techniki podprogowe.
Pierwszym punkcie wymienione są system sztucznej inteligencji, które stosują techniki podprogowe w celu istotnego zniekształcenia zachowania osoby w sposób, który powoduje lub może powodować u niej lub innej osoby szkodę fizyczną lub psychiczną. Przekaz podprogowy wpływa na bodźce wzrokowe i słuchowe, w taki sposób że nie jesteśmy w stanie tego zauważyć. Za to świetnie działa na naszą podświadomość. Przekazywane podprogowo informacje działają na nasz mózg, mimo że tego nie zauważamy. Przekaz podprogowy najczęściej kojarzony jest z reklamą. W starciu ze sztuczną inteligencją wykorzystującą techniki podprogowe osoba nie ma szans. Nasz wzrok i świadomość nie wychwyci tego, że zostaliśmy zmanipulowani. Nasze decyzje np. zakupowe, nie będą naszymi decyzjami. Każde wykorzystanie technik podprogowych przez system SI zagraża naruszeniu bezpieczeństwa, wolności, autonomii i prawa do samostanowienia o sobie.
Sztuczna inteligencja wykorzystująca słabości.
Drugi punkt to systemy sztucznej inteligencji wykorzystujące dowolne słabości określonej grupy osób ze względu na ich wiek, niepełnosprawność ruchową lub zaburzenie psychiczne w celu istotnego zniekształcenia zachowania osoby należącej do tej grupy osób w sposób, który powoduje lub może powodować u tej osoby lub innej osoby szkodę fizyczną i psychiczną. Ponownie zauważona została potrzebę ochrony „słabszy”. Osób, które z uwagi na jakieś osobiste cech mogą mieć problemy z rozpoznaniem zagrożenia i łatwiej jest wpłynąć na ich decyzje czy zachowanie.
Zastanawiam się czy algorytm selekcjonujący treści dla użytkowników portalu Instagram może być uznany za system sztucznej inteligencji wykorzystujące dowolne słabości określonej grupy, o którym mowa w niniejszym punkcie. Celem portalu Instagram jest zwiększenie czasu jaki użytkownicy spędzają na nim oraz zwiększenie zaangażowania użytkowników. Dlatego dobiera dla nich treści jak najbardziej atrakcyjne. Robi to dzięki algorytmom, które selekcjonują treści na podstawi wcześniej zebranych danych o osobach. Danych, z których wynika jakie treści nas najbardziej interesują. Także danych o tym jacy jesteśmy. Od tego co lubimy jeść po nasz psychologiczny profil. Jaka treść wywołuję w nas emocje i jakie to są emocje. Dzięki emocjom również tym negatywnym rośnie zaangażowanie, a tym samym czas spędzony na portalu. Nastolatki, a coraz częściej dzieci korzystają z Instagram, którego algorytmy wykorzystują ich słabości jak wiek czy niedojrzałość emocjonalną w celu zniekształcenia ich zachowania. Zniekształcenie polega na spędzaniu większej ilości czasu na portalu kosztem nauki lub kontaktu ze znajomymi i rodziną. Ponadto zniekształceniu ulega ich obraz rzeczywistości, a nie raz poczucia własnej wartości. Może zniekształcać ich relacje z innymi. Ktoś mnie lubi lub nie lubi oceniam na podstawie tego czy lubią moje zdjęcia lub mnie obserwują. Powoduje to, a z całą pewnością może powodować szkodę zarówno fizyczną jak i psychiczną. 32 procent nastolatek twierdzi, że kiedy czują się źle ze swoim ciałem, Instagram pogarsza ich samopoczucie. Porównania na Instagram-ie mogą zmienić sposób, w jaki młodzi ludzie postrzegają i opisują siebie. Potrzebna jest w tym obszarze dyskusja i refleksja.
Punktowa ocena społeczna.
W punkcie trzecim Akt o sztucznej inteligencji zakazuje systemów sztucznej inteligencji wykorzystywanych przez władze publiczne lub w ich imieniu na potrzeby oceny lub klasyfikacji wiarygodności osób fizycznych prowadzonej przez określony czas na podstawie ich zachowania społecznego lub znanych bądź przewidywanych cech osobistych lub cech osobowości, kiedy to punktowa ocena społeczna prowadzi do jednego lub obu z następujących skutków: krzywdzącego lub niekorzystnego traktowania niektórych osób fizycznych lub całych ich grup w kontekstach społecznych; lub krzywdzącego lub niekorzystnego traktowania niektórych osób fizycznych lub całych ich grup, które jest nieuzasadnione lub nieproporcjonalne do ich zachowania społecznego lub jego wagi.
W Chinach istnieje publiczny i powszechny system rozpoznawania twarzy oraz punktowa ocena społeczna. Za dobre zachowania otrzymujesz punkty za złe tracisz. Jeżeli nie masz wystarczającej ilości punktów możesz np. nie móc skorzystać z transportu publicznego lub wyjechać za granicę. Celem tamtejszej władzy jest osiągnięcie całkowitego podporządkowania za pomocą inwigilacji swoich obywateli. Nie tylko w Chinach systemy rozpoznawania twarzy są wykorzystywane. Dzięki systemom rozpoznawania twarzy możesz zapłacić za zakup w wielu krajach. W Moskwie możesz tak zapłacić za przejazd metrem. W Wielkiej Brytanii system rozpoznawania twarzy zakładają właściciele kamienic. Nie wpuszczani są obcy lub lokatorzy którzy nie opłacili czynszu. To również można uznać za pewnego rodzaju prowadzoną ocenę zachowania człowieka za pomocą sztucznej inteligencji i systemów rozpoznawania twarzy.
Systemy zdalnej identyfikacji biometrycznej w czasie rzeczywistym.
Ostatnią zakazaną praktyką jest wykorzystywanie systemów zdalnej identyfikacji biometrycznej „w czasie rzeczywistym” w przestrzeni publicznej do celów egzekwowania prawa. Akt o sztucznej inteligencji wprowadza w tym zakresie ograniczenia do trzech sytuacji: poszukiwania konkretnych potencjalnych ofiar przestępstw, w tym zaginionych dzieci; zapobiegnięcia konkretnemu, poważnemu i bezpośredniemu zagrożeniu życia lub bezpieczeństwa fizycznego osób fizycznych lub atakowi terrorystycznemu; oraz wykrywania, lokalizowania, identyfikowania lub ścigania sprawcy przestępstwa lub podejrzanego o popełnienie przestępstwa, którego górna granica wynosi co najmniej trzy lata. W podanych trzech wyjątkach wykorzystywanie systemów zdalnej identyfikacji biometrycznej „w czasie rzeczywistym” w przestrzeni publicznej do celów egzekwowania jest dozwolone.
Wykorzystywania systemów zdalnej identyfikacji biometrycznej „w czasie rzeczywistym” w przestrzeni publicznej do celów egzekwowania prawa uważa się za szczególnie ingerujące w prawa i wolności człowieka. Wpływa bowiem na życie prywatne, poczucie stałego nadzoru. Dlatego każde pojedyncze wykorzystanie systemu zdalnej identyfikacji biometrycznej „w czasie rzeczywistym” w przestrzeni publicznej do celów egzekwowania prawa wymaga zgodnie z przepisami uzyskania uprzedniego zezwolenia udzielonego przez organ sądowy lub niezależny organ administracyjny państwa członkowskiego. Właściwy organ sądowy lub administracyjny udziela zezwolenia tylko wtedy, gdy jest przekonany, na podstawie obiektywnych dowodów lub jasnych przesłanek, które mu przedstawiono, że wykorzystanie danego systemu zdalnej identyfikacji biometrycznej „w czasie rzeczywistym” jest konieczne i proporcjonalne do osiągnięcia jednego z celów określonych w Akcie.
W należycie uzasadnionych nagłych przypadkach można jednak rozpocząć wykorzystywanie systemu bez zezwolenia, a o zezwolenie można wystąpić dopiero w trakcie lub po zakończeniu wykorzystywania. Należycie uzasadnione nagłe przypadki to sytuacje, w których potrzeba skorzystania z systemu jest na tyle duża, że uzyskanie zezwolenia przed rozpoczęciem korzystania jest faktycznie i obiektywnie niemożliwe.