W ksi\u0105\u017cce \u201eNowy wspania\u0142y \u015bwiat\u201d Huxleya nowoczesne spo\u0142ecze\u0144stwo zarz\u0105dzane jest przez sztuczn\u0105 inteligencj\u0105. Ludzie \u017cyj\u0105 w rzekomo idealnym spo\u0142ecze\u0144stwie. Bez zbrodni, zdrady czy cierpienia. Ka\u017cdy ma swoje miejsce w spo\u0142ecze\u0144stwie. Ludzie s\u0105 kontrolowani i obserwowani przez ca\u0142\u0105 dob\u0119. Celem jest aby ka\u017cdy wype\u0142nia\u0142 wybran\u0105 mu rol\u0119 i nawet nie pomy\u015bla\u0142, \u017ce mo\u017cliwe jest \u017cy\u0107 inaczej. Ostatecznie ludzie nie s\u0105 jednak szcz\u0119\u015bliwi. Nie s\u0105 wolni. Nie mog\u0105 o sobie decydowa\u0107, co chc\u0105 robi\u0107 i jak \u017cy\u0107. Nie maj\u0105 r\u00f3wnie\u017c \u017cadnej prywatno\u015bci, a wr\u0119cz prywatno\u015b\u0107 postrzegaj\u0105 jako co\u015b dziwnego i niew\u0142a\u015bciwego. Nie chcesz, \u017ceby Ci\u0119 widzieli znaczy masz co\u015b do ukrycia. Sztuczna inteligencja \u201ewie lepiej\u201d. My\u015bli za ludzi i nimi rz\u0105dzi. Ostatecznie doprowadza do zag\u0142ady ludzko\u015bci. Zaczyna manipulowa\u0107 lud\u017ami poza ich \u015bwiadomo\u015bci\u0105. Nastawia ich przeciwko sobie, co ko\u0144czy si\u0119 tragicznie. Ludzie z idealnego miasta zaczynaj\u0105 si\u0119 wzajemnie zabija\u0107, a na koniec miasto zostaje zniszczone. W dzia\u0142aniu takiego systemu najniebezpieczniejsze jest to, \u017ce ludzie nie s\u0105 \u015bwiadomi manipulacji. My\u015bli, uczucia, pragnienia nie s\u0105 ich prawdziwymi prze\u017cyciami. Stanowi\u0105 odzwierciedlenie dzia\u0142a\u0144 technologii i s\u0105 sztucznie wywo\u0142ywane.<\/p>\n
Tym wst\u0119pem chc\u0119 wprowadzi\u0107 do tematu zakazanych praktyk w zakresie sztucznej inteligencji. Rozporz\u0105dzenie Parlamentu Europejskiego i Rady ustanawiaj\u0105ce zharmonizowane przepisy dotycz\u0105ce sztucznej inteligencji (dalej Akt o sztucznej inteligencji) okre\u015blaj\u0105 zakazane praktyki w zakresie sztucznej inteligencji. Na li\u015bcie niedopuszczalnych praktyk znalaz\u0142y si\u0119 takie, kt\u00f3re wykazuj\u0105 znaczny potencja\u0142 do manipulowania lud\u017ami. Mo\u017cna powiedzie\u0107, \u017ce cz\u0142owieka w zetkni\u0119ciu ze sztuczn\u0105 inteligencj\u0105 powinien by\u0107 chroniony od jego s\u0142abszej strony. To znaczy w obszarze gdzie nie ma fizycznej mo\u017cliwo\u015bci rozpozna\u0107 dzia\u0142ania SI i odpowiednio podj\u0105\u0107 \u015brodki ochrony samodzielnie.<\/p>\n
Artyku\u0142 5 Aktu o sztucznej inteligencji u\u017cywa terminu \u201ezakazuje si\u0119\u201d. Nie ma wi\u0119c w\u0105tpliwo\u015bci, i\u017c jest to bezwzgl\u0119dny zakaz maj\u0105cy zastosowanie do ka\u017cdego podmiotu prywatnego i publicznego. Dalej wymienione s\u0105 poszczeg\u00f3lne praktyki niedopuszczone na terytorium Unii Europejskiej. Poni\u017cej po kolei om\u00f3wi\u0119 ka\u017cdy z nich, w kolejno\u015bci jakiej robi to Akt o sztucznej inteligencji.<\/p>\n
Sztuczna inteligencja wykorzystuj\u0105ca techniki podprogowe.<\/em><\/p>\n Pierwszym punkcie wymienione s\u0105 system sztucznej inteligencji, kt\u00f3re stosuj\u0105 techniki podprogowe w celu istotnego zniekszta\u0142cenia zachowania osoby w spos\u00f3b, kt\u00f3ry powoduje lub mo\u017ce powodowa\u0107 u niej lub innej osoby szkod\u0119 fizyczn\u0105 lub psychiczn\u0105. Przekaz podprogowy wp\u0142ywa na bod\u017ace wzrokowe i s\u0142uchowe, w taki spos\u00f3b \u017ce nie jeste\u015bmy w stanie tego zauwa\u017cy\u0107. Za to \u015bwietnie dzia\u0142a na nasz\u0105 pod\u015bwiadomo\u015b\u0107. Przekazywane podprogowo informacje dzia\u0142aj\u0105 na nasz m\u00f3zg, mimo \u017ce tego nie zauwa\u017camy. Przekaz podprogowy najcz\u0119\u015bciej kojarzony jest z reklam\u0105. W starciu ze sztuczn\u0105 inteligencj\u0105 wykorzystuj\u0105c\u0105 techniki podprogowe osoba nie ma szans. Nasz wzrok i \u015bwiadomo\u015b\u0107 nie wychwyci tego, \u017ce zostali\u015bmy zmanipulowani. Nasze decyzje np. zakupowe, nie b\u0119d\u0105 naszymi decyzjami. Ka\u017cde wykorzystanie technik podprogowych przez system SI zagra\u017ca naruszeniu bezpiecze\u0144stwa, wolno\u015bci, autonomii i prawa do samostanowienia o sobie.<\/p>\n Sztuczna inteligencja wykorzystuj\u0105ca s\u0142abo\u015bci.<\/em><\/p>\n Drugi punkt to systemy sztucznej inteligencji wykorzystuj\u0105ce dowolne s\u0142abo\u015bci okre\u015blonej grupy os\u00f3b ze wzgl\u0119du na ich wiek, niepe\u0142nosprawno\u015b\u0107 ruchow\u0105 lub zaburzenie psychiczne w celu istotnego zniekszta\u0142cenia zachowania osoby nale\u017c\u0105cej do tej grupy os\u00f3b w spos\u00f3b, kt\u00f3ry powoduje lub mo\u017ce powodowa\u0107 u tej osoby lub innej osoby szkod\u0119 fizyczn\u0105 i psychiczn\u0105. Ponownie zauwa\u017cona zosta\u0142a potrzeb\u0119 ochrony \u201es\u0142abszy\u201d. Os\u00f3b, kt\u00f3re z uwagi na jakie\u015b osobiste cech mog\u0105 mie\u0107 problemy z rozpoznaniem zagro\u017cenia i \u0142atwiej jest wp\u0142yn\u0105\u0107 na ich decyzje czy zachowanie.<\/p>\n Zastanawiam si\u0119 czy algorytm selekcjonuj\u0105cy tre\u015bci dla u\u017cytkownik\u00f3w portalu Instagram mo\u017ce by\u0107 uznany za system sztucznej inteligencji wykorzystuj\u0105ce dowolne s\u0142abo\u015bci okre\u015blonej grupy, o kt\u00f3rym mowa w niniejszym punkcie. Celem portalu Instagram jest zwi\u0119kszenie czasu jaki u\u017cytkownicy sp\u0119dzaj\u0105 na nim oraz zwi\u0119kszenie zaanga\u017cowania u\u017cytkownik\u00f3w. Dlatego dobiera dla nich tre\u015bci jak najbardziej atrakcyjne. Robi to dzi\u0119ki algorytmom, kt\u00f3re selekcjonuj\u0105 tre\u015bci na podstawi wcze\u015bniej zebranych danych o osobach. Danych, z kt\u00f3rych wynika jakie tre\u015bci nas najbardziej interesuj\u0105. Tak\u017ce danych o tym jacy jeste\u015bmy. Od tego co lubimy je\u015b\u0107 po nasz psychologiczny profil. Jaka tre\u015b\u0107 wywo\u0142uj\u0119 w nas emocje i jakie to s\u0105 emocje. Dzi\u0119ki emocjom r\u00f3wnie\u017c tym negatywnym ro\u015bnie zaanga\u017cowanie, a tym samym czas sp\u0119dzony na portalu. Nastolatki, a coraz cz\u0119\u015bciej dzieci korzystaj\u0105 z Instagram, kt\u00f3rego algorytmy wykorzystuj\u0105 ich s\u0142abo\u015bci jak wiek czy niedojrza\u0142o\u015b\u0107 emocjonaln\u0105 w celu zniekszta\u0142cenia ich zachowania. Zniekszta\u0142cenie polega na sp\u0119dzaniu wi\u0119kszej ilo\u015bci czasu na portalu kosztem nauki lub kontaktu ze znajomymi i rodzin\u0105. Ponadto zniekszta\u0142ceniu ulega ich obraz rzeczywisto\u015bci, a nie raz poczucia w\u0142asnej warto\u015bci. Mo\u017ce zniekszta\u0142ca\u0107 ich relacje z innymi. Kto\u015b mnie lubi lub nie lubi oceniam na podstawie tego czy lubi\u0105 moje zdj\u0119cia lub mnie obserwuj\u0105. Powoduje to, a z ca\u0142\u0105 pewno\u015bci\u0105 mo\u017ce powodowa\u0107 szkod\u0119 zar\u00f3wno fizyczn\u0105 jak i psychiczn\u0105. 32 procent nastolatek twierdzi, \u017ce kiedy czuj\u0105 si\u0119 \u017ale ze swoim cia\u0142em, Instagram pogarsza ich samopoczucie. Por\u00f3wnania na Instagram-ie mog\u0105 zmieni\u0107 spos\u00f3b, w jaki m\u0142odzi ludzie postrzegaj\u0105 i opisuj\u0105 siebie. Potrzebna jest w tym obszarze dyskusja i refleksja.<\/p>\n Punktowa ocena spo\u0142eczna.<\/em><\/p>\n W punkcie trzecim Akt o sztucznej inteligencji zakazuje system\u00f3w sztucznej inteligencji wykorzystywanych przez w\u0142adze publiczne lub w ich imieniu na potrzeby oceny lub klasyfikacji wiarygodno\u015bci os\u00f3b fizycznych prowadzonej przez okre\u015blony czas na podstawie ich zachowania spo\u0142ecznego lub znanych b\u0105d\u017a przewidywanych cech osobistych lub cech osobowo\u015bci, kiedy to punktowa ocena spo\u0142eczna prowadzi do jednego lub obu z nast\u0119puj\u0105cych skutk\u00f3w: krzywdz\u0105cego lub niekorzystnego traktowania niekt\u00f3rych os\u00f3b fizycznych lub ca\u0142ych ich grup w\u00a0kontekstach spo\u0142ecznych; lub krzywdz\u0105cego lub niekorzystnego traktowania niekt\u00f3rych os\u00f3b fizycznych lub ca\u0142ych ich grup, kt\u00f3re jest nieuzasadnione lub nieproporcjonalne do ich zachowania spo\u0142ecznego lub jego wagi.<\/p>\n W Chinach istnieje publiczny i powszechny system rozpoznawania twarzy oraz punktowa ocena spo\u0142eczna. Za dobre zachowania otrzymujesz punkty za z\u0142e tracisz. Je\u017celi nie masz wystarczaj\u0105cej ilo\u015bci punkt\u00f3w mo\u017cesz np. nie m\u00f3c skorzysta\u0107 z transportu publicznego lub wyjecha\u0107 za granic\u0119. Celem tamtejszej w\u0142adzy jest osi\u0105gni\u0119cie ca\u0142kowitego podporz\u0105dkowania za pomoc\u0105 inwigilacji swoich obywateli. Nie tylko w Chinach systemy rozpoznawania twarzy s\u0105 wykorzystywane. Dzi\u0119ki systemom rozpoznawania twarzy mo\u017cesz zap\u0142aci\u0107 za zakup w wielu krajach. W Moskwie mo\u017cesz tak zap\u0142aci\u0107 za przejazd metrem. W Wielkiej Brytanii system rozpoznawania twarzy zak\u0142adaj\u0105 w\u0142a\u015bciciele kamienic. Nie wpuszczani s\u0105 obcy lub lokatorzy kt\u00f3rzy nie op\u0142acili czynszu. To r\u00f3wnie\u017c mo\u017cna uzna\u0107 za pewnego rodzaju prowadzon\u0105 ocen\u0119 zachowania cz\u0142owieka za pomoc\u0105 sztucznej inteligencji i system\u00f3w rozpoznawania twarzy.<\/p>\n Systemy zdalnej identyfikacji biometrycznej w czasie rzeczywistym.<\/em><\/p>\n Ostatni\u0105 zakazan\u0105 praktyk\u0105 jest wykorzystywanie system\u00f3w zdalnej identyfikacji biometrycznej \u201ew czasie rzeczywistym\u201d w przestrzeni publicznej do cel\u00f3w egzekwowania prawa. Akt o sztucznej inteligencji wprowadza w tym zakresie ograniczenia do trzech sytuacji: poszukiwania konkretnych potencjalnych ofiar przest\u0119pstw, w\u00a0tym zaginionych dzieci; zapobiegni\u0119cia konkretnemu, powa\u017cnemu i\u00a0bezpo\u015bredniemu zagro\u017ceniu \u017cycia lub bezpiecze\u0144stwa fizycznego os\u00f3b fizycznych lub atakowi terrorystycznemu; oraz wykrywania, lokalizowania, identyfikowania lub \u015bcigania sprawcy przest\u0119pstwa lub podejrzanego o\u00a0pope\u0142nienie przest\u0119pstwa, kt\u00f3rego g\u00f3rna granica wynosi co najmniej trzy lata. W podanych trzech wyj\u0105tkach wykorzystywanie system\u00f3w zdalnej identyfikacji biometrycznej \u201ew czasie rzeczywistym\u201d w przestrzeni publicznej do cel\u00f3w egzekwowania jest dozwolone.<\/p>\n Wykorzystywania system\u00f3w zdalnej identyfikacji biometrycznej \u201ew czasie rzeczywistym\u201d w\u00a0przestrzeni publicznej do cel\u00f3w egzekwowania prawa uwa\u017ca si\u0119 za szczeg\u00f3lnie ingeruj\u0105ce w prawa i wolno\u015bci cz\u0142owieka. Wp\u0142ywa bowiem na \u017cycie prywatne, poczucie sta\u0142ego nadzoru. Dlatego ka\u017cde pojedyncze wykorzystanie systemu zdalnej identyfikacji biometrycznej \u201ew czasie rzeczywistym\u201d w\u00a0przestrzeni publicznej do cel\u00f3w egzekwowania prawa wymaga zgodnie z przepisami uzyskania uprzedniego zezwolenia udzielonego przez organ s\u0105dowy lub niezale\u017cny organ administracyjny pa\u0144stwa cz\u0142onkowskiego. W\u0142a\u015bciwy organ s\u0105dowy lub administracyjny udziela zezwolenia tylko wtedy, gdy jest przekonany, na podstawie obiektywnych dowod\u00f3w lub jasnych przes\u0142anek, kt\u00f3re mu przedstawiono, \u017ce wykorzystanie danego systemu zdalnej identyfikacji biometrycznej \u201ew czasie rzeczywistym\u201d jest konieczne i\u00a0proporcjonalne do osi\u0105gni\u0119cia jednego z\u00a0cel\u00f3w okre\u015blonych w Akcie.<\/p>\n W\u00a0nale\u017cycie uzasadnionych nag\u0142ych przypadkach mo\u017cna jednak rozpocz\u0105\u0107 wykorzystywanie systemu bez zezwolenia, a\u00a0o\u00a0zezwolenie mo\u017cna wyst\u0105pi\u0107 dopiero w\u00a0trakcie lub po zako\u0144czeniu wykorzystywania. Nale\u017cycie uzasadnione nag\u0142e przypadki to sytuacje, w kt\u00f3rych potrzeba skorzystania z systemu jest na tyle du\u017ca, \u017ce uzyskanie zezwolenia przed rozpocz\u0119ciem korzystania jest faktycznie i obiektywnie niemo\u017cliwe.<\/p>","protected":false},"featured_media":0,"template":"","tags":[4],"meta_box":[],"_links":{"self":[{"href":"https:\/\/decodelaw.pl\/en\/wp-json\/wp\/v2\/baza-wiedzy\/309"}],"collection":[{"href":"https:\/\/decodelaw.pl\/en\/wp-json\/wp\/v2\/baza-wiedzy"}],"about":[{"href":"https:\/\/decodelaw.pl\/en\/wp-json\/wp\/v2\/types\/baza-wiedzy"}],"wp:attachment":[{"href":"https:\/\/decodelaw.pl\/en\/wp-json\/wp\/v2\/media?parent=309"}],"wp:term":[{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/decodelaw.pl\/en\/wp-json\/wp\/v2\/tags?post=309"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}