Jednym ze sposobów na wykorzystanie algorytmów i sztucznej inteligencji jest personalizacja. Na co dzień mamy do czynienia z personalizacją marketingową, personalizacją wyświetlanych treści w internecie czy personalizacją kredytową i ubezpieczeniową.

Personalizacja to proces dostosowywania wyświetlanych treści, w tym ofert i reklam pod preferencje indywidualnego odbiorcy. Proces ten polega na analizie danych o konsumencie mające na celu scharakteryzowanie osoby jako konkretnego typu konsumenta. W analizie uwzględniane są wcześniejsze wybory i aktywności tej osoby lub osób o zbliżonych zainteresowaniach Następnie treści są odpowiednio dopasowywane. Inaczej mówiąc treści wyświetlane są danej osobie ponieważ algorytm uznał, że są dla niej odpowiednie. Zaawansowana personalizacja polega na śledzeniu konsumenta np. na stronie internetowej sklepu internetowego. W ten sposób można dowiedzieć się o konsumencie np. co oglądał, o której godzinie, ile czasu spędził na stronie, jak często w ostatnim czasie wchodził. Dzięki takiemu rozwiązaniu przedsiębiorca może przesłać konkretnej osobie kod rabatowy na dany produkt i zachęcić indywidualnie do sprzedaży. Dostosowywanie przez sztuczna inteligencje informacji pod konkretnego konsumenta jak widać ma wiele korzyści. Z drugiej jednak strony zastanawiające może być czy nie dochodzi do manipulacji decyzjami zakupowymi konsumenta i jakie ma on szanse w starciu z algorytmem.

Treści w internecie są personalizowane pod konkretną osobę. Nie jest tajemnicą, że użytkownikom wyświetlane są inne treści mimo tożsamości wyszukiwanego produktu czy informacji. Budzi jednak wątpliwości, że pewne informacje mogą do nas nie dotrzeć, dlatego że nie zostaną nam wyświetlone. Można powiedzieć, że sztuczna inteligencja decyduje o tym jakie informacje możemy pozyskać. Spotkać się można z pojęciem banki informacyjnej. Jest to zjawisko polegające na tym, że osoba korzystająca z internetu otrzymuje informacje wyselekcjonowane dla niej przez algorytmy na podstawie danych zgromadzonych o niej podczas jej wcześniejszych aktywności lub zgromadzonych od osób, które według algorytmu są do niej podobne. Spotykamy się dziś także ze zjawiskiem personalizacji cen, które polega na dostosowaniu ceny produktu pod danego konsumenta. Sztuczna inteligencja dostosowuje cenę tak, aby każdy zapłacił cenę maksymalną jaką jest skłonny zapłacić za dany produkt. Oznacza to, że ten sam produkt ma inną cenę w zależności od profilu osoby, której jest przedstawiany.

Sztuczna inteligencja zbiera, przetwarza oraz wykorzystuje wiedzę o konsumencie do tworzenia indywidualnych reklam, ofert i cen odzwierciedlających jego indywidualne cechy. Obecnie zbierane są dane nie tylko dotyczące wyglądu, wieku, miejsca zamieszkania, wykonywanego zawodu czy wykształcenia, ale pozyskuje informacje bardzo prywatne jak stany emocjonalne, zainteresowania, poglądy polityczne. Skrajnym przykładem jest pozyskiwanie i wykorzystywanie wiedzy o słabościach danej osoby np. poprzez analizę jej wpisów, udostępnianych zdjęć, filmów lub cytatów na profilach w mediach społecznościach. Następnie dzięki technikom analitycznym i predykcyjnym tworzone są profile poszczególnych konsumentów i dopasowywane treści.

Niniejsze zjawisko może nieść zagrożenie dla autonomii woli człowieka. Pozyskana przez SI szeroka wiedza o osobie oraz poddanie tej wiedzy analizie pozwala prognozować zachowania i przygotowywać silnie perswazyjne dla danej osoby reklamy bądź oferty. Człowiek nieświadomy tych zjawisk może stać się marionetka w rękach sztucznej inteligencji. W sytuacji gdzie po jednej stronie ekranu jest człowiek, a po drugiej sztuczna inteligencja o dużych możliwościach analitycznych, pozycja człowieka jest słabsza. Trudno mówić tu o równowadze sił. Bez wątpienia konsument powinien być poinformowany o stosowanych wobec niego metodach i technikach.

Rzetelna informacja jest przeciwwagą dla personalizacji. Dzięki informacji konsument ma większe szanse samodzielnie podejmować korzystne dla siebie decyzje. Informacja wzmacnia autonomię wyboru konsumenta.

Dyrektywa 2019/2161 z dnia 27 listopada 2019 r w odniesieniu do lepszego egzekwowania i unowocześnienia unijnych przepisów dotyczących ochrony konsumenta przewiduje w wykazie informacji, które przedsiębiorca jest zobowiązany przekazać konsumentowi przed zawarciem umowy na odległość, obowiązek poinformowania konsumenta o tym, że cena została indywidualnie dostosowana w oparciu o zautomatyzowane podejmowanie decyzji.

W przypadku zautomatyzowanego przetwarzania, w tym profilowania, danych osobowych RODO definiuje w art. 4 ust. 4, że profilowanie oznacza dowolną formę zautomatyzowanego przetwarzania danych osobowych, które polega na wykorzystaniu danych osobowych do oceny niektórych czynników osobowych osoby fizycznej, w szczególności do analizy lub prognozy aspektów dotyczących efektów pracy tej osoby fizycznej, jej sytuacji ekonomicznej, zdrowia, osobistych preferencji, zainteresowań, wiarygodności, zachowania, lokalizacji lub przemieszczania się. Osoby, której dane dotyczą, ma prawo do tego, by nie podlegać decyzji, która opiera się wyłącznie na zautomatyzowanym przetwarzaniu, w tym profilowaniu, i wywołuje wobec tej osoby skutki prawne lub w podobny sposób istotnie na nią wpływa. Od tej zasady istnieją co prawda wyjątki. Natomiast administrator danych jest zobowiązany do poinformowania podmiotu danych o profilowaniu. Ponadto musi wykazać spełnienie obowiązków przewidzianych przez RODO jak podstawa prawna przetwarzania, wypełnienie obowiązku informacyjnego, odpowiedniego zabezpieczenia danych.