Czy deepfake jest w Polsce legalny?
Deepfake to technika obróbki obrazu, polegająca na łączeniu obrazów twarzy ludzkich przy użyciu technik sztucznej inteligencji. Deepfake to przykładowo nagranie wideo, które jest edytowane w celu stworzenia fałszywego klipu osoby mówiącej lub robiącej coś, co nigdy nie miało miejsca. Takie nagrania, przedstawiające wykorzystanie technologii deepfake m.in. na wizerunku Donalda Trumpa czy Wołodymyra Zełenskiego mają po kilka milionów wyświetleń w mediach społecznościowych. Polecamy zobaczyć np. ten materiał, który w prosty sposób wyjaśnia jak działa deepfake. Mechanizm deepfake często wykorzystują także przez zwykłe osoby (jest też wykorzystywany przeciwko zwykłym osobom).
Czy jest to legalne? Jakie konsekwencje mogą spotkać osoby wykorzystujące cudzy wizerunek za pomocą deepfake?
Poniżej omówimy najważniejsze problemy prawne z perspektywy obecnie obowiązujących przepisów.
Ochrona danych osobowych
Przepisy RODO wskazują pewne wyłączenia stosowania przepisów tego aktu. Przykładowo, RODO nie znajdzie zastosowania do przetwarzania danych osobowych przez osobę fizyczną (człowieka) w ramach czynności osobistych. Zatem jeśli ktoś z nas tworzy deepfake dla własnych celów, RODO nie znajdzie zastosowania. Natomiast w pozostałych przypadkach, także w sytuacjach w których deepfake tworzą organizacje lub firmy, będziemy stosować RODO.
Dla oceny legalności tworzenia fałszywych treści istotne jest pojęcie „przetwarzania danych osobowych”. Zgodnie z definicją zawartą w art. 4 RODO przetwarzanie oznacza każdą operację lub zestaw operacji wykonywanych na danych osobowych lub zestawach danych osobowych w sposób zautomatyzowany lub niezautomatyzowany. Wobec tego niemal każde działanie związane z danymi osobowymi może być uznane za przetwarzanie danych osobowych.
Fałszywe treści tworzy się np. poprzez łączenie za pomocą oprogramowania wielu rzeczywistych zdjęć ofiary (osoby, której dane dotyczą). Takie dane uwiecznione na zdjęciu (np. wizerunek) stanowią dane osobowe.
Bez wątpienia zatem dane osobowe ofiary deepfake przetwarza się co najmniej w czasie tworzenia fałszywych treści.
RODO stosujemy jedynie do informacji, które odnoszą się do możliwej do zidentyfikowania żyjącej osoby fizycznej. Z tego względu informacje dotyczące osoby zmarłej nie stanowią danych osobowych. Dlatego nie są chronione przez RODO. Stanowi to problem w przypadku tworzenia deepfake’ów osób zmarłych, takich jak popularni politycy, celebryci lub przywódcy duchowi, w celu dostarczenia mylących informacji.
Aby zapewnić zgodność z przepisami RODO twórca deepfake teoretycznie powinien uzyskać zgodę osób, których danych używa (art. 6 RODO). Prawnie takie rozwiązanie byłoby akceptowalne. Jednak ze względu na specyfikę oraz cel wykorzystania deepfake jest to scenariusz co najmniej nieprawdopodobny. W świetle RODO w przypadku braku uzyskania zgody, twórca nagrania może narazić się na kary finansowe. Trudno nam wyobrazić sobie, że twórca deepfake byłby w stanie wykazać inną od zgody podstawę zgodnego z prawem przetwarzania danych osoby, której dane dotyczą. Co bardzo istotne, w przypadku żądania osoby, której wizerunek został wykorzystany do stworzenia deepfake, taka osoba może żądać usunięcia tego rodzaju materiału w oparciu o art. 17 RODO.
Ochrona dóbr osobistych
Kolejną podstawą odpowiedzialności twórcy deepfaku są przepisy z zakresu ochrony dóbr osobistych (art. 23, 24 kodeksu cywilnego). Kodeks cywilny stanowi, że dobrem osobistym człowieka jest m.in. jego wizerunek. Wobec tego, wykorzystanie wizerunku człowieka w ramach nagrania deepfake może naruszyć jego dobra osobiste. Mowa w szczególności o sytuacji, w której celem filmu będzie ośmieszenie osoby, której wizerunek został wykorzystany. Ten, czyje dobro osobiste jest zagrożone cudzym działaniem, może żądać zaniechania tego działania. Ponadto, osoba ta może żądać przeprosin od twórcy nagrania oraz zadośćuczynienia pieniężnego.
Wobec tego, wszelkiego rodzaju nagrania z użyciem mechanizmu deepfake narażają ich twórcę na odpowiedzialność majątkową także z przyczyny naruszeń dóbr osobistych.
Odpowiedzialność karna [1]
Oprócz naruszenia przepisów dotyczących ochrony danych osobowych czy dóbr osobistych, twórca deepfake naraża się również na odpowiedzialność karną. Poniżej wskazujemy przykładowe przestępstwa, których znamiona mogłoby wypełniać rozpowszechnianie deepfake.
Art. 190a § 2 kodeksu karnego, tj. kradzież tożsamości.
Ten przepis chroni bezpieczeństwo odpowiadania jedynie za własne zachowanie, a nie za zachowanie przypisywane nam wskutek wprowadzenia w błąd. Chodzi np. o sytuację podmienienia twarzy aktorki z filmu pornograficznego na twarz innej osoby. Mamy bowiem do czynienia z wykorzystaniem wizerunku. Twarz stanowi przecież cechę człowieka, która jest dostrzegalna i niewątpliwie tworzy jego wygląd.
Art. 191a kodeksu karnego, tj. utrwalanie wizerunku nagiej osoby lub osoby w trakcie czynności seksualnej przy użyciu w tym celu wobec niej przemocy, groźby bezprawnej lub podstępu, albo rozpowszechnianie wizerunku nagiej osoby trakcie czynności seksualnej bez jej zgody (szczególnie w kontekście fałszywej pornografii).
Ten przepis w zakresie deepfake jest jednak kontrowersyjny.
Za przykład weźmy pornografię. Twórca deepfake wykorzystuje dostępny online film pornograficzny i podmienia twarz aktora z tego filmu na twarz osoby niezaangażowanej w tworzenie tego filmu.
W przypadku tego zjawiska rozpowszechniane są w zasadzie dwa wizerunki:
- wizerunek osoby, której twarz wykorzystano, oraz
- wizerunek nagiej osoby, której ciało zostało utrwalone w filmie.
Aby spełnić przesłanki karalności na podstawie tego przepisu, pokrzywdzony musi uczestniczyć w czynności seksualnej, która została utrwalona lub rozpowszechniona bez jego zgody. Aktorzy występujący w filmach pornograficznych zasadniczo wyrażają zgodę na utrwalenie wizerunku ich ciał. Pojawia się zatem pytanie, czy można twierdzić, że uczestnikiem czynności seksualnej jest osoba, której jedynie twarz została „doklejona” za pomocą technologii deepfake? W końcu formalnie nie jest ona podmiotem czynności seksualnej ani nie jest naga.
Art. 212 kodeksu karnego tj. zniesławienie albo art. 216 kodeksu karnego tj. znieważenie (w zależności od charakteru konkretnej sytuacji).
Na podstawie tych przepisów pornografia deepfake może być karalna w sytuacjach mających na celu upodlenie danej osoby. Podobnie jest w przypadku deepfake prezentującego rzekome wypowiedzi czy zachowania osoby fizycznej, które ją ośmieszają.
Łukasz Łaguna
Monika Kupis
[1] Podczas przygotowania prawnokarnej części opracowania korzystaliśmy z następujących źródeł:
A. Ziobroń, Deepfake a prawo karne. Uwagi „de lege lata” i „de lege ferenda” dotyczące fałszywej pornografii, Studenckie Prace Prawnicze, Administratywiczne i Ekonomiczne, Tom 37 (2021): Wyzwania dla państwa prawa i gospodarki w dobie pandemii, 2021.
J. Lachowski, Art. 191a, [w:] Kodeks karny. Komentarz, red. V. Konarska-Wrzosek,2020.
E. Wojnicka, Prawo do wizerunku w ustawodawstwie polskim, „Zeszyty Naukowe Uniwersytetu Jagiellońskiego. Prace z Wynalazczości i Ochrony Własności Intelektualnej” 1990, z. 56, s. 107
