Czym są deepfake’i?

Deepfake’i to stworzone lub przetworzone przez sztuczną inteligencję media – np. zdjęcia czy filmy – których celem jest manipulacja. Może być to nagranie ważnego polityka reklamującego ryzykowne inwestycje w kryptowaluty czy znanej sportowczyni, która rzekomo namawia na inwestowanie w Baltic Pipe. W rzeczywistości takie sytuacje nigdy nie miały miejsca, a wizerunek znanych osób wykorzystywany jest bez ich zgody.

Powszechna dostępność narzędzi AI sprawia, że deepfake’i może tworzyć niemal każdy. Cyberprzestępcy wykorzystują tę technologię do wyłudzania pieniędzy i danych, dezinformacji, podważania zaufania i uwiarygadniania kampanii scammerskich.  Staje się ona zagrożeniem nie tylko dla osób indywidualnych, ale także firm.

Jedną z metod jest podszywanie się pod osoby decyzyjne w organizacji, aby nakłonić pracowników do wykonania przelewów lub udostępnienia poufnych informacji. Oszuści potrafią też celowo prowadzić do dezinformacji, która może zaszkodzić reputacji firmy i wywołać niepożądane działania lub panikę. Deepfake’i mogą być również użyte do tworzenia fałszywych dowodów i kompromitujących materiałów, co podważa zaufanie klientów, partnerów i pracowników.

Badanie portalu business.com z 2024 r. pokazuje, że problem jest realny – ponad 10% firm padło ofiarą ataków z użyciem deepfake’ów (badanie przeprowadzono na 244 liderach biznesowych wyższego szczebla). Pomimo rosnącego zagrożenia, aż 80% organizacji nie posiadało planu działania w przypadku ataku. Zgodnie z informacjami PWC, okresami, kiedy firma jest wyjątkowo narażona na ataki są m.in.: transakcje M&A, wejście na giełdę i istotne zmiany organizacyjne.

Czy deepfake’i są legalne?

Deepfake jako taki nie jest zabroniony – ale cel, w jakim go użyjemy może być już karalny.  Tworzenie i rozpowszechnianie deepfake’ów jest legalne tylko w określonych, wąskich przypadkach (głównie niekomercyjnych i nieszkodliwych). W większości sytuacji, zwłaszcza gdy naruszają prawa innych osób lub są wykorzystywane w złych intencjach, są nielegalne i mogą wiązać się z poważnymi konsekwencjami prawnymi. Taki materiał może naruszać m.in. prawa innych osób, prawa autorskie czy prowadzić do dezinformacji i manipulowania opinią publiczną.

Jak rozpoznać deepfake?

Rozpoznawanie deepfake’ów staje się coraz trudniejsze. Technologia nieustannie się rozwija, a jej twórcy systematycznie eliminują kolejne błędy, które pomagają ocenić, czy dana treść jest deepfake’iem. Istnieją jednak pewne wskazówki, na które warto zwrócić uwagę:

W rozstrzygnięciu, czy dany materiał jest deepfake’iem może też pomóc nam analiza samego źródła materiału. Istnieją również narzędzia oparte na sztucznej inteligencji, które do pewnego stopnia wykrywają deepfake’i.

Jakie są potencjalne szkody?

Potencjalne szkody wywołane przez deepfake’i mogą być ciężkie w oszacowaniu. W przypadku organizacji negatywne skutki mogą być odczuwalne nie tylko pod kątem wizerunkowym, ale także finansowym.

Załóżmy, dla przykładu, że w social mediach pojawił się film, który udaje reklamę wyprodukowaną przez konkretną firmę. Nie trudno wyobrazić sobie sytuację, w której po rozpowszechnieniu się takiego materiału w sieci dochodzi do fali negatywnych komentarzy, odpływu konsumentów i inwestorów oraz ogólnego spadku zaufania do marki.

Ponadto, deepfake’i mogą być wykorzystywane w wewnętrznych konfliktach lub działaniach konkurencji. Mogą pojawić się spreparowane dowody mające na celu zdyskredytowanie konkretnych pracowników, wywołanie chaosu w zespole lub podważenie zaufania do kierownictwa. Takie działania mogą negatywnie wpłynąć na morale pracowników, produktywność i atmosferę w firmie.

Jak bronić się przed deepfake’ami?

Jedną z kluczowych metod jest przygotowanie procedur na wypadek ataku i analiza potencjalnych zagrożeń. Najpowszechniejsze deepfake’i, które pod uwagę powinna wziąć każda organizacja, to podszywanie się pod decydenta oraz zamach na wizerunek firmy,

Organizacje powinny inwestować w edukację pracowniczek i pracowników, wdrażać procedury bezpieczeństwa – np. weryfikację dwuetapową – i na bieżąco śledzić najnowsze trendy w cyberbezpieczeństwie. Tylko w ten sposób można skutecznie chronić się przed atakami z wykorzystaniem deepfake’ów.

Deepfake’i realnym zagrożeniem – artykuł Michała Pietrzyka w „Rzeczpospolitej”

Co zrobić, gdy do ataku już dojdzie? Jak powstrzymać rozpowszechnianie deepfake’ów? Na te pytania odpowiada nasz ekspert Michał Pietrzyk w swoim najnowszym artykule w dzienniku „Rzeczpospolitej”. Zachęcamy do przeczytania publikacji!