Analiza materiałów syntetycznych wytworzonych z użyciem technik deepfake

Celem zadania jest szczegółowa analiza materiałów zmodyfikowanych za pomocą technik sztucznej inteligencji, tzw. deepfake’ów, w polskiej przestrzeni internetowej oraz ocena skuteczności metod ich detekcji. Realizacja projektu dostarcza istotny wkład w rozwój i testowanie metod wykrywania ataków opartych na technologii deepfake, a także w zwiększanie poziomu cyberbezpieczeństwa systemów cyfrowych, które wykorzystują wizerunki twarzy oraz głos.

Zakres prac obejmuje analizę materiałów syntetycznych, w tym manipulacji wizerunków twarzy i technik klonowania głosu, oraz badanie ich wpływu na systemy biometryczne. W ramach projektu identyfikowane są cechy charakterystyczne fałszywych materiałów, takie jak błędy w treści, artefakty wizualne, specyficzne ślady w ścieżkach głosowych oraz techniki socjotechniczne wykorzystywane w manipulacjach. Rezultaty zadania obejmują ocenę narzędzi i algorytmów wspierających wykrywanie deepfake’ów oraz pogłębione badania nad schematami ich tworzenia i celami, jakie realizują. Szczególny nacisk położono na ocenę wpływu takich materiałów na funkcjonowanie systemów biometrycznej weryfikacji tożsamości. Efekty pracy przyczynią się do skuteczniejszego przeciwdziałania manipulacjom, ochrony użytkowników przed oszustwami oraz podniesienia poziomu zaufania do systemów biometrycznych i cyfrowych treści.

Wyniki projektu stanowią podstawę do rozwoju zaawansowanych technologii i procedur wspierających ochronę wizerunku oraz danych użytkowników, a także zwiększających bezpieczeństwo w przestrzeni cyfrowej.