Directoratul Național de Securitate Cibernetică a lansat un ghid privind depistarea Deepfake-urilor, precum și ce putem face ca să ne protejăm de acest fenomen.

Publicul țintă al ghidului
Acest ghid se adresează persoanelor cu vârsta peste 18 ani, în vederea creșterii gradului de conștientizare și înțelegere asupra utilizării instrumentelor de inteligență artificială (IA) de tip generativ pentru crearea de conținut video, audio sau de imagini, ori privind detectarea utilizării unor astfel de instrumente.

Deepfake: o definiție
Deepfake este o manipulare digitală a unei înregistrări video, audio sau a unei imagini, realizată cu ajutorul inteligenței artificiale (IA) sau a altor programe specializate.

Un exemplu:
Există multiple cazuri în care un videoclip cu o personalitate publică oferă sfaturi financiare. În acest videoclip, persoana recomandă insistent investiția într-o anumită companie sau afacere, promițând profituri mari și riscuri minime.

Detaliile contează: Videoclipul este realizat profesional, cu o calitate a imaginii și sunetului ridicată. Persoana publică pare sinceră și convingătoare, folosind un limbaj accesibil și argumente persuasive.

Scopul campaniei: Un astfel de Deepfake ar putea fi folosit pentru a manipula populația să investească într-o afacere ilicită (scam), deținută sau controlată de manipulatori.

Impact: Videoclipul este distribuit rapid pe rețelele de socializare, cu un potențial uriaș de a fi vizionat de milioane de oameni. Mulți dintre cei care văd videoclipul ar putea fi convinși să investească în afacerea recomandată, riscând ulterior să piardă sume semnificative de bani.

De ce este important să înțelegem Deepfake-urile

Impact asupra adevărului și încrederii:
Deepfake-urile pot distorsiona realitatea, creând conținut video sau audio extrem de realist, care poate fi greu de distins de materialele autentice. Aceasta poate submina încrederea în mass-media și în informațiile pe care ne bazăm pentru a lua decizii informate.

Securitate și fraude:
Tehnologia Deepfake poate fi folosită pentru a crea înregistrări false care implică persoane în activități pe care nu le-au realizat sau pentru a produce dovezi false în contexte juridice. De asemenea, poate fi utilizată în tentative de fraudă, cum ar fi falsificarea identității în apeluri telefonice sau video pentru a obține acces neautorizat la informații sau resurse financiare.

Manipulare și dezinformare:
În politică și în alte domenii, Deepfake-urile pot fi folosite pentru a manipula opinia publică, a discredita adversarii sau a crea confuzie. Acestea pot influența alegerile, relațiile internaționale și pot alimenta teorii ale conspirației.

Impact social și etic:
Utilizarea imorală a tehnologiei Deepfake, pentru crearea de materiale compromițătoare sau hărțuirea online, ridică probleme serioase de etică și respectare a drepturilor individuale.

Pregătire pentru viitor:
Pe măsură ce tehnologia continuă să avanseze, este probabil ca Deepfake-urile să devină tot mai sofisticate și mai greu de detectat. Înțelegerea modului în care funcționează și a modalităților de a le identifica este esențială pentru dezvoltarea de tehnologii și strategii care să contracareze utilizarea lor rău intenționată.

Educație și conștientizare:
Educația publicului despre existența și capacitatea Deepfake-urilor poate ajuta la atenuarea impactului lor prin creșterea scepticismului sănătos față de conținutul dubios și încurajarea verificării informațiilor din surse multiple.

Pentru toate aceste motive, este important să dezvoltăm un nivel colectiv de înțelegere a Deepfake-urilor și a potențialului lor de a afecta societatea. Acest lucru ne va permite să navigăm într-o lume digitală tot mai complexă cu discernământ și o mai mare precauție.

Tehnologia din spatele Deepfake
Deepfake-urile sunt create folosind o combinație de tehnici de IA și învățare automată (Machine Learning – ML). Tehnologiile cheie implicate sunt:

Rețele neuronale convoluționale (CNNs):
Sunt tipuri de rețele neuronale artificiale specializate în analiza imaginilor și a videoclipurilor. Ele sunt antrenate pe seturi mari de date, imagini și videoclipuri reale pentru a învăța caracteristicile faciale, expresiile, mișcările corpului și alte detalii vizuale.

Rețele neuronale generative (GANs):
Rețele neuronale artificiale care pot genera conținut nou, realist, similar cu datele pe care au fost antrenate. În contextul Deepfake, GAN-urile sunt utilizate pentru a genera imagini și videoclipuri false care sunt foarte asemănătoare cu cele reale.

Învățarea automată (ML):
Este utilizată pentru a antrena algoritmii Deepfake să identifice și să manipuleze elemente specifice ale imaginilor și videoclipurilor, cum ar fi expresiile faciale, mișcările buzelor, sincronizarea audio, etc.

Procesul de creare a unui Deepfake

Colectarea datelor:
Pentru a crea un Deepfake convingător, este necesară o cantitate mare de date pentru antrenament care să includă imagini și videoclipuri capturate din diferite unghiuri și în diverse situații. Cu cât datele sunt mai variate și de calitate mai bună, cu atât Deepfake-ul va fi mai realist.

Antrenarea modelului:
Utilizând datele colectate, algoritmi de IA și ML sunt antrenați pentru a identifica și învăța caracteristicile unice ale persoanei țintă, cum ar fi trăsăturile faciale, expresiile și modul în care se mișcă sau vorbește. Scopul acestei faze este de a permite modelului să reproducă aceste detalii cu o precizie cât mai mare.

Generarea Deepfake:
După ce modelul este suficient antrenat, este folosit pentru a crea conținut falsificat, în care persoana țintă spune sau întreprinde acțiuni neadevărate. Etapa implică generarea de imagini sau secvențe video artificiale, dar extrem de realiste, utilizând capabilitățile modelului antrenat.

Manipularea detaliilor:
Pentru a spori autenticitatea și credibilitatea Deepfake-ului, detaliile fine sunt ajustate meticulos. Aceasta include sincronizarea mișcărilor buzelor cu conținutul audio falsificat, corectarea expresiilor faciale pentru a se potrivi cu contextul generat și finisarea altor detalii minore care contribuie la realismul general al conținutului.

Distribuirea:
Deepfake-ul final poate fi distribuit online prin intermediul rețelelor sociale, al platformelor de sharing video sau chiar prin mesagerie. Intenția distribuirii poate fi de a înșela, de a discredita o persoană sau de a manipula opinia publică.

Exemple reale de utilizare a Deepfake

Banca Națională a României (BNR) a avertizat publicul cu privire la o schemă de înșelăciune care implică utilizarea tehnologiei Deepfake pentru a crea videoclipuri false cu guvernatorul BNR. În aceste videoclipuri, guvernatorul pare să promoveze o platformă de investiții, însă BNR a declarat că acestea sunt false. Scamul folosește IA pentru a modifica vocea și imaginea guvernatorului, cu scopul de a induce în eroare publicul pentru a participa la investiții frauduloase, promițând câștiguri financiare rapide și ușoare.

O femeie pensionară din Vaslui a fost victima unei escrocherii postată online pe platforma YouTube. Escrocii au creat un videoclip fals în care un cunoscut bancher și alte personalități cunoscute recomandau o platformă de investiții. Promisiunea unor profituri rapide a convins pensionara să investească suma de 52.000 de lei, economii strânse în 20 de ani de muncă. Chiar dacă femeia a raportat această fraudă autorităților, experții consideră că șansele de recuperare a fondurilor pierdute sunt minime.

În 2019, un Deepfake audio a fost folosit pentru a înșela un CEO cu 220.000 de euro. Directorul general al unei firme de energie cu sediul în Marea Britanie a crezut că vorbea la telefon cu directorul general al companiei-mamă germane atunci când a urmat ordinele de a transfera fondurile către un furnizor ungar. Vocea falsificată a fost creată pentru a suna ca cea a directorului german, iar utilizarea IA a permis replicarea tonului, accentului și a modulațiilor specifice vocii acestuia.

Cum identificăm Deepfake-urile?

Atenție la detalii:

Identificarea Deepfake-urilor presupune o atenție sporită la detaliile vizuale și auditive. Anomaliile subtile, cum ar fi mișcările nesincronizate ale buzelor cu sunetul, expresii faciale neregulate sau artefacte digitale (deteriorări vizuale neobișnuite), pot fi indicii ale manipulării. Aceste elemente sunt adesea greu de reprodus perfect, chiar și cu tehnologii avansate.

Verificarea surselor:

Este crucial să verificăm autenticitatea informațiilor din mai multe surse credibile. Compararea conținutului suspect cu materiale autentice poate dezvălui discrepanțe. Verificarea sursei originale și a contextului în care a fost distribuit conținutul poate oferi indicii suplimentare despre veridicitatea acestuia.

Utilizarea tehnologiilor de detecție:

Dezvoltarea și utilizarea instrumentelor software specializate pentru detectarea Deepfake-urilor devine tot mai importantă. Aceste tehnologii sunt antrenate pentru a recunoaște caracteristicile specifice ale conținutului manipulat și pot oferi un nivel suplimentar de securitate în identificarea falsurilor.

Verificarea metadatelor:

Metadatele fișierelor media (datele ascunse despre modul în care a fost creat și editat un fișier) pot oferi informații esențiale. Anomalii sau absența metadatelor așteptate poate sugera manipulări. Utilizarea software-ului specializat pentru a analiza metadatele poate dezvălui dacă fișierul a fost alterat și cum.

Consultarea experților:

În cazurile de îndoială, apelarea la experți în forensics digitale poate oferi o evaluare profesională a conținutului suspect. Experții dispun de cunoștințele și tehnologia necesară pentru a detecta chiar și cele mai sofisticate Deepfake-uri, asigurând astfel o verificare riguroasă și credibilă.

Resurse suplimentare

• Site-uri web și organizații: Accesarea site-urilor și a organizațiilor dedicate monitorizării și detectării Deepfake-urilor poate oferi resurse valoroase. Aceste platforme adesea oferă ghiduri, instrumente și actualizări despre cele mai noi tehnici de identificare a conținutului manipulat.
• Instrumente software: Utilizarea unor programe specifice, cum ar fi Deepware Scanner, poate facilita detecția Deepfake-urilor. Aceste instrumente sunt dezvoltate pentru a analiza fișierele media și a identifica semnele de manipulare, oferind utilizatorilor un mijloc eficient de protecție împotriva falsurilor.
• Tutoriale și ghiduri video: Vizionarea tutorialelor și a ghidurilor video poate ajuta la educarea utilizatorilor despre cum să recunoască Deepfake-urile. Aceste resurse oferă exemple practice și sfaturi concrete, făcând procesul de învățare mai accesibil și interactiv.
• Cursuri online: Participarea la cursuri online despre Deepfake și securitate cibernetică poate oferi o înțelegere mai profundă și abilități avansate în identificarea și contracararea conținutului manipulat. Cursurile oferă adesea o combinație de teorie și practică, echipând participanții cu cunoștințele necesare pentru a naviga în siguranță în mediul digital.

Concluzie

Este esențial să fim vigilenți și educați pentru a detecta și preveni utilizarea rău intenționată a Deepfake-urilor. Tehnologia continuă să evolueze rapid, iar înțelegerea modului în care funcționează Deepfake-urile și a modului în care le putem identifica este crucială pentru protejarea adevărului și a securității noastre. Acest ghid oferă o bază solidă pentru a naviga în lumea complexă a conținutului digital manipulat, încurajând scepticismul sănătos și verificarea meticuloasă a informațiilor.

Acest material a fost realizat de următorii experți ai DNSC:
Daniel Abotezătoaei, Dan Andrieș, Mihaela Dan, Alex Leoreanu,
Irina Nemoianu, Cristian Nistor, Vlad Drăguș, Mihai Rotariu

Ghidul se poate accesa aici.