Google contribueix a la investigació de la detecció de Deepfake amb el seu corpus visual Deepfake

Deepfake Corpus

L’aprenentatge profund és un camp avançat d’aprenentatge automàtic que creix ràpidament en aquests dies. Tot i que s’han fet moltes investigacions en aquest camp, encara hi ha un buit de recerca. Els enginyers de Google han fet contribucions significatives en aquest sentit i estan treballant activament per produir alguns corpus importants. El gegant de la cerca ha col·laborat recentment amb Jigsaw per alliberar un enorme corpus de deepfakes. Els investigadors ara poden treballar en marcs de detecció de vídeo sintètics amb l'ajuda del corpus de lliure disposició.

Andrew Gully, el gerent d’investigació tècnica de Jigsaw i Nick Dufour, el científic d’investigació de Google, van descriure a publicació al bloc :

Des de la seva primera aparició a finals del 2017, han sorgit molts mètodes de generació de falsificació profunda de codi obert, que han donat lloc a un nombre creixent de clips de mitjans sintetitzats. Tot i que probablement es pretén que molts siguin divertits, d’altres podrien ser perjudicials per a les persones i la societat.

Google va afirmar a més que la companyia treballava amb actors consentidors i remunerats per tal de compilar el conjunt de dades de centenars de vídeos. A continuació, la companyia va utilitzar els vídeos per produir milers de falsificacions profundes. Van generar mostres falses i reals.

Tenint en compte el fet que deepfake és una tecnologia en evolució, la companyia continuarà afegint-se al corpus.

Creiem fermament en donar suport a una comunitat d'investigació pròspera per mitigar els possibles danys derivats de l'ús inadequat de mitjans sintètics, i la publicació d'avui del nostre conjunt de dades deepfake al punt de referència FaceForensics és un pas important en aquesta direcció.

Els vídeos de Deepfake es van veure inicialment el 2017. Aquests vídeos es van compilar originalment per a contingut d’humor. Ara la gent utilitza sistemes basats en IA per generar vídeos manipulatius que intercanvien la cara de les persones. Hi ha diverses aplicacions que generen deepfake que poden ser per a aquest propòsit.

El millor és que ara les autoritats han notat aquest tema i estan adoptant lleis estrictes per augmentar el control. El conjunt de dades deepfake és una contribució important per resoldre el problema. A més, Google ja treballa per mitigar l'abús potencial d'aquesta tecnologia. La companyia va publicar un corpus sintètic de parla que més tard va ser utilitzat per més de 150 estudis de recerca.