Skip to content

Att fejka videor är enkelt, djupa nostalgi visar

22 de juni de 2021
GettyImages 1021681352 a356d9b475884936987ab5a82e0c4d48

Viktiga takeaways

  • Deep Nostalgia är ett nytt program som låter dig animera gamla foton.
  • Tekniken visar hur enkelt det är att skapa videor om människor som gör saker som de faktiskt inte har gjort i verkligheten.
  • Djup falsk teknik är redan så sofistikerad att det är svårt att säga om en video är riktig eller datorgenererad, säger en expert.

Var försiktig med ny programvara som kan skapa så kallade ”djupa förfalskningar”, där videor av riktiga människor kan simuleras, varnar experter. Deep Nostalgia, släppt av företaget MyHeritage, trender på sociala medier, där användare återanvänder alla från kända kompositörer till döda släktingar.

Programvaran drar blandade reaktioner, med vissa människor glada över skapelserna och andra tycker att de är läskiga. Tekniken visar hur enkelt det är att skapa videor om människor som gör saker som de faktiskt inte har gjort i verkligheten. ”Deepfake-tekniken blir mer sofistikerad och farligare”, säger Aaron Lawson, biträdande chef för SRI Internationals talteknik och forskningslaboratorium (STAR) i en e-postintervju. ”Detta beror delvis på artens artificiella intelligens. Där” traditionell ”teknik kräver mänsklig tid och energi att förbättra, kan AI lära av sig själv.” Men AIs förmåga att utveckla sig själv är ett tveeggat svärd ”, fortsatte Lawson.” Om en AI skapas för att göra något välvilligt, bra. Men när en AI är utformad för något skadligt som djupa förfalskningar, är faran oöverträffad. ”

Programvaran ger liv till bilder

Släktforskningssidan MyHeritage introducerade animationsmotorn förra månaden. Tekniken, känd som Deep Nostalgia, låter användare animera foton via MyHeritage-webbplatsen. Ett företag som heter D-ID designade algoritmer för MyHeritage som digitalt återskapar rörelsen av mänskliga ansikten. Programvaran tillämpar rörelserna på fotografier och modifierar ansiktsuttryck för att röra sig som mänskliga ansikten brukar göra, enligt MyHeritage-webbplatsen.

Djup nostalgi visar att djupfalsk teknik blir mer tillgänglig, säger Lior Shamir, professor i datavetenskap vid Kansas State University, i en e-postintervju. Det går snabbt och eliminerar även de subtila skillnaderna mellan falsk och verklig video och ljud.

”Det har också gjorts betydande framsteg mot djupfalsning i realtid, vilket innebär att övertygande djupa falska videor genereras vid tidpunkten för videokommunikation,” sa Shamir. ”Till exempel kan man ha ett Zoom-möte med en viss person, medan man ser och hör en helt annan persons röst.”

Det finns också ett växande antal språkbaserade djupa förfalskningar, säger Jason Corso, chef för Stevens Institute for Artificial Intelligence vid Stevens Institute of Technology, i en e-postintervju. ”Att generera hela stycken djup falsk text mot en specifik agenda är ganska svårt, men moderna framsteg inom djup naturlig språkbehandling gör det möjligt,” tillade han.

Hur man upptäcker en djup falsk

Medan djupfalskt detekteringsteknologi fortfarande befinner sig i ett framväxande skede finns det några sätt du kan upptäcka en, sa Corso och började med munnen. ”Variationen i utseendet på muninsidan när någon talar är mycket hög, vilket gör det svårt att animera övertygande,” förklarade Corso. ”Det kan göras, men det är svårare än resten av huvudet. Lägg märke till hur Deep Nostalgia-videorna inte visar förmågan för fotografiet att säga” Jag älskar dig ”eller någon annan fras under den djupa falska skapelsen. skulle kräva öppning och stängning av munnen, vilket är mycket svårt för djup falsk generation. ”

Ghosting är en annan giveaway, tillade Corso. Om du ser suddighet runt kanterna på huvudet är det ett resultat av ”snabb rörelse eller begränsade pixlar tillgängliga i källbilden. Ett öra kan delvis försvinna tillfälligt, eller håret kan bli suddigt där du inte förväntar dig det,” han sa. Du kan också se upp för färgvariation när du försöker hitta en djup falsk video, som en skarp linje över ansiktet, med mörkare färger på ena sidan och ljusare på den andra. ”Datoralgoritmer kan ofta upptäcka dessa förvrängningsmönster”, säger Shamir. ”Men djupa falska algoritmer går snabbt framåt. Det är oundvikligt att det krävs strikta lagar för att skydda från djupa falska och de skador som de lätt kan orsaka.”