Deepfakes forklarede AI, der gør falske videoer for overbevisende

At se er at tro. Nå, i det mindste var det tilfældet, før vi indså, at folk kunne læge videoer til at fremskynde hoaxes og omskrive historien. Selvom vi har fundet måder at debunk de fleste hoax-billeder på, er der en teknologisk udvikling, der vinder tempo, så hurtigt vi måske snart ikke længere ved, hvordan vi fortæller hvad der er reelt og hvad der er falsk.

Deepfakes ændrer alt, hvad vi troede muligt med hensyn til doktrerede videoer. Her er alt hvad du behøver at vide om dem ...

Hvad er Deepfakes?

Udtrykket deepfakes kommer fra en kombination af ordene “dyb læring” og “forfalskninger”. Dette skyldes, at kunstig intelligenssoftware, der er trænet i billed- og videosyntese, skaber disse videoer. Denne AI kan overlejre ansigtet til et motiv (kilden) på en video af et andet (målet). Mere avancerede former for teknologi kan syntetisere en helt ny model af en person ved hjælp af kildens ansigtsbevægelser og -billeder eller -video af det emne, de ønsker at efterligne sig.

Teknologien kan fremstille ansigtsmodeller baseret på begrænsede visuelle data, f.eks. Et billede. Jo flere data AI'en skal arbejde på, desto mere realistisk er resultatet.

Dette er grunden til, at politikere og berømtheder er så lette mål for deepfakes, da der er så meget visuelle data tilgængelige online, som softwaren kan bruge. Da deepfake-software er tilgængelig på open source-platforme, forbedrer folk på internettet kontinuerligt og bygger videre på andres arbejde.

Oprindelsen af ​​Deepfake AI-teknologi

Teknologien bag deepfakes blev udviklet til en lang række formål. I lighed med Photoshop har softwaren professionel brug, underholdning og hobby. Og ligesom Photoshop, selv om skaberen ikke har nogen ondsindede intentioner med at oprette softwaren, har dette ikke forhindret folk i at bruge det til ondsindede formål.

Face-swapping-teknologi blev oprindeligt hovedsageligt brugt i filmindustrien. Et af de mest berømte tilfælde er i 2016-filmen Rogue One: A Star Wars Story. I filmen brugte filmskabere ansigtsudskiftning og videosynteseteknologi til at genskabe karakteren Grand Moff Tarkin. En yngre version af prinsesse Leia blev også oprettet i filmen. I begge tilfælde blev modeller af de originale skuespillers ansigter overlejret på stand-in-skuespillere.

Apps som Snapchat bruger også ansigtsudskiftningsteknologi til at skabe sjove filtre til brugere. Udviklerne bag disse apps forbedrer kontinuerligt ansigtsgenkendelse og -sporing for at anvende disse filtre mere effektivt.

I mellemtiden har andre udviklet videosynteseværktøjer til at skabe hologrammer til uddannelsesmæssige formål. For eksempel udviklede et projekt video- og ansigtssyntese-software, så vidnesbyrdet fra Holocaust-overlevende kunne præsenteres som interaktive hologrammer på et museum.

Hvorfor Deepfakes gør folk nervøse

Da folk indså, at svindlere og folk, der spillede hoaxer, brugte Photoshop til at oprette falske billeder, måtte vi blive mere skeptiske over, hvad vi betragtede som bevis. Heldigvis var der mange måder at registrere, om et billede var falsk, selv med det blotte øje.

Derudover er det relativt arbejdskrævende at skabe et overbevisende doctored billede i Photoshop. Ikke bare nogen kan slå sammen to billeder og få dem til at se realistiske ud.

Men deepfakes er forskellige. Maskinlæring gør livet lettere 4 Maskinlæringsalgoritmer, der former dit liv 4 Maskinlæringsalgoritmer, der former dit liv Du er måske ikke klar over det, men maskinlæring er allerede rundt omkring dig, og det kan udøve en overraskende grad af indflydelse på dit liv. Tro mig ikke? Du bliver måske overrasket. , men i dette tilfælde gør det fakery betydeligt lettere. For det første er softwaren bredt og frit tilgængeligt. FakeApp, for eksempel, er et populært valg til at oprette deepfakes. Du har ikke brug for avancerede færdigheder for at anvende en face-swap, softwaren gør det for dig.

Da AI og dyb læring hjælper med at skabe dybe forfalskninger, forbedrer teknologien også og bliver mere overbevisende i en alarmerende hastighed. Det vil ikke vare længe, ​​før disse redigeringer ikke er synlige for det blotte øje.

I en verden, der er fyldt med falske nyheder, kan overbevisende deepfakes vise sig at være en kaotisk styrke mod det, vi mener er sandt.

Fremgangen i deepfakes finder også sted på et tidspunkt, hvor AI-stemmesyntese også går hurtigt. Ikke kun kan AI generere falske videoer, men det kan også generere stemmemodeller til mennesker.

Det betyder, at du ikke har brug for en imitatør for at få det til at lyde som om en politiker afgiver en skandaløs erklæring. Du kan træne AI til at efterligne deres stemme i stedet.

Konsekvenserne af Deepfakes

Folk bruger allerede deepfakes til ondsindede formål. Folk brugte ofte FakeApp til at oprette falske videoer af berømthedskuespillerinder engageret i voksenindhold.

Gal Gadot, Daisy Ridley og Emma Watson er kun et par af de skuespillerinder, der er målrettet efter falske voksenvideoer. Disse deepfakes bytter skuespillerinders ansigter ind i videoer fra voksne filmstjerner.

Mens flere platforme og visse voksne websteder har forbudt disse typer videoer, vises der flere hver dag. Faktisk opretter nogle websteder specifikt deepfake-berømmelsesvideoer til voksne baseret på brugeranmodninger.

I de fleste lande omhandler der endnu ingen love denne type indhold, hvilket gør det vanskeligt at kontrollere.

Mens vi stadig er et stykke væk fra dystopien styret af forkert information og falske videobevis, som vi ser i film som The Running Man, er vi allerede alt for fortrolige med virkningen af ​​falske nyheder Hvad er falske nyheder og hvordan spreder det sig så Hurtigt? Hvad er falske nyheder, og hvordan spreder det sig så hurtigt? Falske nyheder plager Internettet, og den værste del er, at de fleste mennesker ikke kan genkende det, når de ser det. .

Deepfakes kan være et kraftfuldt værktøj til at sprede forkert information. Ingen er blevet indrammet for en forbrydelse eller forfalsket deres død ved hjælp af deepfakes, men hvad sker der, når det bliver vanskeligt at se, hvilke videoer der virkelig er reelle?

Konsekvenserne af deepfakes, der bruges til politiske formål, er to gange. For det første gør det falske nyheder meget lettere at sprede. Videoer er mere tilbøjelige end tekst eller billeder til at overbevise folk om, at der faktisk skete noget fiktivt.

Folk tror allerede overskrifter fra falske websteder uden bevismateriale, der støtter deres historie. Pludselig vil falske historier have “beviser” viser politikere, der tilstår forseelser eller udråbende udsagn.

På den anden side kunne deepfakes også emboldere politikere, når de undviger ansvarlighed. De kunne altid nemt hævde, at en lyd- eller videooptagelse faktisk er en dyb falsk.

Hvordan bekæmper vi Deepfakes?

Mens mange teknologivirksomheder tager sig tid til at tømme dybder, udvikler en række mennesker værktøjer til at bekæmpe ondsindede falske videoer. AI kan bekæmpe hackere og cyberkriminalitet Hvordan kunstig intelligens vil bekæmpe moderne hackere og cyberkriminalitet Hvordan kunstig intelligens vil bekæmpe moderne hackere og cyberkriminalitet Med en cybersecurity talentmangel og cyberkriminalitetsepidemi, hvordan kan virksomheder bekæmpe hackere? Med kunstig intelligens! , men det er også nyttigt til at registrere AI-manipulation i videoer.

AI Foundation oprettede et browserplugin kaldet Reality Defender til at hjælpe med at registrere deepfake-indhold online. En anden plugin, SurfSafe, udfører også lignende kontroller. Begge disse værktøjer sigter mod at hjælpe internetbrugere med at skelne faktum ud fra fiktion.

Faktakontrollerende websteder som Snopes udvidede også til at kalde doctored-videoer. Men de har endnu ikke værktøjer til automatisk at registrere deepfakes.

Selv det amerikanske forsvarsministerium investerede i software til at detektere deepfakes. Hvad ville trods alt ske, hvis en overbevisende video af en verdensleder dukkede op online, hvor han erklærede krig eller en missilopsætning mod et andet land? Regeringer har brug for værktøjer til hurtigt at verificere legitimiteten af ​​en video.

Machine Learnings utilsigtede konsekvenser

Der er ingen tvivl om, at AI-teknologi og dyb maskinlæring forbedrer vores liv på mange måder. Men teknologien har også utilsigtede konsekvenser.

Mens dårlige data er en stor hindring for maskinlæringsalgoritmer, spiller det menneskelige element også en rolle. Det er vanskeligt at forudsige, hvordan folk kan bruge bestemt teknologi til ondsindede formål. Du kan finde ud af mere om maskinlæring og tidligere fejl i vores guide til maskinlæringsalgoritmer, og hvorfor de går galt. Hvad er maskinlæringsalgoritmer? Sådan fungerer de Hvad er maskinlæringsalgoritmer? Her er, hvordan de arbejder Maskinens indlæringsalgoritmer er designet til at gøre livet lettere og forbedre systemer, men de kan gå galt med dårlige konsekvenser. . Og selvom du måske har svært ved at identificere deepfakes som sådan, kan du undgå falske nyheder med smarte nyhedsapps 5 Smart News-apps, der hjælper dig med at undgå falske nyheder med mere pålidelige rapporter 5 Smart News-apps, der hjælper dig med at undgå falske nyheder med mere pålidelige rapporter Vil du slippe af med falske nyheder? Du kan bruge disse smarte apps til i stedet at få fakta-kontrollerede og neutrale nyheder. .