Sisältö
- Mikä on syväfake?
- Kuinka deepfake vaikuttaa?
- Alkuperä
- Vaara
- Ratkaisun löytäminen
- Suosittu syväfake-sisältö
Deepfake-sisältö rakentaa kaaosta ihmisten keskuudessa, jotka kasvoivat ajatuksella, että näkeminen uskoo. Valokuvat ja videot, joita pidettiin kiistattomina todisteina siitä, että jotain tapahtuu, ovat nyt massojen kyseenalaisia. Tämä on odotettavissa sen jälkeen, kun on saatu selville hämmästyttävän realistinen video Barack Obamasta, jossa presidentti Trumpia kutsutaan ”täydelliseksi ja täydelliseksi ****” on vain syvän teoksen luominen.
Deepfake-sisältö rakentaa kaaosta ihmisten keskuudessa, jotka kasvoivat ajatuksella, että näkeminen uskoo.
Edgar CervantesKyseinen tekniikka nostaa kulmakarvoja ja herättää kysymyksiä, minkä vuoksi olemme täällä antamassa sinulle täydellisen syvällisen pilaantumisen siitä, mikä se on, miten se toimii, ja jos on todella syytä huoleen.
Mikä on syväfake?
Deepfake on AI (tekoäly) -tekniikka, joka käyttää koneoppimista sisällön luomiseen tai manipulointiin. Sitä käytetään usein montaasien luomiseen tai ihmisen kasvojen päällekkäiseen sijoittamiseen, mutta sen kyvyt ulottuvat huomattavasti pidemmälle. Tällä tekniikalla on paljon muita sovelluksia. Näitä ovat äänen, liikkeen, maisemien, eläinten ja muun manipulointi tai luominen.
Kuinka deepfake vaikuttaa?
Deepfake-sisältö luodaan koneoppimistekniikalla, joka tunnetaan nimellä GAN (generative adversarial network). GAN-verkot käyttävät kahta hermoverkkoa: generaattoria ja erotinta. Nämä kilpailevat jatkuvasti toisiaan vastaan.
Generaattori yrittää luoda realistisen kuvan, kun taas erottelija yrittää selvittää, onko se vääriä vai ei. Jos generaattori huijaa erottelijan, erottelija käyttää kerättyjä tietoja parempaan tuomariin. Samoin, jos erottaja toteaa generaattorin kuvan olevan väärennös, generaattori pystyy luomaan väärennetyn kuvan paremmin. Loputon jakso voi jatkua, kunnes kuva, video tai ääni ei ole enää väärennetty ihmisen näkökulmasta.
Alkuperä
Ensimmäiset deepfake-videot olivat ilmeisesti pornoa!
Edgar CervantesEnsimmäiset deepfake-videot olivat ilmeisesti pornoa! Tarkemmin sanottuna oli yleistä nähdä kuuluisuuksien kasvot päällekkäin pornonäyttelijöiden kanssa. Nicholas Cage -meemit olivat myös suosittuja muiden hauskojen keksintöjen joukossa.
Sanaa deepfake tuli synonyymi tämän tekniikan kanssa vuonna 2017 kiitos Reddit-käyttäjälle, joka meni nimellä “deepfakes”. Muita käyttäjiä liittyi nyt kiellettyyn r / deepfakes subreddit, jossa he jakoivat luomuksensa maailmalle.
Generatiivisen kilpailevien verkostojen todellinen luoja on Ian Goodfellow. Yhdessä kollegojensa kanssa hän esitteli konseptin Montrealin yliopistolle vuonna 2014. Hän siirtyi sitten työskentelemään Googlen palvelukseen ja on tällä hetkellä Applen palveluksessa.
Vaara
Vääräissä käsissä syväfake-luomista voidaan käyttää väärentämään paljon enemmän kuin typerä Nicholas Cage -meime.
Edgar CervantesSisällön manipulointi ei ole mitään uutta, mutta se vaati aiemmin vakavia taitoja. Tarvitsit tehokkaan tietokoneen ja todella hyvän syyn (tai vain liian paljon vapaa-aikaa) väärennetyn sisällön tekemiseen. FakeAppin kaltainen syvän luomisohjelma on ilmainen, helppo löytää, eikä se vaadi paljon tietokoneen virtaa. Ja koska se tekee kaiken työn yksin, sinun ei tarvitse olla ammattitaitoinen toimittaja tehdäksesi hulluin todellisia syväfakeja.
Siksi kansalaiset, kuuluisuudet, poliittiset yhteisöt ja hallitukset ovat huolestuneita syväfakeista. Vääräissä käsissä syväfake-luomista voidaan käyttää väärentämään paljon enemmän kuin typerä Nicholas Cage -meime. Kuvittele jonkun luoneen vääriä uutisia tai syyttävän videotodisteita. Voit lisätä ongelmaan vääriä ja kostaa pornoa. Asiat voivat muuttua sotkuiseksi todella nopeasti.
Toinen syy huoleen syvän sisällön sisällöstä on, että tärkeät persoonallisuudet voivat myös kieltää aiemmat toimet. Koska syväfake-videot näyttävät niin todellisilta, kuka tahansa voi väittää, että todellinen leike on syväfake.
Lue myös: Etiikan ja AI: n monimutkaisuus
Ratkaisun löytäminen
Vaikka koulutettu silmä on hyvin lähellä todellista, se voi silti havaita väärennetyn videon kiinnittämällä tarkkaan huomiota. Huolenaiheena on, että tulevaisuudessa emme ehkä pysty kertomaan eroa.
Twitter, Pornhub, Reddit ja muut ovat yrittäneet epäonnistuneesti päästä eroon tällaisesta sisällöstä. Virallisemmalta puolelta DARPA (Defense Advanced Research Projects Agency) tekee yhteistyötä tutkimuslaitosten ja Coloradon yliopiston kanssa luodakseen tavan havaita syvävirheitä.
Paras tapa, jolla voimme torjua syväfilmejä, on olla tarkkaavaisempi ja vähemmän herkkä.
Edgar CervantesEnnen kuin meillä on ohjelmistoja, jotka pystyvät havaitsemaan väärinkäytöksiä tällaisissa videoissa, paras mitä voimme tehdä, on olla tarkkaavaisempi ja vähemmän herkkä. Tee tutkimuksesi ennen kuin oletat, että video, kuva tai ääni on totta. Tämän meidän olisi joka tapauksessa pitänyt jo tehdä.
Suosittu syväfake-sisältö
Jordan Peele liittyy Buzzfeediin saadakseen tämän videon, jonka tarkoituksena on luoda tietoisuus.
Verkkokäsittelyasiantuntija Claire Wardle näyttää meille kuinka realistiset nämä videot voivat näyttää näyttämällä Adelta videon 30 ensimmäisen sekunnin ajan. Tämä The New York Times -video antaa meille loistavan kuvan aiheesta.
Watchmojo antaa on kuratoinut listan ympärillä olevista suosituimmista syväfake-videoista. Se on hauska video, jossa on paljon upeita esimerkkejä.
Oletko huolissasi syväfake-videoiden seurauksista? Se on ehdottomasti aihe, joka meidän tulisi pitää mielessä, samalla kun etsitään ratkaisuja.
