Tartalomjegyzék:
2017 végén az Alaplap beszámolt egy AI-technológiáról, amely videofelvételekben felcserélhető. Abban az időben a technika - amelyet később deepfakesnek hívtak - durva, szemcsés eredményeket hozott, és főleg hamis pornó videók készítésére használták fel, amelyek hírességeket és politikusokat mutattak be.
Két évvel később a technológia óriási haladást ért el, és szabad szemmel nehezebb felismerni. A hamis hírek mellett a hamisított videók nemzetbiztonsági aggályokká váltak, különösen a 2020-as elnökválasztás közeledtével.
A mélyfajok felmerülése óta számos szervezet és cég fejlesztett technológiákat az AI-val manipulált videók észlelésére. Félelem van azonban, hogy egy napon a deepfakes technológiát lehetetlen felismerni.
A Surrey-i Egyetem kutatói olyan megoldást fejlesztettek ki, amely megoldhatja a problémát: ahelyett, hogy felfedezné, ami hamis, meg fogja bizonyítani, hogy mi az igaz. A várható számítógépes látás és mintázatfelismerés (CVPR) konferencián való bemutatásukra szánt Archangel nevű technológia AI-t és blockchain-t használ hamisítás nélküli digitális ujjlenyomat létrehozására és regisztrálására az autentikus videók számára. Az ujjlenyomat referenciapontként használható az online terjesztés vagy a televízióban sugárzott média érvényességének igazolására.
AI használata a videók aláírásához
A bináris dokumentum hitelességének igazolásának klasszikus módja egy digitális aláírás használata. A kiadók a kriptográfiai algoritmuson, mint például az SHA256, MD5 vagy a Blowfish, futtatják a dokumentumukat, amely "hash" rövid rövid byte-sorozatot állít elő, amely a fájl tartalmát képviseli, és digitális aláírássá válik. Ugyanazon fájl futtatása a hash algoritmussal bármikor ugyanazt a kivonatot hozza létre, ha a tartalma nem változott.
A hash-ok túlérzékenyek a forrásfájl bináris struktúrájának változásaira. Ha egyetlen bájtot módosít a hasított fájlban, és újra futtatja az algoritmust, akkor teljesen más eredményt kap.
John Collomosse, a Surrey-i Egyetem számítógépes látásprofesszora és az Arkangyal projektvezetője szerint azonban a hash-ok jól működnek a szöveges fájlokban és az alkalmazásokban, ugyanakkor kihívásokat jelentenek a videók számára, amelyek különféle formátumokban tárolhatók.
"Azt akartuk, hogy az aláírás azonos legyen, függetlenül a codec-ről, amellyel a videót tömörítik" - mondja Collomosse. "Ha elveszem a videómat, és konvertálom azt például MPEG-2-ből MPEG-4-re, akkor a fájl teljesen más hosszúságú lesz, és a bit teljesen megváltozott, ami más hash-t eredményez. tartalomtudatos kivonási algoritmus volt."
A probléma megoldására Collomosse és kollégái kifejlesztettek egy mély idegi hálózatot, amely érzékeny a videó tartalmára. A mély idegi hálózatok olyan AI-konstrukciók, amelyek hatalmas példák elemzésével fejlesztenek viselkedését. Érdekes módon az idegi hálózatok a mélyfajok középpontjában álló technológia is.
Mélyfajok készítésekor a fejlesztő a hálózat arculati képeivel táplálja a hálózatot. A neurális hálózat megtanulja az arc tulajdonságait, és megfelelő képzettséggel képessé válik arra, hogy más videókban arcokat keressen és cseréljen az alany arcával.
Arkangyal ideghálóját az ujjlenyomat-felvételről készített videó segítségével képzik. "A hálózat inkább a videó tartalmát vizsgálja, nem pedig annak mögöttes bitjeit és bájtjait" - mondja Collomosse.
Az edzés után, amikor egy új videót futtat a hálózaton, akkor érvényesíti, ha formátumától függetlenül ugyanazt a tartalmat tartalmazza, mint a forrásvideó, és elutasítja, ha egy másik videóról van szó, vagy hamisított vagy szerkesztett.
Collomosse szerint a technológia mind a térbeli, mind az időbeli hamisítást képes felismerni. A térbeli szabotázsok az egyes képkockákban végrehajtott változások, például az arccsere-szerkesztések mélységekben.
De a mélyfajták nem csak a videók megsemmisítése. Kevésbé tárgyaltak, de ugyanolyan veszélyesek a képkockák sorozatában, valamint a videó sebességében és időtartamában végrehajtott szándékos változások. Nancy Pelosi, a ház hangszórója egy nemrégiben széles körben elterjesztett, hamis video nem használt mélyfajtákat, hanem egyszerű szerkesztési technikák óvatos felhasználásával készült, ami zavarossá tette őt.
"A hamisítás egyik formája, amelyet észlelhetünk, a videó rövid szegmenseinek eltávolítása. Ezek ideiglenes szabotázsok. És akár három másodpercet is észlelhetünk hamisítással. Tehát, ha a videó több óra hosszú, és csak három A videó másodperc múlva azt észlelhetjük "- mondja Collomosse, és hozzáteszi, hogy az Arkangyal az eredeti videó sebességében bekövetkező változásokat is észlelni fogja, amint a Pelosi videóban történt.
Az ujjlenyomat regisztrálása a blokkláncon
Az Archangel projekt második alkotóeleme a blokklánc, a hamisításbiztos adatbázis, ahol új információkat lehet tárolni, de nem lehet megváltoztatni - ideális video archívumokhoz, amelyek nem változtatnak meg a videókban a regisztráció után.
A Blockchain technológia alapja a digitális valuták, például a Bitcoin és az Ether. Ez egy digitális főkönyv, amelyet több független fél tart fenn. A felek többségének megállapodnia kell a blokkláncban végrehajtott változtatásokról, amelyek lehetetlenné teszik, hogy egyetlen párt egyoldalúan belekeveredjen a főkönyvbe.
Technikailag lehetséges támadni és megváltoztatni a blokklánc tartalmát, ha a résztvevők több mint 50% -a ütközik be. De a gyakorlatban ez rendkívül nehéz, különösen, ha a blokkláncot sok független párt tartja fenn, eltérő célokkal és érdekekkel.
Arkangyal blokklánca kissé különbözik a nyilvános blokklánctól. Először is, nem hoz létre kriptovalutát, és csak az azonosítót, a tartalomtudatos ujjlenyomatot és a hitelesítő neurális hálózat bináris hash-ját tárolja minden archívumban lévő videóhoz (a blokkláncok nem alkalmasak nagy mennyiségű adat tárolására, ezért magát a videót és az idegi hálózatot nem láncon tárolják).
Ezenkívül ez egy engedélyezett vagy "magán" blokklánc. Ez azt jelenti, hogy ellentétben a Bitcoin blokklánccal, ahol mindenki új tranzakciókat rögzíthet, csak az engedélyezett felek tárolhatnak új rekordokat az Arkangyal blokkláncon.
Az Arkangyalt jelenleg az Egyesült Királyság, Észtország, Norvégia, Ausztrália és az Egyesült Államok nemzeti kormányzati archívumainak hálózata tárgyalja: Új információ tárolásához minden érintett országnak alá kell írnia a kiegészítést. De bár csak a részt vevő országok nemzeti levéltárai jogosultak rekordokat hozzáadni, mindenki más elolvasta a hozzáférést a blokklánchoz, és felhasználhatja más videók ellenőrzésére az archívumban.
- AI és a Machine Learning exploit, mélyfajok, most nehezebben észlelhető AI és Machine Learning exploit, mélyek, most nehezebb észlelni
- Mélyfajta videók vannak itt, és nem vagyunk készek Mélyfajta videók vannak itt, és nem vagyunk készek
- Az Adobe új AI érzékeli a Photoshopped arcokat Az Adobe új AI érzékeli a Photoshopped arcokat
"Ez a blockchain alkalmazása a közjó érdekében" - mondja Collomosse. "Véleményem szerint a blokklánc egyetlen ésszerű felhasználása az, ha olyan független szervezetek vannak, amelyek nem feltétlenül bíznak egymásban, de érdekli ez a kölcsönös bizalom e kollektív célja. És mi azt várjuk, hogy a világ minden tájáról megőrizze a kormány nemzeti archívumát, hogy e technológia felhasználásával biztosíthassuk az integritásukat."
Mivel a hamisított videók készítése könnyebbé, gyorsabbá és hozzáférhetőbbé válik, mindenkinek minden segítségre van szüksége, amelyre lehetősége van a video-archívum integritásának biztosítása érdekében - különösen a kormányok számára.
"Úgy gondolom, hogy a mélyfajok szinte fegyverkezési versenyt jelentenek" - mondja Collomosse. "Mivel az emberek egyre meggyőzőbb mélyfajtákat készítenek, és egy nap lehetetlenné válik ezek felismerése. Ezért a legjobb, amit tehetünk, ha megpróbáljuk bizonyítani a videó eredetét."
