Hogyan befolyásolja a gdpr a légipart | ben dickson

Afajta fegyverkezési versenyként leírva a tech-vállalkozások nagy mennyiségű felhasználói adatot gyűjtöttek az alkalmazások és platformok működtetését elősegítő mesterséges intelligencia algoritmusok finomítására. Eddig legtöbbször képesek voltak megkerülni az elszámoltathatóságot, amikor gyakorlataik jogi és etikailag szürke területekre szorították őket.

De ez május 25-én változhat, amikor az Európai Unió általános adatvédelmi szabályai (GDPR) hatályba lépnek. A GDPR példátlan korlátozásokat fog kivetni a felhasználói adatok gyűjtésére és kezelésére az EU régiójában, és súlyos szankciókat szab meg a nem teljesítő vállalatok számára.

Ez rossz hírnek tűnhet azoknak a cégeknek, amelyek AI algoritmusokat használnak, amelyek részesültek a kevés adatgyűjtési szabályokból (és a szolgáltatási dokumentumok hosszadalmas, unalmas és félreérthető feltételeiről). Egyesek attól tartanak, hogy a szigorúbb szabályok sok alkalmazásban és területen akadályozzák az innovációt és a mesterséges intelligencia alkalmazását. Mások szerint az új irányelv létrehoz egy alapot, ahol az AI alkalmazások megbízhatóbbá és megbízhatóbbá válnak.

Akárhogy is is van, az AI iparág a GDPR-korszak nagy változása felé tart.

Adattulajdon és adatvédelem

"A GDPR nagy jelentőségű az AI számára, mivel megköveteli, hogy másképp gondolkodjunk az adatok gyűjtésének és felhasználásának módjáról" - mondta Tim Estes, a Digital Reasoning alapítója és elnöke. "A tech cégek túl sokáig ragaszkodtak ahhoz, hogy termékeik és szolgáltatásaik értékének megszerzése érdekében el kell adni az adatait."

Korábban a társaságoknak csak homályos hozzájárulást kellett kapniuk a felhasználóktól, hogy mindenféle adatot összegyűjtsenek. "Az AI segített életben tartani a nagy adatmennyiséget - ez még egy oka annak, hogy a vállalkozásoknak össze kell gyűjteni és bányászniuk az összes rendelkezésre álló adatot" - mondja Estes. "Sok vállalat elkezdte az AI alkalmazását az adatok elemzése céljából, csak azért, mert úgy gondolja, hogy meg kellene - gondolkodás nélkül a felhasználói magánéletre vagy az adatok tulajdonjogára gyakorolt ​​hatásra."

A GDPR legalapvetőbb feltételezése az, hogy az adatok a felhasználóké. A GDPR értelmében a vállalatoknak nyilvánosságra kell hozniuk az összegyűjtött információk teljes körét, valamint azt, hogy miként használják, hogyan fogják megvédeni és megakadályozzák az illetéktelen hozzáférést. Az új szabályok arra fogják kényszeríteni az AI-társaságokat, hogy körültekintően kezeljék az összegyűjtött adatokat, szemben a vándorlás felhalmozásával, feldolgozásával és a felhasználói információk megosztásával.

Az elfelejtés joga

A GDPR felhatalmazza a felhasználókat arra, hogy megköveteljék, hogy egy társaság törölje az összes adatot a szerveréről. Ez nem igazán felel meg az AI-társaságoknak, amelyek érdeke, hogy a lehető legtöbb felhasználói adatot megőrizzék olyan feladatok elvégzéséhez, mint például a trendek előrejelzése és a felhasználói viselkedés.

"A nap végén a GDPR arról szól, hogyan gyűjti és kezeli az adatokat, és nem feltétlenül arról, hogy mennyi adat van" - mondja Maryna Burushkina, a GrowthChannel vezérigazgatója. "A legtöbb vállalat számára a fő nehézség nem az opt-in beszerzésével kapcsolatos, hanem inkább az adatkezelésről, az adatok felhasználásának kommunikálásáról a felhasználókkal, és a felhasználók számára a törlés lehetőségének biztosításával."

Az AI-társaságoknak további lépéseket kell tenniük adataik anonimizálására, ha továbbra is hozzáférni akarnak ezekhez a betekintésekhez. Más kihívásokkal szembesülnek azok a vállalatok, amelyek már nagy tárolással rendelkeznek a felhasználói adatokkal.

"A GDPR alapján, ha egy cég egy konkrét személyi adatvédelmet akar törölni, akkor biztosítania kell annak mindenhol törlését" - mondta Amnon Drori, az Octopai vezérigazgatója. Ijesztő feladat lehet manuálisan végrehajtani, amikor az adatok különböző kiszolgálókra vannak szétszórva, és különböző strukturált és strukturálatlan formátumokban vannak tárolva.

Például, amikor töröl egy felhasználói hitelkártya számot (minden bizonnyal érzékeny információ), a vállalatoknak minden jelentést, adatbázist, adatbázis-objektumot és ETL-t meg kell vizsgálniuk, ahol az információ tárolódik. "Időnként különböző metaadatneveket látunk ugyanazon elemnél: például 'hitelkártya száma', 'másolat száma', hitelkártya száma ', ' kártya száma ', ' hitelkártya száma. '… a lista folytatódik, és tovább "- mondja Drori. Gyakran lehetetlen tudni, hogy hol kell keresni, és a folyamat hetekig, sőt akár hónapokig is eltarthat, és hasonlóan sok kézi folyamathoz, ez hajlamos az emberi hibákra és pontatlanságokra - mondja Drori.

A GDPR az adatkezelés során felmerülő emberi hibák költségeit is növeli. "Ez az oka annak, hogy manapság oly sok vállalat keres automatizált megoldást a metaadatok pontos kezelésére" - mondja Drori. Talán ironikus módon az AI maga is megoldás lehet e tekintetben. Az AI-alapú metaadatkezelő eszközök beolvashatnak minden adatforrást a szervezeten belül, és megszilárdíthatják a kapcsolatokat a különféle eszközök és adatforrások között.

A magyarázathoz való jog

A GDPR egyik legfontosabb része az AI vonatkozásában az, amelyet "magyarázathoz való jognak" hívtak. Az irányelv kimondja, hogy a társaságoknak értesíteniük kell a felhasználókat "az automatizált döntéshozatal létezéséről", és "érdemi információkat kell szolgáltatniuk a szóban forgó logikáról, valamint az ilyen adatfeldolgozás jelentőségéről és az érintett számára várható következményeiről".

Ez alapvetően azt jelenti, hogy a felhasználóknak tudniuk kell, mikor vannak közvetlenül vagy közvetetten AI algoritmusok, és képeseknek kell lenniük arra, hogy megtámadják az algoritmusok által hozott döntéseket, és igazolást kell kérniük a következtetés eredményességéről. Ez lesz az egyik legnagyobb kihívás, amellyel az AI ipar szembesül.

A mély idegi hálózatok, amelyek a kortárs AI algoritmusok fő technológiája, összetett szoftver struktúrák, amelyek nagy funkcionalitások elemzésével és a korrelációk és minták megtalálásával hozzák létre saját működési szabályaikat. Ahogy az idegi hálózatok összetettebbé válnak, viselkedésük egyre nehezebb bomlani. Gyakran még a mérnökök sem tudják megmagyarázni az AI algoritmusuk által meghozott döntések okait.

A "fekete doboz" problémának nevezett AI algoritmusok megmagyarázhatatlansága megnehezítette azok végrehajtását a tárgyalóteremben hozott határozatokban, a rendészeti, hitel- és hitelkérelmekben, toborzásban, egészségügyben és más kritikus területeken. De jogi tőkeáttétel nélkül az AI-társaságoknak kevés ösztönzése volt az AI-algoritmusok átláthatóbbá tételére, különösen akkor, ha szorosan kapcsolódtak üzleti titkaikhoz.

A GDPR az AI társaságokat fogja elszámolni az algoritmusaik által meghozott döntésekért.

"A GDPR részeként a szervezetek feladata, hogy világosan leírják a feldolgozási módszert emberi nyelven, miközben engedélyt kérnek az alanytól" - mondja Pascal Geenens, a Radware biztonsági kutatója. "A mély tanulás fejlődésével, és az adattudósok nem képesek jellemezni a neurális hálózat érvelésének mögött levő determinisztikus jelleget, ez a leírás összetettebbé válhat és nehezen magyarázható."

Alapvetően a GDPR célja az adatok feldolgozását végző emberek elszámoltathatósága - mondja Geenens. Tehát ha gépi tanulási algoritmusokat használ a feldolgozáshoz, akkor azokat úgy kell megterveznie, hogy lehetővé tegye a magyarázatokat az ön nevében hozott döntésekről.

Néhány szervezet próbál technológiákat fejleszteni az AI átláthatóságának növelése érdekében. Közülük kiemelkedő a DARPA Explainable AI (XAI) kutatási projektje, amelynek célja az AI-alapú döntések érthetővé tétele.

AI outsourcing

A GDPR azon szervezeteket is érinti, amelyek adataikat harmadik felek számára hozzáférhetővé teszik. Az ilyen társaságok kiemelkedő példája a Facebook; a Cambridge Analytica botrányában a szociális média óriás nem tudta megakadályozni, hogy az adatbányász cég 87 millió felhasználó adatait gyűjtse és visszaéljen. A GDPR azonban kihatással lesz a vállalatokra is, amelyek kiszervezik AI funkciókat, és adataikat elérhetővé teszik az AI szolgáltatók számára.

"Noha sokan azt gondolják, hogy az AI szolgáltatók hasonlóak más szolgáltatókhoz - egyszerűen felajánlanak technológiájukat pénzbeli kompenzáció fejében - az igazság az, hogy az AI szolgáltatók üzleti partnerségeket is létrehoznak annak érdekében, hogy technológiájukat tovább építsék és fejlesszék" - mondja Estes, a vezető ügyvezető a Digital Reasoning-től. Ez azt jelenti, hogy egy AI szolgáltató érdemes megtartani az ügyfél adatait, hogy tovább továbbképzze saját algoritmusait, és felhasználja azokat más területeken.

Például egy olyan AI szolgáltató, amely segít az egészségügyi szervezetnek megtalálni a tünetek mintáit és javítani a diagnózist, előfordulhat, hogy olyan adatkészlettel találkozik, amely javítja a szabadalmaztatott algoritmusait. Lehet, hogy az AI-társaság ki akarja használni az adatokat az algoritmusok továbbfejlesztésére más típusú beteggondozáshoz, és fejlesztheti képességeit, hogy segítsen más egészségügyi szolgáltatóknak. A GDPR értelmében az adatokért felelős egészségügyi szervezetet fogják elszámolni az AI szolgáltató által végzett etikátlan felhasználásokért. Estes szerint a vállalkozások számára kulcsfontosságú az AI szolgáltatók keresése, akik az algoritmusok, és nem az adatok birtoklásában hisznek.

"A GDPR arra kényszeríti a vállalkozásokat, hogy fordítsanak nagyobb figyelmet az adatok felhasználásának módjára és idejére, hol tárolják őket, és mi történik vele egy projekt befejezése után" - mondja Estes. "Ez azt jelenti, hogy együttműködünk az AI szolgáltatókkal, amelyek segítenek meghatározni az adatok tulajdonjogát és végrehajtani a felhasználói információkat védő stratégiákat, miközben nem akadályozzák az AI algoritmusok sikerének elősegítését."

A GDPR akadályozni fogja az AI innovációt?

Szakértőink, akikkel beszéltünk, azt hitték, hogy bár az új rendeletek megkérdőjelezik az AI társaságok által elfogadott jelenlegi gyakorlatokat és szokásokat, ez arra készteti őket az innováció új módjainak felkutatására, valamint a magánélet és az etikai normák tiszteletben tartásának fenntartására is.

"A GDPR-szabályozás hatálybalépésével az összes nagy szoftvervállalat megteszi a szükséges intézkedéseket, hogy ne csak biztosítsa a szabályok betartását, hanem újításokat végezzen és gondolkodjon kívülről, hogy új lehetőségeket találjon a piacon" - mondja a GrowthChannel Burushkina.

"Az innovációt nem akadályozza - hanem irányítja és motiválja - a GDPR" - mondja Octopai Drori. Időközben a GDPR olyan új vállalkozásokat és technológiákat fog létrehozni, amelyek elősegítik a szervezeteket a GDPR megfelelésének elérésében és fenntartásában.

A GDPR által meghatározott szabványok valóban segíthetnek áthidalni az AI-alapú szolgáltatások szolgáltatói és felhasználói közötti növekvő bizalmi szakadékot. Estes úgy véli, hogy a GDPR mind az AI szolgáltatókat, mind pedig a technológiájukat megvalósítókat felelõsebbé teszi az adatforrások felhasználásának módjáról és felhasználásáról, és arra készteti őket, hogy a felhasználókat a profit elõtt állítsák. "A nap végén" - mondja "az AI szolgáltatóknak csak az algoritmusok birtoklásának - nem az adatoknak - kell lenniük képességeik és megoldásaik újítása céljából."