Technológia: hogyan lehet kijavítani a Google és a Facebook hibáit

Az idei Technológiában talán a legmeglepőbb téma az volt, hogy sok felszólaló felbukkant a Facebook, a Google és a Twitter segítségével, és a kritika a magánélet megközelítésére összpontosított, különös tekintettel arra a lehetséges szerepre, amelyet játszottak a 2016. évi választások orosz csapkodásának lehetővé tételében.

Az előadók széles választéka szorgalmazta ezen "internetes óriások" különféle szabályozását, és a fent említett társaságok egyikének sem jelen volt a konferencián alternatív nézőpont biztosítása. Ez nagyon különbözik a tavalyi konferenciától, amikor a Facebook vezérigazgatója, Mark Zuckerberg elmondta, hogy az a vélemény, hogy a Facebook hamis hírek befolyásolták a választásokat, "nagyon őrült ötlet".

Azóta, amint azt a Techonomy társalapítója, Simone Ross megjegyezte, megtanultuk, hogy "a tech olyan könnyű megosztani minket, mint összehozni." A konferencia társalapítója, David Kirkpatrick (fent) hangolta a konferencia hangját, mondván, hogy "a technológia erő a jó, de csak akkor, ha a jó a célja", és folytatta, hogy azt hitte, hogy a nagy technológiai vállalatoknak "proaktívra van szükségük" kereszteződés "a kormányzattal, függetlenül attól, hogy szabályozásnak hívják-e vagy sem.

Hatóság hálózatba kötött, mesterségesen intelligens világban

Az Elevation Partners közismert befektetője, Roger McNamee, a Facebook és a Google korai befektetője talán a legnegatívabb volt a felszólalók közül. McNamee szerint ezek a vállalatok "elkezdték megmenteni a világot", de ez megváltozott, amikor a reklám lett az üzleti modell. Azt mondta, hogy az okostelefon, személyes adatokkal kombinálva, lehetővé tette "az agyi hackelés olyan szintjének megteremtését, amelyet még soha nem láttak a médiában".

McNamee elmondta, hogy Zuckerberg őszintenek véli, amikor azt mondta, hogy egy évvel ezelőtt nem hiszi, hogy ilyen hackelés lehetséges, de azt állította, hogy a Google és a Facebook által jelenleg betöltött szerepet nem szabad becsülni. Megjegyezte: "Nehéz lehet nekik most lenni és felismerni, hogy elpusztította a nyugati civilizációt."

danah boyd, Data & Society; Roger McNamee, Elevation Partners; Marc Rotenberg, elektronikus adatvédelmi információs központ (EPIC); Stratford Sherman, kísérő

Ez a megbeszélés a „Hatóság a hálózatba épített, mesterségesen intelligens világban” című panel részeként jött létre, amelyen Danah Boyd, az Data & Society és a Microsoft Research szociológusa is részt vett; Marc Rotenberg, az elektronikus adatvédelmi információs központ (EPIC) elnöke; és moderátor Stratford Sherman, a Suppli-ból. Sherman elmondta, hogy míg a Facebook és a Google nyilvános beszéd fórumaként indult, ezek "radikálisan szabályozatlanok". Az AI-vel, amely alapvetően befolyásolhatja az emberi fajt a láthatáron, Sherman azt mondta, hogy aggódik a már látott technológiai fejlődés szándékos következményei miatt.

Rotenberg elmondta, hogy bár továbbra is aggódik a nyomon követés és profilozás miatt a hagyományos adatvédelmi aggályok miatt, ugyanígy aggódik a verseny és az innováció hiánya, valamint a demokratikus intézmények kockázata miatt. Azt mondta, hogy az internetes óriások hatalmas hatalommal bírnak, és a birtokukban lévő adatok valódi akadályt jelentenek a belépéskor, tehát nincs értelmi verseny. Rotenberg azt mondta, hogy a Reagan-kormányzat óta van Washingtonban, és először "az elmúlt évi választások nem voltak ismertek".

Egy korábbi ülésén Boyd, aki könyvet írt „ Ez összetett” , beszélt a manipuláció nehézségeiről az interneten.

Beszélt a manipuláció egyre növekvő folyamatáról az elmúlt 20 évben, amely azzal kezdődött, hogy a gyerekek trófereztek Oprah-t, és tovább fejlődtek a "rickrolls" -ká, és olyan dolgokra, mint a "Santorum" keresési eredmények megváltoztatása. A közelmúltban a Gamergate-rel egy nagyobb szereplők szerepeltek játékosokká, köztük állami szereplőkkel is. Boyd szerint az internetes cégek szerint az AI megvédi őket, ám az eredményekkel manipulálni kívánó csoportok már kísérleteznek a természetes nyelvfeldolgozással, és ami a legfontosabb: az adatforrások megsértése. Például a rossz adatoknak egy rendszerbe történő beinjekciózása új biztonsági rést jelent. De Boyd szerint az egyetlen válasz az, hogy "technikai ellenanyagokat építünk az iparunkba".

Az ülésen Boyd elmondta, hogy a technológiai vállalatok több fronton manipulációval számolnak, és megjegyezte, hogy bár mindenki Oroszországot nézi, sok más állam is hasonló intézkedéseket folytat. Például a kínai vállalatok igyekszik biztosítani, hogy ellenőrizzék az AI-t, és elmondta, hogy ez más kihívást jelent, mivel nem az ipari versenyről szól, hanem az állammal való versenyről.

Sherman megkérdezte, hogy ez háború-e -, Boyd azt mondta, hogy úgy gondolja, hogy az, miközben McNamee azt mondta, hogy klasszikus gerillaháború, mivel ellenségeink technológiánkat használták felünk. McNamee szerint a probléma nem a társadalmi hálózatok vagy a keresés, hanem a hirdetési modell. Azt mondta, hogy az emberek figyelme elleni harcban az anyag érzékiségbe telik, és idézte a régi mondást, miszerint "ha vérzik, akkor vezet".

Sherman megjegyezte, hogy a félelem és a harag sokkal mágnesesebb és ennélfogva sokkal olcsóbb. Azt mondta, hogy bár az organikus üzeneteket több mint 125 millió ember elérésére használják, a törekvés célja az volt, hogy a hirdetések az embereket csoportokba tagolják a közös érdekek alapján.

Rotenberg elmondta, hogy támogatja az algoritmusok átláthatóságát és a reklámozás szabályozását, de kijelentette, hogy tiszteletben kell tartanunk az egyének online beszélgetési jogát. McNamee azonban azt mondta, hogy "az első módosítást fegyverbe helyezték", és hogy az online terek alapvetően különböznek a nyilvános terektől.

boyd leírta, amit „bumerangi effektusnak” hív, vagy más szóval az a gondolat, hogy a média provokálása felháborító dolgokról szól, mert ez megerősíti az eredeti üzenetet a közönség azon része számára, amely a médiát nem bízza meg. Például Boyd a Pizzagate-ről beszélt. Megjegyezte, hogy az internet elõtt a média gyakran „stratégiai csendet” használt, hogy elkerülje az öngyilkosságok és a Klan-összejövetelek lefedését, hogy elkerüljék ezek közzétételét.

Rotenberg egyetértett azzal, hogy a gondosság és a felügyelet e hagyománya nagy részét elveszítették, és olyan dolgokról beszélt, mint például a 230. szakasz (amely szerint az internetes cégek nem felelnek olyan dolgokért, mint például a felhasználói üzenetek), és megnehezítette a hagyományos hírek versenyét.

Megoldást kérve, McNamee elmondta, hogy a Facebook kultusz, és abba kell hagynia a probléma tagadását és kezelését, valamint el kell kezdenie a "programozás" kérdését azáltal, hogy minden felhasználót megkeres. Rotenberg előmozdította a szabályozás ötletét. És Boyd azt sugallta, hogy pénzt kell befektetnünk a társadalomba, hogy újraépítsük Amerikát.

Az új hegemonistákkal való számolás

Mark Mahaney, az RBC Capital Markets; Dave Morgan, Simulmedia; Joyce Vance, az alabamai egyetem; David Kirkpatrick, műszaki tudomány

Az „Új hegemonistákkal való számolás” korai szakaszában szinte mindenki egyetértett Joyce Vance-lel, az alabamai egyetemen, aki azt mondta, hogy a technológia valóban felülmúlja a törvényt, amelynek kétségbeesetten kell felzárkózni. De Vance figyelmeztette, hogy fennáll a "csúszós" politikai válaszok kockázata is.

Dave Morgan, a Simulmedia képviselője szerint "lesz szabályozás", bár azt mondta, hogy lehetséges, hogy a nagyvállalatok képesek lesznek elkerülni annak nagy részét.

Morgan megjegyezte, hogy a médiaipar története párhuzamot teremt azzal, amit most látunk, mivel az újságok nyomdaipari vállalkozásnak tekintették magukat, a korai műsorszóró társaságok pedig tech-társaságoknak látták magukat. Mindez lehetővé teszi a fogyasztói kapcsolatok biztosítását, és ezt egyértelműen a Google és a Facebook teszi. Nagyon sok monopóliumellenes ügy alakult ki az ilyen koncentrált médiahatalom eredményeként, és a kormány képes volt uralkodni bennük. Ma egy nagy különbség az, hogy a többi technológiának földrajzi összefüggést kellett megkövetelnie, amelyre az internetes cégeknek nincs szükségük.

Vance megjegyezte, hogy a szenátus most egy olyan törvényjavaslatot fontolgat, amely megköveteli e társaságoktól, hogy őrizzék meg hirdetési előzményeiket, és világossá tegyék, ki fizet a politikai hirdetésekért. De Morgan rámutatott, hogy ezek globális vállalatok, amelyek szélesebb körűek. Az európai GDPR-adatvédelmi szabályozással kapcsolatban Vance elmondta, hogy az Egyesült Államok valószínűleg átadta vezető szerepét az EU-nak ezen a területen. Azt mondta, nem gondolja, hogy az amerikai vállalatok különféle földrajzi területeken képesek lesznek a szabályok betartására, tehát alapértelmezés szerint a vállalatok megfelelnek az európai előírásoknak.

Mark Mahaney, az RBC Capital Markets elmondta, hogy a vállalatokat - különösen az Európai Unióban - már szabályozják, a Google-t pedig különösen a szolgáltatások kötegelésének vagy reklámozásának ellenőrzése alatt tartják, a keresési eredményekkel együtt vagy az Android-szal. Kirkpatrick szerint szerinte a monopóliumellenes megállapodás valóban segítette a Microsoftot, ám Mahaney ellenezte, hogy a szabályozókat nem állítják le a Microsoft, hanem a versenyt.

Megmentheti-e a technika és a kormány a demokráciát?

Tim Hwang, a FiscalNote; Minnie Ingersoll, Code for America; Marc Rotenberg, elektronikus adatvédelmi információs központ; Molly Turner, az UC Berkeley Haas Business School; Jon Fine, Inc. Magazine; Lawrence Norden, a NYU Jogi Iskola

Hasonló témát vettek fel egy reggeliző kerekasztalon, melynek címe: "Meg tudja-e menteni a demokrácia a kormányt és a kormányt?", Amelyben Jon Fine, az Inc Magazine moderátora megoldásokat kért. A kerekasztal azonban nem igazán jött fel.

Hwang elmondta, hogy a probléma nem a technológiai platformokon rejlik, hanem inkább a düh miatt, amelyet az emberek éreznek, ha elválasztják a gazdaságot.

Lawrence Norden, a NYU Jogi Iskolájának Brennan Központja szerint a politikai hirdetésekkel kapcsolatos további nyilvánosságra hozatalra szoruló törvények egyszerű válasz, ám sajnos a nagy probléma a "sötét vagy" ismeretlen eredetű álláshelyek. E tekintetben - mondta - az Internet inkább egy városi tér.

Rotenberg szerint ez éppen ellenkezőleg, és az internet inkább egy vállalati város, mint a platformok, amelyek meghatározzák a szabályokat és eldöntik, hogy mit látnak. Minnie Ingersoll, a Code For America, megkérdezte, hogy a probléma-e idegen beavatkozás, vagy a Google ellenőrzi-e azt, amit mondunk. A szabályozóknak jobban meg kell érteniük a kérdéseket - mondta.

Molly Turner, az UC Berkeley Haas Business School munkatársa szerint az internet vált a kifejezés legnagyobb eszközévé, de attól tart, hogy aláássa a polgári diskurzust. Másrészt aggodalmát fejezi ki az olyan platformokra vonatkozó követelmények miatt, amelyek bizonyos típusú információkat eltávolítanak (ha a kommunikációs tisztességről szóló törvényt például gyengítették, vagy más típusú szabályozás miatt), mert ebben az esetben hirtelen a platform válik a „ beszéd."

Rotenberg azt válaszolta, hogy míg az autógyártók egyszer küzdenek a biztonsági előírásokkal, végül ezek hozzájárultak az autók biztonságosabbá tételéhez és további innovációhoz vezettek. A stabil szabályozási környezet valóban segíthet a platformokon - javasolta. Rotenberg megjegyezte, hogy a tech-társaságok "hálózatsemlegességet" toltak a telekommunikációs társaságok számára, de maguknak nem, és egyenlő versenyfeltételeket szorgalmaztak.

Az internet támadás alatt

Mark Anderson, stratégiai hírszolgálat; Peder Jungck, a BAE Systems Intelligence & Security; Rebecca MacKinnon, Új-Amerika; David Kirkpatrick, műszaki tudomány

Az "Internet támadás alatt" elnevezésű záró testület folytatta ezt a megbeszélést.

Rebecca MacKinnon, aki az Új-Amerikában a rangsorolt ​​digitális jogok projektjét vezeti, elmondta, hogy valaha feltételeztek, hogy az internet miatt az autoritárius rendszerek végül inkább a demokráciákké válnak. Most attól tart, hogy autoritárius rezsimek és a demokráciák "közepén találkoznak".

MacKinnon szerint az autoritárius rezsimek adaptálják az internetet céljaikhoz, miközben a demokráciák populizmussal, manipulációval és "kapitalizmus-felügyelettel" szembesülnek. De elmondta, hogy a demokráciáknak óvatosan kell reagálniuk a szabályozási válaszokra - miközben egyetért azzal, hogy nagyobb átláthatóságra van szükség az algoritmusok és a magánélet védelme terén, aggodalmát fejezi ki amiatt, hogy egy cenzúrarendszer megkönnyítené az egyes részek elleni küzdelmet. a társadalom kormányának megvetése.

Peder Jungck, a BAE Systems hírszerzési és biztonsági vezetõje egyetértett abban, hogy a kormányok ezeket a rendszereket szeretnék használni disszidensek felkutatására, és azt állították, hogy egy ötlet termék, és mint bármely termék, rá is nyomtatható. Arra a kérdésre, hogy fegyverzetbe állítják-e a hirdetési rendszereket, azt mondta: "A Pandora dobozát megnyitottuk, és nem tudunk visszamenni."

Mark Anderson, a Stratégiai Hírszolgálat elmondta, hogy egyenes vonalot láthattunk az ARPANET napjaitól, amikor nem voltak rossz fiúk, a mai napig, amikor egyre több rosszindulatú viselkedés tapasztalható nap mint nap.

Anderson különösen egyértelmű volt annak leírásakor, hogy Kína miként lopja el a szellemi tulajdont, és hogyan használja azt a társaságok kiszorításához. És azt javasolta, hogy az Equifax hacknek minden kormányzati támadás jele legyen. Összefoglalva Anderson azt mondta, hogy "nem lát megoldást".

Jungck szerint feltételeznünk kell, hogy rossz fiúk vannak a rendszerünkben, és megoldásokon dolgozunk. Például azt mondta, hogy a társadalombiztosítási szám már nem biztonságos, ezért ehelyett szükség lehet egy blockchain-megoldásra.

A Ranking Digital Rights projektben a MacKinnon 22 globális társaságot 35 olyan kérdésre értékelte, amelyek olyan kérdésekről szólnak, mint a véleménynyilvánítás szabadsága, a magánélet és a biztonság. Azt mondta, két társaság kapott "Ds", és mindenki más kudarcot vallott. Tudni akarja, hogy a cégek mit csinálnak az Ön adataival; kivel osztják meg; kellő gondossággal, biztonsági értékelésekkel és a kockázatkezeléssel foglalkoznak-e; és hogy védik-e a magánélet és a biztonság, a tartalom és a kifejezést. Az átláthatóság nem elegendő - mondta. - Egy szükséges első lépés.

Anderson elmondta, hogy az átláthatóság jó dolog, de nem megoldás, és megjegyezte, hogy valaki, aki manipulálni szeretne egy rendszerrel, nem kell fizetnie a hirdetésekért, hanem 100 000 botnetet használhat. Kirkpatrick ezután azt javasolta, hogy a vállalatok érvényesítsék az identitást, és ezáltal csökkentsék a botnetek használatát.

MacKinnon azonban ellenezte, hogy az emberi jogi aktivisták a legsebezhetőbbek az ilyen rendszerek használata miatt, mivel ha érvényesítené az identitást, akkor senki, aki ellenzi az autoritárius kormányt, nem lenne a közösségi hálózatokon.

Jungck azon töprengett, miért kell érvényesíteni az identitást, amikor a webhelyek már tudják, ki vagy és mit fogsz vásárolni. "Nincs névtelenség az interneten, már régen eltűnt" - mondta. Az egyetlen különbség az, hogy mennyi ideig tart kitalálni, ki vagy.

Összefoglalva: MacKinnon azt mondta, hogy nagyon hosszú távon optimista, de a következő 100 évben "nem annyira".

Mindezt meghallgatva könnyű pesszimista vagy legalább fatalista lenni a szükséges szabályozás mennyiségét és annak hatását illetően. De továbbra is optimista vagyok, és bár úgy gondolom, hogy bizonyos mértékű kiegészítő szabályozás valószínű és szükséges is, úgy vélem, hogy ugyanolyan valószínű, hogy a mai internetes óriások - vagy néhány jövőbeli szereplő - jobb válaszokat fognak találni.

Mennyire valószínű, hogy a PCMag.com-ot ajánlja?