A légipar etikai számításának éve

Amióta a mély idegi hálózatok 2012-ben megnyerték a világ legfontosabb képfelismerő versenyt, mindenki izgatott volt amiatt, hogy a mesterséges intelligencia ki tud engedni. Az új AI technikák és alkalmazások fejlesztésének versenyében a lehetséges negatív hatások hátulsó ülést vettek igénybe.

Most elmozdulást tapasztalunk az AI etikájával kapcsolatos fokozottabb tudatosság felé. 2018-ban az AI fejlesztői tudatában voltak alkotásaik lehetséges következményeinek. Sok mérnök, kutató és fejlesztő világossá tette, hogy nem építnek olyan technológiákat, amelyek ártatlanok vagy árthatnak az ártatlan emberek életének, és ők tartották a társaságukat.

Arcfelismerés a bűnüldözésben

A múltban az arcfelismerő alkalmazások létrehozása nehézkes, erőforrás-igényes és hibás volt. De a számítógépes látás fejlődésével - az AI azon részhalmazával, amely lehetővé teszi a számítógépek számára a képek és a videó tartalmának felismerését - az arcfelismerő alkalmazások létrehozása sokkal könnyebbé és mindenki számára elérhetővé vált.

A nagy technológiai vállalatok, mint például a Microsoft, az Amazon és az IBM felhőalapú szolgáltatásokat nyújtottak, amelyek lehetővé tették minden fejlesztő számára, hogy az arcfelismerő technológiát integrálja szoftverébe. Ez számos új felhasználási esetet és alkalmazást nyitott meg különböző területeken, például az identitásvédelem és hitelesítés, az intelligens otthoni biztonság és a kiskereskedelem területén. A magánélet tiszteletben tartásával kapcsolatos aktivisták azonban aggodalmuknak adtak hangot a visszaélés lehetősége miatt.

2018 májusában az Amerikai Állampolgári Jogi Szabadságszövetség felfedte, hogy az Amazon a Rekognitiont, egy valós idejű video-elemző technológiát reklámozza a bűnüldöző szerveknek és a kormányzati ügynökségeknek. Az ACLU szerint a rendõrség legalább három államban a felismerést használta az arcfelismeréshez a megfigyelõ videó hírcsatornáin.

"A felismerés révén a kormány most felépíthet egy rendszert bárki azonosításának és nyomon követésének. Ha például a rendőrségi test kamerákat felszerelnék arcfelismeréssel, akkor a tisztek átláthatóságát és elszámoltathatóságát szolgáló eszközök tovább fejlődnének a nyilvános "- figyelmeztette az ACLU. "A tömeges megfigyelés automatizálásával az arcfelismerő rendszerek, mint például a felismerés veszélyeztetik ezt a szabadságot, különös veszélyt jelentenek a jelenlegi politikai helyzetben igazságtalanul célzott közösségek számára. Ha egyszerre épülnek és telepítenek ilyen erőteljes megfigyelő rendszereket, a károkat rendkívül nehéz visszavonni..”

Az ACLU aggodalmait az Amazon alkalmazottai ismétlődték meg, akik júniusban levelet írtak Jeff Bezosnak, a cég vezérigazgatójának, és felszólították, hogy hagyja abba a Rekognition eladását a bűnüldözés számára. "Cégünknek nem szabad a felügyeleti üzletben; nem a rendészeti üzletben kell működnie; nem az a feladata, hogy támogassa azokat, akik figyelemmel kísérik és elnyomják a marginalizált népességet" - olvasható a levél.

Októberben egy anonim Amazon munkatársa nyilvánosságra hozta, hogy legalább 450 alkalmazott aláírt egy újabb levelet, amelyben Bezót és más vezetõket hívták fel, hogy hagyjanak abba a felismerés eladását a rendõrség számára. "Nem profitálhatunk az erőteljes vásárlók egy részéből a közösségeink rovására; nem tudjuk elkerülni a szemünket üzleti tevékenységünk emberi költségeitől. Nem csendben építünk technológiát az emberek elnyomására és megölésére, akár hazánkban, akár másokban, " Azt mondta.

A Google katonai AI projektjének esése

Miközben az Amazon foglalkozott ezzel a belső visszatéréssel, a Google hasonló küzdelmeket tapasztalt az AI fejlesztésére irányuló szerződés kapcsán az USA katonaságának, a Project Maven néven.

A Google állítólag segítette a Védelmi Minisztériumot olyan számítógépes látástechnika kifejlesztésében, amely feldolgozza a drón videofilmet. A drónok által naponta rögzített videofelvételek mennyisége túl sok volt az emberi elemzők számára, hogy áttekintsék, és a Pentagon a folyamat egy részét akart automatizálni.

A Google szóvivője, elismerve a feladat ellentmondásos jellegét, kijelentette, hogy csak a TensorFlow, a gépi tanulási platform számára nyújt API-kat a videohírcsatornákban található tárgyak felismerésére. A Google azt is hangsúlyozta, hogy politikákat és biztosítékokat dolgoz ki technológiája etikai szempontjainak kezelésére.

A Project Maven azonban nem ül össze jól a Google alkalmazottaival - akik közül 3000, köztük több tucat mérnök, hamarosan nyílt levelet írt Sundar Pichai vezérigazgatónak, amely felszólította a program megszüntetését.

"Úgy gondoljuk, hogy a Google-nak nem szabad háborúban részt vennie" - olvasta a levél. Azt kérte a társaságtól, hogy "készítsen, nyilvánosságra hozjon és érvényesítsen egy egyértelmű politikát, amelyben kijelenti, hogy sem a Google, sem a vállalkozók soha nem építnek haditechnikát"

A Google alkalmazottai arra is figyelmeztettek, hogy munkáltatóik veszélyeztetik hírnevét és képességét a jövőben a tehetségért való versenyben. "Technológiánk erkölcsi felelősségét nem ruházhatjuk ki harmadik felekre" - hangsúlyozta a Google szakemberei.

Nem sokkal ezután egy 90 tudós és kutató által aláírt petíció felszólította a Google vezetőit, hogy hagyják abba a katonai technológiával kapcsolatos munkát. Az aláírók figyelmeztettek arra, hogy a Google munkája előkészíti az "automata célfelismerés és autonóm fegyverrendszerek" előkészítését. Arra is figyelmeztettek, hogy a technológia fejlődésével "egy rövid lépéssel attól állnak, hogy engedélyezzék az autonóm drónok automatikus ölését, emberi felügyelet vagy értelmes emberi irányítás nélkül".

A feszültségek növekedésével számos Google-alkalmazott tiltakozva lemondott.

Hogyan reagáltak a technikai vezetők

Nyomás alatt a Google júniusban kijelentette, hogy 2019. évi lejárata után nem hosszabbítja meg a Maven Projekt Védelmi Minisztériumával kötött szerződését.

Egy blogbejegyzésben Sundar Pichai vezérigazgató (az alább látható) etikai alapelvek sorozatát jelentette be, amelyek irányítják a vállalat fejlesztését és az AI technológia értékesítését. Pichai szerint a társaság mostantól mérlegeli az egész társadalom javát szolgáló projekteket, és elkerüli az AI fejlesztését, amely megerősítette a meglévő tisztességtelen elfogultságot vagy aláásta a közbiztonságot.

Pichai azt is kifejezetten kijelentette, hogy társasága nem fog olyan technológiákon dolgozni, amelyek sértik az emberi jogi normákat.

Az Amazon Bezosát kevésbé vonzotta a felismerés felháborodása. "Folytatni fogjuk a DoD támogatását, és azt hiszem, hogy kellene" - mondta Bezos az októberi San Francisco-i tech-konferencián. "A felső vezetés egyik feladata a helyes döntés meghozatala, még akkor is, ha nem népszerű."

Bezos hangsúlyozta annak szükségességét is, hogy a tech közösség támogassa a katonaságot. "Ha a nagy tech-cégek visszafordítják a DoD-t, akkor ez az ország bajban lesz" - mondta.

Brad Smith, a Microsoft elnöke, akinek a vállalata kritikával szembesült az ICE-vel folytatott munkája kapcsán, júliusban blogbejegyzést tett közzé, amelyben mérlegelt megközelítést sürgetett az érzékeny technológiák kormányzati ügynökségek számára történő eladása során. Bár Smith nem zárta ki, hogy arcfelismerési szolgáltatásokat értékesítsen a rendészeti és a katonaság számára, hangsúlyozta a jobb szabályozás és az átláthatóság szükségességét a technológiai ágazatban.

• MIT 1 milliárd dollárt költ az AI etika tanulmányozására szolgáló programra MIT 1 milliárd dollárt költ az AI etika tanulmányozására szolgáló programra
• Valóban az AI beszél a nyelvünkön? Valóban az AI beszél a nyelvünkön?
• Kína megállíthatatlan AI gyárának lebontása Kína megállíthatatlan AI gyárának lebontása

"A Kongresszusban megválasztott képviselőink rendelkeznek az új technológia és annak minden következménye felméréséhez szükséges eszközökkel. Előnyöket élvezhetünk egy olyan alkotmány ellenőrzésében és egyensúlyában, amely a gyertyák korszakától a mesterséges intelligencia korszakáig terjedt. a múltban oly sokszor biztosítanunk kell, hogy az új találmányok a jogállamiság szerint szolgálják demokratikus szabadságainkat "- írta Smith.

2018-ban a gyilkos robotok és a tömeges munkanélküliség távoli fenyegetései helyet adott az AI azonnali etikai és társadalmi hatásaival kapcsolatos aggodalmaknak. Ezek a fejlemények sok szempontból azt jelzik, hogy az iparág érlelődik, mivel az AI algoritmusok egyre hangsúlyosabbá válnak a kritikus feladatokban. De amint az algoritmusok és az automatizálás beépül a mindennapi életbe, annál több vita merül fel.