La tecnologia dell’intelligenza artificiale di Google e il controllo virtuale del confine

Print Friendly

 

 

di Lee Fang e Sam Biddle – 21 ottobre 2020

 

Google Cloud sarà usato congiuntamente alla tecnologia di sorveglianza della Anduril Industries sul confine USA-Messico.

Dopo anni di reazioni negative per il suo controverso lavoro governativo, la tecnologia di Google sarà usata per contribuire agli sforzi dell’amministrazione Trump di fortificare il confine USA-Messico, secondo documenti relativi a un contratto federale.

Ad agosto l’amministrazione delle dogane e della protezione del confine ha accettato una proposta di utilizzare la tecnologia di Google per agevolare l’uso di intelligenza artificiale (AI) impiegata alla CBP Innovation Team, nota come INVNT. Tra altri progetti, la INVNT sta lavorando a tecnologie per un nuovo muro “virtuale” lungo il confine meridionale che combina torri e droni di sorveglianza, ricoprendo di sensori un’area per individuare ingressi illegali nel paese.

Nel 2018 Google ha affrontato subbugli interni per un contratto con il Pentagono per impiegare soluzioni di riconoscimento di immagini di droni potenziate da intelligenza artificiale; tale capacità ha suscitato tra i dipendenti preoccupazioni che Google stesse finendo invischiata in un lavoro che poteva essere usato per propositi letali e altre preoccupazioni circa i diritti umani. In risposta alla controversia, Google ha terminato il suo coinvolgimento nell’iniziativa, nota come Progetto Maven, e ha stabilito un nuovo insieme di principi circa l’intelligenza artificiale per disciplinare futuri contratti governativi.

I dipendenti avevano contestato anche le affermazioni ingannevoli della società circa il progetto e i tentativi di coprire di segretezza il lavoro militare. Il coinvolgimento di Google nel Progetto Maven era stato nascosto attraverso un contraente terzo noto come ECS Federal.

Documenti contrattuali indicano che il nuovo lavoro della CBP con Google è attuato attraverso una società terza contraente federale, la Thundercat Technology con sede in Virginia. La Thundercat è un rivenditore che si pubblicizza come fornitore principale di tecnologia informatica per contratti federali.

Il contratto è stato ottenuto attraverso una richiesta basata sul diritto all’informazione (FOIA) dalla Tech Inquiry, un nuovo gruppo di ricerca che indaga la tecnologia e il potere industriale, fondato da Jack Paulson, un ex scienziato ricercatore presso Google che ha lasciato la società per preoccupazioni etiche.

Non solo Google sta finendo coinvolta nella realizzazione della politica confinaria dell’amministrazione Trump, ma il contratto porta la società nell’orbita di uno dei maggiori sostenitori del presidente Donald Trump tra i dirigenti della tecnologia.

Documenti mostrano che la tecnologia di Google per la CBP sarà utilizzata in congiunzione con il lavoro condotto dalla Anduril Industries, una controversa nuova società della tecnologia della difesa fondata da Palmer Luckey. L’impudente dirigente ventottenne – fondatore anche di Oculus VR, acquisita da Facebook per più di due milioni di dollari nel 2014 – è un aperto sostenitore e raccoglitore di fondi per la politica conservatrice dura; è stato uno dei critici dichiarati della decisione di Google di abbandonare il suo contratto militare. La Anduril gestisce torri di controllo lungo il confine USA-Messico, utilizzate dalla CBP per la sorveglianza e l’arresto di persone che entrano nel paese, semplificando il processo di porre i migranti sotto la custodia del DHS.

Il Programma delle Torri Autonome di Sorveglianza della CBP richiede operazioni automatiche di sorveglianza “24 ore al giorno, 365 giorni l’anno” per aiutare l’agenzia a “identificare oggetti di interesse, quali persone o veicoli”. Il programma è stato promosso come un “vero moltiplicatore di forza per la CBP, consentendo agli agenti della polizia di frontiera di restare concentrati sulla loro missione di interdizione, anziché sulla gestione di sistemi di sorveglianza”.

Non è chiaro come esattamente la CBP preveda di usare Google Cloud in congiunzione con Anduril o per qualsiasi delle “necessità di missione” alluse nel documento contrattuale. La portavoce di Google Jane Khodos ha rifiutato di commentare o di discutere il contratto. La CBP, Anduril e Thundercat Technology non hanno risposto a richieste di commenti.

Tuttavia Google pubblicizza in effetti una potente tecnologia di riconoscimento di immagini a base Cloud attraverso il suo prodotto Vision AI, che può individuare e classificare rapidamente persone e oggetto in un documento fotografico o video, un’evidente pacchia per un ente governativo che programma di mettere in fila torri di sorveglianza in grado di individuare esseri umani attraverso una vasta regione di confine.

Schermata da una torre autonoma di sorveglianza nei pressi di Laredo, Texas – Foto CBP
Una torre autonoma di sorveglianza nel sud della California – Foto CBP

Secondo un documento di “capitolato” che delinea l’uso di Google da parte di INVNT “la Piattaforma Cloud di Google (GCP) sarà utilizzata per realizzare progetti innovativi per la squadra INVNT di C1 come IoT [Internet delle cose], NLP (elaborazione di linguaggio naturale), Traduzione Linguistica e telecamere Andril [sic] e qualsiasi altro progetto di CBP orientato al futuro. La GCP ha caratteristiche di prodotto uniche che contribuiranno a realizzare le necessità di missione”. (CBP ha confermato che “Andril” è un refuso per Anduril).

Il documento elenca numerose “caratteristiche uniche di prodotto” simili offerte attraverso Google Cloud, cioè le potenti capacità di apprendimento macchina e intelligenza artificiale della società. Usare la “Piattaforma AI” di Google consentirebbe alla CBP di far leva sull’immensa capacità di elaborazione informatica della società per addestrare un algoritmo su un determinato insieme di dati in modo che possa ricavare inferenze e predizioni istruite riguardo a dati simili nel futuro.

Il prodotto Natural Language di Google utilizza le risorse di apprendimento macchina della società “per rivelare struttura e significato di un testo… [e] ricavare informazioni riguardo a persone, luoghi ed eventi”, secondo materiali pubblicitari della società; una tecnologia che può essere accoppiata al software di trascrizione parlato-scritto “per ricavare conoscenze da conversazioni audio”.

Anche se non presenta alcun ostacolo fisico, il sistema di “muro virtuale” di Anduril opera identificando rapidamente chiunque si avvicini o tenti di attraversare il confine (o qualsiasi altro perimetro), trasmettendo la sua esatta posizione alle autorità confinarie sul campo, offrendo un mezzo relativamente economico, tecnocratico e meno politicamente gravido di bloccare aspiranti migranti.

I promotori di un muro virtuale hanno sostenuto a lungo che una soluzione simile sarebbe un modo economico per accrescere la sicurezza del confine. L’ultimo grande tentativo, noto come SBInet, è stato assegnato alla Boeing durante l’amministrazione di George W. Bush ed è sfociato in sforamenti multimiliardari di costi e fallimenti tecnici. In anni recenti, sia principali Democratici sia Repubblicani al Congresso hanno favorito una visione rinnovata di soluzioni tecnologiche come alternativa a una barriera fisica lungo il confine.

L’offerta di sorveglianza di Anduril consiste nella sua linea “Ghost” di droni elicottero autonomi gestiti in congiunzione con le “Torri di Guardia” di Anduril che assemblano telecamere, antenne radar, laser e altri sensori sofisticati in cima a un palo alto 80 metri [circa 25 metri]. Immagini di sorveglianza rilevate da droni dotati di telecamere e dai sensori delle torri sono immesse in “Lattice”, la piattaforma software di intelligenza artificiale di Anduril, dove il sistema segnala oggetti sospetti nelle vicinanze, come automobili o persone.

La collaborazione di INVNT con Anduril è descritta in una presentazione del 2019 di Chris Pietrzak, vicedirettore della Innovation Team di CBP, che elenca le “torri Anduril” tra le tecnologie sperimentare dalla divisione che “metteranno gli operatori di CBP in grado di eseguire la missione più sicuramente ed efficacemente”.

E un profilo di Wired del 2018 su Anduril ha indicato che un solo sito di sperimentazione della torre di guardia “ha aiutato gli agenti a catturare 55 persone e a sequestrare 982 libbre [circa 450 chili) di marijuana” in un arco di tempo di dieci settimane, anche se “per 39 di tali individui non erano implicate droghe, suggerendo che stavano semplicemente cercando una vita migliore”. La versione di Lattice ostentata a Steven Levy di Wired è risultata realizzare già alcuni riconoscimenti di oggetti basati sull’AI simili a quanto Google offre attraverso il sistema Cloud AI citato nel contratto CBP.

I documenti non specificano come, esattamente, la tecnologia di riconoscimento di oggetti di Google interagisca con la tecnologia di Anduril. Ma Google ha primeggiato nel campo sempre più competitivo dell’intelligenza artificiale; creare da zero un sistema informatico in grado di interpretare rapidamente e accuratamente dai visuali complessi senza intervento umano richiede investimenti immensi di tempo, denaro e potenza di calcolo per “addestrare” un determinato algoritmo su vasti volumi di dati di istruzioni.

“Vediamo queste imprese minori che non hanno risorse computazionali proprie ottenerle in licenza da quelli che le hanno, che si tratti di Anduril con Google o di Palantir con Amazon”, ha dichiarato a The Intercept Meredith Whittaker, un’ex ricercatrice di Google AI che in precedenza ha contribuito a organizzare la protesta dei dipendenti contro il Progetto Maven e ha proseguito co-fondando l’Istituto AI Now dell’Università di New York.

“Questa non può essere considerata una relazione d’affari neutra. La grande industria tecnologica sta fornendo un’infrastruttura centrale a regimi confinari razzisti e dannosi”, ha aggiunto la Whittaker. “Senza queste infrastrutture Palantir e Anduril non potrebbero operare come fanno ora e nemmeno lo potrebbero l’ICE [Dogane e Immigrazione]  e CBP [Protezione Confini]. E’ estremamente importante che noi controlliamo queste relazioni che lo consentono e respingiamo l’agevolazione da parte di grandi operatori dell’ascesa di tecnologia fascista, che tale tecnologia sia o no a marchio Google”.

Anduril è una sorta di anomalia nel settore tecnologico statunitense, poiché corteggia intensamente e orgogliosamente contratti controversi da cui altre società maggiori, più consolidate, si sono tenute a distanza. La società ha anche reclutato pesantemente da Palantir, un’altra società tecnologica con sia contratti governativi controversi anti-immigrazione, sia ambizioni di essere la prossima Raytheon. Sia Palantir sia Anduril condividono un mutuo investitore in Peter Thiel, un capitalista di ventura con un programma apertamente nazionalista e una relazione intima con la Casa Bianca di Trump. Thiel ha donato più di due milioni di dollari al Free Forever PAC, un gruppo di azione politica la cui missione auto dichiarata comprende, secondo il suo sito web, operare per “eleggere candidati che si battano per garantire il nostro confine [e] creare una politica d’immigrazione da Stati Uniti al Primo Posto”.

Luckey ha ripetutamente scorticato Google per aver abbandonato il Pentagono, una decisione ha sostenuto essere stata determinata da “una frangia interna alla società” che rischia di dare potere a avversari stranieri nella corsa ad adottare superiori capacità militari di AI. In commenti ha scartato l’anno scorso qualsiasi preoccupazione che il governo degli Stati Uniti possa abusare della tecnologia avanzata e ha criticato i dipendenti di Google che hanno firmato una lettera di contestazione del coinvolgimento della società nel Progetto Maven per preoccupazioni etiche e morali.

“Ci sono cittadini cinesi che lavorano negli ufficio di Londra di Google che firmano questa lettera; naturalmente a loro non importa che gli Stati Uniti abbiano una buona tecnologia militare”, ha detto Luckey, parlando all’Università della California, Irvine. “Naturalmente per loro non è un problema che la Cina abbia una tecnologia migliore. Sono cinesi”.

Come ha scritto in precedenza The Intercept, mentre Luckey attuava una campagna pubblica contro il ritiro di Google dal Progetto Maven, la sua società si assicurava silenziosamente un contratto per quella stessa iniziativa.

La linea avanzata di droni da combattimento e di torri di sorveglianza di Anduril – assieme al suo appetito di prendersi contratti della difesa oggi considerati da società rivali troppo tossici da sfiorare – le ha guadagnato contratti lucrosi con il Corpo dei Marine e l’Air Force, oltre al suo lavoro per la Sicurezza Interna. In un’intervista del 2019 a Bloomberg, il presidente di Anduril, Trae Stephens, anche partner della società di capitale di rischio di Thiel, ha scartato le preoccupazioni di ingegneri statunitensi che denunciano. “Loro dicono ‘non avevamo firmato per sviluppare armi’”, ha detto Stephens, spiegando: “Ciò è esattamente l’opposto di Anduril. Quando entrano dalla porta, noi diciamo ai candidati: ‘State firmando per costruire armi’”.

Palmer Luckey non solo ha condotto una campagna per una maggior integrazione della Silicon Valley nell’esercito e nello stato della sicurezza; ha premuto con forza per influenzare il sistema politico. Il fondatore di Anduril, mostrano documenti, ha donato personalmente almeno 1,7 milioni di dollari a candidati Repubblicani di questo ciclo elettorale. Domenica ha ospitato il presidente Donald Trump nella sua casa di Orange County, California, per un elevato raccoglitore di fondi, insieme con l’ex ambasciatore tedesco Richard Grenell, Kimberly Guilfoyle e altri luminari della campagna di Trump.

Lobbisti di Anduril al Congresso anche esercitato pressioni sui legislatori perché includessero un accresciuto finanziamento del programma delle Torri Autonome di Sorveglianza della CBP nel bilancio del Dipartimento della Sicurezza Interna di quest’anno, una richiesta approvata e promulgata in legge. A luglio, circa quando il finanziamento del programma era stato assicurato, il Washington Post ha scritto che l’amministrazione Trump considerava il sistema di muro virtuale della Anduril un “programma registrato”, una “tecnologia così essenziale sarà una voce riservata nel bilancio della sicurezza interna”, a quando risulta “del valore di centinaia di milioni di dollari”.

Il progetto delle torri autonome assegnato alla Anduril e finanziato tramite la CBP risulta del valore di 250 milioni di dollari. Documenti mostrano che 35 milioni di dollari per il progetto sono stati sborsati a settembre dalla divisione Aviazione e Marina che gestisce anch’essa droni.

L’approccio di Anduril contrasta acutamente con quello di Google. Nel 2018 Google ha cercato di placare preoccupazioni circa il modo in cui la sua sempre più potente attività AI possa essere trasformata in arma, pubblicando una lista di “Principi AI” con l’imprimatur dell’amministratore delegato Sundar Pichai.

“Riconosciamo che tale potente tecnologia suscita domante ugualmente potenti riguardo al suo uso”, ha scritto Pichai, aggiungendo che i nuovi principi “non sono concetti teorici; sono parametri concreti che disciplineranno attivamente la nostra ricerca e il nostro sviluppo di prodotti e avranno un impatto sulle nostre decisioni aziendali”. Principali tra i nuovi principi c’erano direttive di “essere socialmente vantaggiosi”, “evitare di creare o rafforzare pregiudizi iniqui” e un mandato di “continuare a sviluppare e applicare forti pratiche di sicurezza per evitare risultati non voluti che creino rischi di danni”.

I principi includono una lista piuttosto vaga di “applicazioni AI che non perseguiremo”, quali “Tecnologie che causino o siano suscettibili di causare danni generali”, “armi”, “sorveglianza che violi norme internazionalmente accettate” e “tecnologie il cui scopo contravvenga a principi diffusamente accettati di legge internazionale e diritti umani”.

E’ difficile conciliare questi impegni a un umanitarismo pacifico, non di sorveglianza, dell’AI con un contratto che pone il potere AI di Google al servizio sia di un contraente militare della sorveglianza sia di un’agenzia governativa internazionalmente condannata per violazioni di diritti umani. In effetti, nel 2019, più di mille dipendenti di Google hanno firmato una petizione che chiedeva che la società di astenesse dal fornire i suoi servizi cloud alle autorità statunitensi dell’immigrazione e del controllo dei confini, sostenendo che “secondo qualsiasi interpretazione, CBP e ICE sono in grave violazione della legge internazionale sui diritti umani”.

“Questa è una magnifica lezione di come sia realmente semplicemente insufficiente questo genere di autodisciplina societaria”, ha dichiarato a The Intercept la Whittaker. “Sì, sono soggetti a questi principi AI, ma che cosa significa essere soggetti a un principio? Che cosa significa quando si ha una procedura di revisione etica che è quasi interamente non trasparente nei confronti dei lavoratori, per non parlare del pubblico? Chi prende concretamente queste decisioni? E che cosa significa che questi principi consentono la collaborazione con un’agenzia attualmente coinvolta in violazioni dei diritti umani, compresa la sterilizzazione forzata?”

“Queste notizie dimostrano che Google è a suo agio con la sorveglianza di migranti da parte di Anduril e CBP attraverso il suo sistema Cloud AI, nonostante i suoi Principi AI affermino di non causare danni o violare diritti umani”, ha detto Poulson, il fondatore di Tech Inquiry.

“La sua chiara strategia consiste nel godersi elevati margini di profitto dai servizi cloud evitando contemporaneamente qualsiasi responsabilità per i loro impatti”, ha aggiunto.

 

Da Znetitaly – Lo spirito della resistenza è vivo

www.znetitaly.org

Originale: https://theintercept.com/2020/10/21/google-cbp-border-contract-anduril/

Traduzione di Giuseppe Volpe

Traduzione © 2020 ZNET Italy – Licenza Creative Commons CC BY-NC-SA 3

 

Comments

comments

Powered by Facebook Comments

Precedente Intensificazione della guerra demografica: l’obiettivo strategico del razzismo israeliano in Palestina Successivo Uber e Lyft conquistano un’altra vittoria nello sfruttamento globale dei lavoratori a chiamata