L’impero Amazon. Intervista con Andy Jassy [PBS]

Viviamo in questo momento politico in cui ci sono molte persone che mettono in discussione le dimensioni e il potere di Amazon. … Come pensate voi e Jeff [Bezos] e gli altri dirigenti di alto livello in merito alla chiamata a disgregarvi?

Non ci pensiamo molto a fondo. Sai, alla fine della giornata, se dovessi classificare ciò a cui dedichiamo la maggior parte del nostro tempo a pensare, è davvero in ciascuna delle nostre attività, abbiamo un numero molto elevato di clienti che sono molto esigenti, giustamente, che non temono di dirci cosa vorrebbero vederci migliorare nel nostro prodotto e nella nostra offerta. E poi in ognuna di queste categorie, c’è una concorrenza molto profonda con società molto ben finanziate e molto capaci. E quindi fin dai primissimi tempi – sono stato ad Amazon ora per 22 anni e mezzo, ricordo sempre una delle prime cose che ho sentito dire a Jeff Bezos quando potevamo inserire l’intera azienda in una sola sala conferenze per un incontro all-hands. Ed era in realtà quando c’erano tutte queste voci sul fatto che Barnes & Noble stava per lanciare il loro sito di vendita al dettaglio, e la gente diceva che sarebbe stata la fine di Amazon. E Jeff ha detto a tutti noi, ha detto: “Non andrei a letto la notte temendo i miei concorrenti o temendo eventuali problemi esterni. Di notte andrei a letto pensando se mi sto comportando bene verso i  miei clienti”. E questo è davvero un credo che viviamo qui; è ciò a cui pensiamo la maggior parte del nostro tempo.

Immagino che la mia domanda sia in parte se: voi ragazzi pensate un po’ a dove, da dove viene quella chiamata per spezzarvi? In termini di — so che in molti segmenti di mercato delle linee di business in cui ti trovi, hai molta concorrenza, ma nel complesso hai enormi risorse di dati; hai tasche tremendamente profonde come azienda, redditività; che in qualche modo c’è un effetto agghiacciante, o c’è qualcosa – che in qualche modo può reprimere la concorrenza a lungo termine in ciascuna delle aree di business in cui ti trovi se Amazon guarda semplicemente nella direzione di un determinato mercato o una certa linea di business.

Sì, sai, penso che se guardi la realtà, in parte suona molto bene, ma se guardi la realtà e i fatti, prima di tutto, solo perché Amazon sceglie di entrare in un segmento di attività non significa che avremo successo. Voglio dire, probabilmente sai che abbiamo lanciato un telefono e che non ha dato fuoco al mondo, nessun gioco di parole. E, sai, allora penso che se guardi ad alcuni dei segmenti di business di successo in cui ci troviamo, sai, nel nostro commercio al dettaglio siamo circa l’1% del segmento di commercio al dettaglio nel mondo. Se cerchi nel cloud computing o nel business di AWS [Amazon Web Services], il 97% della spesa nel mercato IT è locale e solo il 3% della spesa nell’intero mercato IT è nel cloud computing di cui noi abbiamo una quota di quello. Quindi abbiamo una quota relativamente piccola dei segmenti di mercato complessivi nelle categorie in cui operiamo. E poi penso che l’altra cosa da ricordare è che i consumatori e i clienti hanno una scelta su dove spendere i loro soldi. Semplicemente perché Amazon decide di perseguire un segmento di mercato non significa che i clienti spenderanno i loro soldi lì, e quindi significa che dobbiamo fare un lavoro straordinario nel fornire una grande esperienza cliente che i clienti desiderano. E penso che sia stato insolito che siamo stati in grado di farlo in alcuni segmenti di attività. Ma i clienti possono scegliere, e cambiano continuamente, e abbiamo una quota di mercato molto piccola in ciascuna delle attività in cui operiamo.

Penso al pubblico, potrebbe sembrare strano da parte di Amazon, che è una società con una capitalizzazione di mercato praticamente di un trilione di dollari, il tuo CEO è l’uomo più ricco del mondo, sai, che in qualche modo la strategia di quello che mi stai dicendo e quello che ci hanno detto altri dirigenti è che essenzialmente siete piccoli. Voglio dire, Jeff Wilke mi ha detto che sei una specie di granello nello schema delle cose. Vedi come potrebbe sembrare strano o incongruo a uno spettatore?

Sai, Amazon nel suo insieme è diventata un successo, e in alcuni segmenti di business diversi, ma semplicemente perché l’azienda ha avuto successo, in alcuni segmenti di business diversi, non significa che sia in qualche modo troppo grande.

Sai, penso che tu debba, in qualsiasi problema —sai — in qualsiasi problema complicato, devi guardare i dettagli e devi dissezionarlo e fare qualche analisi. E quando analizzi effettivamente cosa sia Amazon, quando guardi ciascuno dei segmenti di business, i fatti sono che siamo davvero piccoli rispetto alla dimensione totale del segmento di mercato in ciascuna delle attività in cui operiamo, e sono ancora tutti nelle loro primissime fasi iniziali.

Domande etiche sollevate dal riconoscimento facciale

Nello specifico in AWS, sembra che tu stia entrando in qualche modo in alcuni problemi che hanno implicazioni morali spinose. Ad esempio, hai cercato di potenziare l’Immigration and Customs Enforcement americano in un momento in cui le Nazioni Unite hanno definito la situazione al confine una violazione dei diritti umani; stai vendendo servizi di riconoscimento facciale ai dipartimenti di polizia. Sono curioso di sapere dove tracciate le linee su con chi fai affari e con chi non farli.

In primo luogo, non credo che abbiamo cercato di far rispettare o di abilitare l’agenzia di Immigration and Customs Enforcement. Non credo che abbiamo detto che sono un cliente, quindi—

No, ma hai mai cercato di fare affari con loro?

No, non direttamente. Voglio dire, penso che ciò che abbiamo sempre detto – e abbiamo dei pensieri forti su questo – è che è incredibilmente importante per la sicurezza del paese e la sicurezza del mondo per il governo degli Stati Uniti poter avere accesso al la tecnologia più moderna e sofisticata, tra cui il cloud, e crediamo che AWS abbia la massima capacità nel cloud. Quindi crediamo che sia importante per noi essere in grado di fornire accesso al nostro governo per essere in grado di utilizzare quella tecnologia, e siamo stati coerenti al riguardo in tutto il governo.

Siamo stati anche molto coerenti nel dire che se scopriamo di avere clienti, indipendentemente da chi siano, che stanno abusando della tecnologia e violando le libertà civili delle persone e violando la legge, e ne abbiamo prove documentate, sospenderemo la loro capacità di utilizzare la nostra piattaforma.

Ciò sta mettendo molto peso sui clienti, tuttavia, e sulla possibilità di ottenere casi documentati di abuso. E sono solo curioso di sapere che ci sono altre aziende e altri tuoi concorrenti che affermano che qui è più una scelta; che tu come azienda, in assenza di regolamentazione, hai delle scelte da fare su a chi darai potere e a chi non darai potere.

Innanzitutto, in realtà non credo sia troppo oneroso sui clienti o utenti finali. Riceviamo una serie di lamentele documentate sull’uso improprio della tecnologia in ogni momento, perché abbiamo milioni di clienti che utilizzano la piattaforma in tutto il mondo in ogni caso d’uso immaginabile. E le persone non sembrano avere problemi a dirci quando pensano che potrebbe esserci un uso improprio della tecnologia ed è molto facile inviarcelo. Quindi riceviamo sempre questi tipi di reclami. Non li abbiamo avuti sui governi. E certamente quando parliamo di tecnologia di riconoscimento facciale, non abbiamo ricevuto segnalazioni di abusi della tecnologia da parte delle forze dell’ordine. Quindi non è difficile per le persone farlo. Lo fanno sempre quando lo vedono.

Per quanto riguarda le forze dell’ordine, ho solo un paio di domande al riguardo. Abbiamo parlato con un ex scienziato di AWS che ci ha detto che non pensava che il riconoscimento facciale fosse adeguatamente testato sul campo e pronto per la prima serata e che Lei, insieme ad alcuni altri scienziati, ha chiesto ad Amazon di smettere di vendere riconoscimento facciale ai dipartimenti di polizia fino a quando non ci sarà un sistema di controllo o una certa supervisione pubblica e una legislazione adeguata. Perché non è qualcosa che state facendo e aspettate una regolamentazione?

Ho una visione diversa. Abbiamo la tecnologia di riconoscimento facciale pronta all’uso da oltre due anni e mezzo ormai e in questi due anni e mezzo non è mai stato segnalato alcun uso improprio delle forze dell’ordine utilizzando la tecnologia di riconoscimento facciale. A proposito, ci preoccupiamo delle questioni relative alle libertà civili. Se sai qualcosa su ciò che molti leader senior di Amazon fanno nel loro tempo libero, trascorrono molto tempo sulle libertà civili. È qualcosa che è molto importante per me e penso per molti miei colleghi.

Ma direi semplicemente perché la tecnologia potrebbe essere abusata in qualche modo non significa che dovresti vietarla o condannarla o non usarla. Sai, se pensi a computer e server e pensi a tutti i misfatti che sono stati fatti con i server, irrompendo nei sistemi delle persone, rubando indirizzi e-mail, dati e cose del genere, immagina come sarebbe il nostro mondo se noi avessimo vietato o non utilizzato computer o server. Sarebbe un mondo molto diverso. E quindi penso che molto del bene sociale sia già stato fatto con la tecnologia di riconoscimento facciale. Hai già visto centinaia di bambini scomparsi riuniti con i loro genitori e centinaia di vittime della tratta di esseri umani salvate e tutti i tipi di sicurezza, identità e usi educativi. C’è molto di buono che è stato fatto grazie alla tecnologia.

Ma capisco anche che potrebbe essere usata in modo improprio, ed è per questo che diciamo sempre che se c’è qualche tipo di prova documentata di persone che abusano della tecnologia, sospenderemo la capacità delle persone non solo di utilizzare la tecnologia ma di utilizzare AWS. Abbiamo delle linee guida molto chiare per i nostri clienti delle forze dell’ordine secondo cui se utilizzeranno la tecnologia di riconoscimento facciale in un’indagine, dovrebbero usarla solo quando si ottengono risposte che hanno almeno un livello di validità della risposta del 99%, e andrebbe usata solo come una parte aggiuntiva ad una vasta serie di prove in un’indagine criminale. Ma penso anche che sia assolutamente giusto per le persone dire che non è abbastanza; vogliamo avere una sorta di regolamentazione in cui vi siano indicazioni più prescrittive su come utilizzare la tecnologia. E siamo stati sinceri nel pensare che il governo federale dovrebbe fare qualcosa al riguardo. Penso che alla fine della giornata con qualsiasi tecnologia, sia che tu stia parlando della tecnologia di riconoscimento facciale o di qualsiasi altra cosa, le persone che usano la tecnologia devono esserne responsabili, e se la usano irresponsabilmente devono esserlo considerate responsabili.

Brad Smith, che è il presidente di Microsoft, un tuo concorrente, per quanto riguarda il riconoscimento facciale, ha detto: “Se sei pronto a vendere ciò che fai a chiunque lo comprerà, indipendentemente da come lo useranno, tu puoi dirti hai dei principi, ma l’unico principio che segui nella pratica è la ricerca del profitto”. E ha anche sostanzialmente affermato che le aziende che creano questa tecnologia devono accettare una maggiore responsabilità per il futuro, perché, ad esempio, Microsoft ha un software di riconoscimento facciale che non venderà alle forze di polizia perché ritiene che la tecnologia sia immatura.

Non so se la loro tecnologia tecnologia di riconoscimento facciale sia immatura. Ma mentre miglioriamo costantemente i nostri algoritmi e disponiamo di un sacco di audit interni e di benchmarking, continueremo a migliorarla continuamente.

Bene, lascia che ti chieda questo: perché consentire ai dipartimenti di polizia che hanno storicamente – ci sono stati tutti i tipi di problemi con la polizia in questo paese – perché permettere loro, che hanno uno squilibrio di potere, un’asimmetria di potere in tutta questa equazione, perché farli sperimentare con questo? Capisco con i bambini scomparsi e le organizzazioni che lavorano con questo per sperimentare e migliorare la tua tecnologia, ma sono solo curioso dell’intersezione della sperimentazione aziendale, che è fondamentalmente una scatola nera. Non sappiamo come siano progettati esattamente questi sistemi; non esiste un sistema di controllo. Quindi perché consentire ai dipartimenti di polizia di sperimentare?

Ma ancora una volta, per me è simile a quello di cui stavamo parlando rispetto al governo, ovvero crediamo che i governi e le organizzazioni incaricate di proteggere le nostre comunità debbano avere accesso alla tecnologia più sofisticata e moderna esistente. E, sai, se guardi alle indagini nei dipartimenti di polizia in tutto il paese, stanno usando molte prove e ci sono leggi su quali prove hai bisogno per essere in grado di arrestare qualcuno. E lo stesso vale sia che tu stia usando o meno la tecnologia di riconoscimento facciale come elemento di prova. E quindi, per me, non consentire ai nostri dipartimenti di polizia di avere accesso alla stessa tecnologia moderna e sofisticata che può aiutare a proteggere le nostre comunità è l’ottimizzazione sbagliata.

Abbiamo un gran numero di dipartimenti di polizia che usano la nostra tecnologia di riconoscimento facciale e, come ho detto, non abbiamo mai ricevuto lamentele di abuso. Vediamo se in qualche modo abusano della tecnologia. Non l’hanno fatto, e supporre che lo faranno e che quindi non dovresti permettere loro di avere accesso alla tecnologia più sofisticata là fuori non sembra il giusto equilibrio per me.

È stato difficile persino sapere quanti dipartimenti di polizia stanno usando la tecnologia di riconoscimento facciale e non ci sono controlli pubblici per sapere se ci sono denunce di abuso. Potrebbero esserci sistemi in atto di cui non sappiamo che devi scoprire tali problemi. Ma come pubblico, se non abbiamo una finestra sul numero di dipartimenti che lo utilizzano, come farebbe mai il pubblico a saperlo?

E dobbiamo credervi sulla parola sul fatto che cacciereste via a qualcuno che ne abusa se ricevete un rapporto. Ho trascorso del tempo con un dipartimento di polizia, ad esempio, che non segue le vostre linee guida sullo standard del 99%. Stanno arrivando con cinque facce che potrebbero corrispondere, il che non è quello che dice la tua guida, ma lo stanno ancora facendo. E sì, lo stanno usando come parte delle loro indagini e non lo stanno usando per una causa provata (“probable cause”). Ma mi sembra che la possibilità di abusi verificata da voi come società che sta creando la tecnologia sia in squilibrio qui.

Sai, ancora una volta, non credo che conosciamo il numero totale di dipartimenti di polizia che utilizzano la tecnologia di riconoscimento facciale. Abbiamo 165 servizi nella nostra piattaforma di infrastruttura tecnologica e puoi usarli in qualsiasi congiunzione, in qualsiasi combinazione tu voglia. Ne conosciamo alcuni e la stragrande maggioranza di coloro che lo utilizzano lo utilizzano secondo la guida che abbiamo prescritto. E quando non lo sono, abbiamo conversazioni e se scopriamo che lo stanno usando in un modo irresponsabile, non permetteremo loro di utilizzare il servizio e la piattaforma.

Sai, penso che ci sia – il pubblico probabilmente non conosce le tecniche, ogni singola tecnica e quanti dipartimenti di polizia usano o non usano ogni singola tecnica in tutte le loro indagini oggi  negli ultimi anni. La tecnologia di riconoscimento facciale è solo un pezzo della torta generale. Come abbiamo già detto, siamo ancora agli inizi nelle persone che lo usano, ma non abbiamo ancora visto alcun abuso. Penso che se c’è qualche tipo di problema questo sarebbe già finito sui media. Quindi ho la sensazione che se vedrai i dipartimenti di polizia abusare della tecnologia di riconoscimento facciale, ciò verrà fuori. Non è esattamente tenuto al buio quando le persone si sentono come se fossero state accusate erroneamente.

Vorresti, ad esempio, vendere la tecnologia di riconoscimento facciale a un governo straniero?

Si. Voglio dire, ancora una volta, c’è un certo numero di governi che con cui le società statunitensi non possono fare affari perchè contro la legge. Non lo venderemmo a quelle persone o quei governi.

Ma se lo sono – per esempio, AWS ha fatto una grande spinta nel Medio Oriente, in Bahrein. Non è illegale fare affari in Bahrein, ma il Bahrein è un paese che ha una storia di repressione dei dissidenti, per esempio. E se la tua infrastruttura, i tuoi servizi venissero utilizzati a tale scopo? Il che credo sia una domanda simile a quella che succederebbe se i tuoi servizi o infrastrutture venissero utilizzati dall’Immigration and Customs Enforcement in questo paese per potenziare sostanzialmente la politica di frontiera qui?

Sì, ancora una volta, se abbiamo casi documentati in cui clienti di qualsiasi tipo utilizzano la tecnologia in modo contrario alla legge o che pensiamo stia compromettendo le libertà civili delle persone, allora non permetteremo loro di utilizzare la piattaforma.