30 ottobre 2015 12:11

La Volkswagen non ha prodotto un’automobile difettosa: l’ha programmata per barare con intelligenza. Le regole danno per scontato che esseri umani inattendibili vivano in un universo affidabile: le persone sono tentate di mentire se pensano che i vantaggi siano superiori ai rischi, gli oggetti no.

Quando si chiede a una persona se usa sempre la cintura di sicurezza, nel migliore dei casi la sua risposta sarà sospetta; quando si misura l’efficienza energetica di una lampadina, la risposta è sempre onesta. Gli oggetti a volte non funzionano e hanno un comportamento imprevedibile, ma non hanno una strategia, non scelgono di ingannarci.

Questo era vero in passato. Oggi gli oggetti contengono un software, e nel codice del software possono essere incluse strategie basate sulla teoria dei giochi e qualsiasi altra forma di matematica applicata. Per le aziende del prossimo futuro sarà impossibile resistere alla tentazione di insegnare ai prodotti a mentire strategicamente – come ha fatto la Volkswagen – anche a rischio di pene severe. Come è sempre successo con le frodi finanziarie, si tratta solo di trovare il modo di farlo meglio di prima.

Secoli di frodi finanziarie ci hanno insegnato che violare le norme è estremamente redditizio e la pena arriva in ritardo

Le normative ambientali sono un terreno fin troppo facile per le truffe strategiche che mirano al profitto, ma non sono l’unico. Il software che fa funzionare la vostra auto, il televisore o la bilancia del bagno potrà anche rispettare le regole sulla privacy, ma basterà un aggiornamento automatico e invisibile del software per trasformare quell’oggetto in una spia discreta che fornisce dati personali attraverso canali ben nascosti (i software si aggiornano di continuo: questo è uno degli aspetti dell’internet delle cose – il fatto che gli oggetti di uso quotidiano siano collegati a internet – su cui a nessuno piace soffermarsi, perché sarà un problema).

Inoltre, in un mondo in cui ogni dispositivo interagisce e dipende da una miriade di altri oggetti, i dispositivi di un’azienda potrebbero compromettere il funzionamento di quelli della concorrenza. Il problema del nostro sistema normativo è che le norme tecniche devono essere definite con precisione per essere eque e che questo le rende facili da individuare e da aggirare.

Queste norme si basano su un universo meccanico, non su uno in cui il software inserito negli oggetti si aggiorna con nuove bugie ogni volta che i regolatori escogitano un nuovo sistema di verifica. E anche se il software non cambiasse, controllare che non abbia comportamenti indesiderati sarebbe comunque impossibile: in molti casi i programmi commettono errori perché le organizzazioni che li hanno prodotti non hanno verificato (o non potevano verificare) che si comportassero come previsto.

La macchina che si guida da sola sta rallentando apposta per dare la precedenza a modelli più costosi?

Quindi la nostra percezione del mondo rifletterà sempre di più quella dei nostri computer e di internet. Tutti a volte abbiamo la sensazione che il nostro computer sia uno strumento piuttosto imprevedibile pieno di programmi che non abbiamo mai installato e che svolgono attività mai autorizzate per avvantaggiare aziende di cui non abbiamo mai sentito parlare.

In futuro anche le auto, i semafori e perfino i palazzi si comporteranno nello stesso modo sospetto. La macchina che si guida da sola sta rallentando apposta per dare la precedenza a modelli più costosi? Il condizionatore ecologico è davvero meno efficiente con un termostato di un’altra azienda? Perché il televisore, che dovrebbe usare la telecamera solo per seguire i comandi gestuali, si offre di scaricare film della Disney ogni volta che i vostri figli ci si siedono davanti?

Probabilmente nessuna di queste cose sarà legale, ma tutte saranno redditizie, e se un oggetto riesce a nasconderle allo stato, oltre che a voi, sarà difficile dimostrare il contrario. Secoli di frodi finanziarie ci hanno insegnato che violare le norme è estremamente redditizio e la pena arriva in ritardo: per questo le organizzazioni continuano a cadere in tentazione.

Il costo ambientale e sanitario della truffa della Volkswagen è notevole, ma è facile immaginare industrie e situazioni in cui potrebbe essere ancora peggiore. Possiamo solo sperare che contro la violazione delle norme sull’internet delle cose vengano presi rimedi più efficaci rispetto a quelli a cui ci hanno abituato i grandi illeciti finanziari.

(Traduzione di Floriana Pagano)

Questo articolo è stato pubblicato per la prima volta su Ieet. Clicca qui per vedere l’originale. È stato pubblicato il 30 ottobre 2015 a pagina 105 di Internazionale, con il titolo “La spia discreta negli oggetti di casa”. Compra questo numero | Abbonati

This article was originally published in Ieet. Click here to view the original.

Internazionale pubblica ogni settimana una pagina di lettere. Ci piacerebbe sapere cosa pensi di questo articolo. Scrivici a: posta@internazionale.it