Qualche settimana fa siamo venuti a conoscenza di un sistema di filtro sulle immagini caricate in iCloud. Come comunicato da Jane Horvath, CPO di Apple (Chief Privacy Officer), durante il CES di Las Vegas, in tema di protezione dei dati degli utenti, Apple scansiona iCloud alla ricerca di materiale illegale.

La manager non ha fornito ulteriori informazioni in merito. Non ha dichiarato in che modo lo faccia e come questo impatti sulla privacy degli utenti. A tal proposito Forbes è riuscita ad ottenere un incontro per fare luce su alcuni punti fondamentali.

Sappiamo che i sistemi di Apple riescono a scansionare tutte le immagini caricate nei server della società e invidiare le immagini illegali, come quelle legate alla pedopornografia. Il sistema, dichiara Apple, usa gli hashes, vale a dire le tracce lasciate dal codice.

Usando il machine learning l’azienda ottiene una lista di account potenzialmente pericolosi. Questi sono inviati ad un sistema che li mette in quarantena.

L’elenco prende in considerazione gli IP dai quali è inviata l’immagine, il nome dell’account e il contenuto. Da qui parte un controllo manuale da parte di un team della società. Quindi l’assunzione della volta scorsa, dove si ipotizzava un controllo umano, è confermata.

La società assicura che i dipendenti non hanno accesso libero ai contenuti e alle comunicazioni degli utenti. L’accesso è solo ai contenuti in quarantena, dove c’è bisogno di un controllo umano. Per gli esperti questa è una situazione dove il controllo dei dati degli utenti è correttamente bilanciata con le esigenze di prevenire i crimini.

Penso che l’equilibrio che Apple abbia disegnato sia buono. Consente la ricerca di immagini estreme conosciute, ma ha anche garanzie per prevenire l’abuso della capacità di cercare e-mail. Indipendentemente da quanta automazione ci sia nella segnalazione iniziale di immagini illegali, un essere umano deve fare il controllo finale.

Ha dichiarato il professor Alan Woodward, esperto di cybersecurity alla University of Surrey.

I dati trovati sono inviati al dipartimento di sicurezza interna degli Stati Uniti, dove si attivano le indagini per scoprire criminali e assicurarli alla giustizia.

Leave a comment

Cosa ne pensi?