L’azienda ha creato un sistema automatizzato per rilevare i predatori sessuali che cercano di contattare i bambini online; lo strumento, nome in codice Project Artemis, è progettato per individuare i modelli di comunicazione nelle conversazioni.
di Charlotte Jee
Sulla base delle parole e dei modelli di discorso, il sistema assegna un punteggio alla probabilità che uno dei partecipanti stia cercando di adescare l’altro. Le aziende che implementano la tecnica possono impostare un punteggio (per esempio 8 su 10) al di sopra del quale qualsiasi conversazione contrassegnata viene inviata a un moderatore umano per la revisione.
Quest’ultimo potrebbe potenzialmente identificare minacce imminenti, denunciarle alle forze dell’ordine e fornire a chi si occupa della protezione dei minori maggiori informazioni su come i pedofili operano online.
Come ha dichiarato in un post il responsabile della sicurezza digitale dell’azienda, Courtney Gregoire, Microsoft utilizza queste tecniche da diversi anni per i propri prodotti, tra cui la piattaforma Xbox e Skype.
Microsoft non è entrata nel merito di quali parole o modelli precisi lo strumento vada alla ricerca, per evitare che i predatori sessuali possano adattare il loro comportamento con l’intento di mascherare le loro attività. Lo strumento è disponibile gratuitamente per le aziende che forniscono funzioni di chat online, attraverso una non profit chiamata Thorn, che sviluppa prodotti tecnologici per difendere i bambini dagli abusi sessuali.
E’ probabile che ci si troverà davanti a molti falsi positivi, dal momento che i sistemi automatizzati hanno ancora difficoltà a comprendere il significato e il contesto del linguaggio. Pertanto le aziende di social media dovranno investire di più nei moderatori se sono veramente impegnate ad affrontare queste forme di adescamento online (e le vittime sostengono che non è affatto chiaro questo proposito). Il sistema presuppone inoltre che i messaggi non siano crittografati e che gli utenti consentano di leggere le loro comunicazioni private, il che non è assolutamente scontato.
(rp)
