Twitch, così come altre compagnie, sta moltiplicando i suoi sforzi per ridurre le molestie e le aggressioni tra utenti con un nuovo strumento che utilizza l’apprendimento automatico (learning machine) per rilevare le persone che potrebbero tentare di eludere i divieti e i ban. È l’ultima aggiunta della nota compagnia per combattere piaghe sociali come il razzismo, e le numerose chat degli streamer più famosi che al momento sono invase da “troll” che inviano messaggi pieni d’odio.
Il nuovo strumento, chiamato Suspicious User Detection, può identificare gli utenti come entità “probabili” o “possibili” che abbiano eluso i divieti da un canale di uno streamer. Il modello di apprendimento automatico che alimenta lo strumento identifica i potenziali evasori valutando cose come il loro comportamento e le caratteristiche del loro account e confronta tali informazioni con gli account che sono stati banditi dal canale di uno streamer preso in esame nello specifico.
I messaggi dei “possibili” evasori non verranno inviati alla chat, ma gli streamer e i loro moderatori possono vederli. Streamers e mod possono dunque scegliere di monitorare un probabile ban evader. Nel fare ciò aggiungeranno l’utente a un elenco di monitoraggio per poi inserire un messaggio accanto al nome dell’utente preso in esame, o procedendo semplicemente al ban. I messaggi dei “possibili” evasori appariranno in chat, ma gli streamer ed i moderatori potranno scegliere di bloccarli.
Twitch dichiara che inserirà Suspicious User Detection come standard della piattaforma attivo di default, ma gli streamer potranno modificare o disattivare lo strumento a proprio piacimento. Streamers e moderatori possono anche selezionare manualmente gli utenti da monitorare, in modo del tutto personalizzato.
“Questo strumento è stato ispirato in gran parte dal feedback della comunità intorno alla necessità di modi migliori per frenare gli utenti più pericolosi”, ha dichiarato Alison Huffman, Direttore di Twitch sul versante salute e sicurezza. “Quando abbiamo parlato con i moderatori sui punti critici della comunità, abbiamo sentito che può essere difficile distinguere se un utente che ha chattato ha scritto qualcosa che ha violato le norme del canale, o peggio, se è stato un molestatore nei confronti degli altri utenti. Sulla base di queste dichiarazioni, abbiamo progettato questo strumento per dare a moderatori e creatori maggiori informazioni sui potenziali evasori di ban in modo che potessero prendere decisioni più efficienti all’interno del loro canale.”
Suspicious User Detection potrebbe effettivamente fare la differenza nel silenziare individui nocivi, soprattutto se utilizzato in tandem con i controlli recentemente introdotti che consentono ad uno streamer di richiedere numero di telefono o e-mail di verifica per gli account che partecipano alla chat.