Xbox contro il cyberbullismo grazie a un innovativo dispositivo di una startup

Il problema del cyberbullismo è ben radicato e continua sfortunatamente a crescere di anno in anno. Per cercare di aiutare genitori e figli, la startup di Ron Curbs ha lavorato a un dispositivo di monitoraggio che ascolta la chat multiplayer online e cerca di offrire un utile avvertimento ai genitori preoccupati per il comportamento online dei loro figli o per la loro sicurezza.

Chiamato "Kidas", il dispositivo rileva parole e modi di dire che potrebbero essere causa di cyberbullismo: quando questo accade, un analista umano esamina l'incidente e determina se i genitori debbano essere informati. Il dispositivo ha ancora delle imprecisioni: ad esempio Curbs riporta l'episodio di un ragazzino che stava giocando a Bully e dato che alcuni personaggi hanno avuto dialoghi potenzialmente preoccupanti per il dispositivo, questi li ha confusi prendendoli per reali. Imprecisioni a parte, 100 famiglie hanno testato su Xbox questo dispositivo ed i risultati sono sulla sufficienza.

Kidas, con sede a Philadelphia, è una startup di 10 persone che si occupa di una causa che i publisher hanno abbracciato in misure minori nell'ultimo anno. Electronic Arts, questa estate, ha introdotto una nuova serie di standard sia per sé che per i suoi giocatori, intesi a creare comunità online più sane nei suoi enormi giochi multiplayer. La nuova PlayStation 5 ha una funzionalità che registrerà i dialoghi in chat, per aiutare i moderatori a esaminare i reclami di abusi verbali o altre violazioni del codice di condotta. E solo una settimana fa, Microsoft, Sony e Nintendo hanno firmato un impegno per rendere i videogiochi più sicuri, soprattutto per i loro giocatori più giovani.

La tecnologia di Kidas è principalmente per un genitore, in particolare un genitore che non ritiene che le dichiarazioni di quelle aziende siano sufficienti. Curbs ha avuto l'idea di Kidas dopo il suo servizio nell'esercito israeliano, dove ha sviluppato soluzioni di rilevamento delle minacce per la Central Intelligence Unit del paese.

Alla domanda su come funziona Kidas, Curbs ha menzionato concetti come reti neurali e apprendimento automatico. Ovviamente, il dispositivo avrebbe bisogno di fare affidamento su un codice molto sofisticato e in continua evoluzione per distinguere tra bambini che parlano innocentemente e qualcosa che potrebbe allertare un genitore: minacce di violenza, linguaggio umiliante o sollecitazioni da parte di un predatore.

Kidas al momento ha alcune limitazioni evidenti: funziona solo con Xbox One o Xbox Series X, per cominciare. Inoltre, anche se il dispositivo è costruito con hardware standard, Curbs e Kidas non hanno accesso all'ambiente chiuso della rete Xbox Live di Microsoft. Altrettanto importante, ha detto Curbs, è presentare Kidas come un aiuto, non come qualcosa la cui presenza dice al genitore o al bambino che il videogioco è, a prima vista, una cosa cattiva o pericolosa.

"Il nostro obiettivo non è, dire ai genitori, 'Ok, vostro figlio non dovrebbe più giocare a Xbox, o non dovrebbe più giocare a PlayStation'", ha detto Curbs. "Il nostro obiettivo è fornire loro gli strumenti per parlare di questo argomento con il loro bambino, fargli capire. 'Quali sono le tattiche giuste per trattare con quelle persone?'".

Fonte: Polygon