Clau per emportar
- ToxMod, de l'empresa Modulate, amb seu a Boston, afirma detectar i actuar contra la parla disruptiva automàticament, en temps real.
- En lloc de ser restringit per un llenguatge senzill, ToxMod utilitza l'aprenentatge automàtic per esbrinar elements intangibles com l'emoció, el volum i el ritme.
- ToxMod està dissenyat actualment per utilitzar-lo amb sales de xat dins del joc, però no hi ha cap motiu perquè no pugui arribar al teu canal de Twitch.
Una empresa amb seu a Boston està utilitzant l'aprenentatge automàtic per crear el que factura com el primer servei de moderació natiu de veu del món, que pot marcar la diferència entre el que es diu i el que significa.
ToxMod és un intent de resoldre la paradoxa de moderar qualsevol espai obert a Internet; no hi ha prou humans per mantenir-se al dia amb la demanda, però els algorismes, els filtres i un sistema d'informes no entenen els matisos.
Amb la base de dades de ToxMod, pot fer un seguiment de factors de la parla dels jugadors com l'emoció i el volum, cosa que l'ajuda a distingir entre un lapse momentani i un patró de comportament. Recentment es va anunciar com una addició al joc de futbol americà 7v7 Gridiron, actualment en Steam Early Access.
"Tothom sap que l'assetjament, el discurs d'odi i la toxicitat en el xat de veu i els jocs són un problema enorme. Això s'entén habitualment", va dir Carter Huffman, director de tecnologia i cofundador de Modulate, en una reunió de Google amb Lifewire. "Podríem prendre les característiques que estàvem extreint a través d'aquesta varietat de sistemes d'aprenentatge automàtic i unir-les en un sistema que tingués en compte tot aquest coneixement expert que estàvem aprenent de la comunitat."
Tots Salutem els nostres nous robots moderadors
Modulate ha estat treballant en ToxMod des de la tardor passada i l'ha incorporat com un dels tres serveis bàsics de l'empresa. També ofereix VoiceWear, un disfressador de veu impulsat per l'aprenentatge automàtic, i VoiceVibe, un servei d'agregació que permet als usuaris esbrinar què parlen les persones de les seves comunitats.
Quan ToxMod s'executa en un xat, es pot programar mitjançant el tauler d'administració de Modulate per dur a terme diverses accions automàtiques, com ara emetre advertències, silenciar jugadors o ajustar el volum individualment.
Utilitza un sistema de triatge on la seva instància local és la primera a prendre acció, abans de comprovar-ho amb els servidors de Modulate per confirmar-los. Aleshores, finalment s'escalfa fins al punt que podria requerir la intervenció humana. En revisar cada control al seu torn, que Modulate anomena "portes de triatge", la idea és que ToxMod ofereixi a un petit equip de moderadors les eines amb les quals moderar eficaçment una comunitat molt més gran.
"La trista veritat és que tothom ha tingut aquesta experiència, d'intentar utilitzar el xat de veu a qualsevol plataforma on estiguessis i descobrir que, noi, era una mala idea", va dir Mike Pappas, director general de Modulate, en un videotrucada amb Lifewire. "Poder entrar i dir: 'Això no és el salvatge oest. Hi ha regles'. Crec que això és molt important."
Trencant el sistema
Naturalment, la segona o tercera pregunta que cal fer sobre ToxMod és com trencar-la.
Amb molts sistemes de moderació automàtics, com els algorismes que regeixen Twitter, és fàcil jugar-los contra persones que no t'agraden. Només heu d'informar en massa del vostre objectiu amb uns quants comptes de titelles de mitjons i es menjaran de manera fiable una prohibició.
"A nivell de referència, ToxMod no necessita confiar en aquests informes addicionals dels jugadors", va dir Pappas. "Encara és capaç de produir estimacions sòlides de quins delictes hem de prestar atenció. No us haureu de preocupar perquè els jugadors intentin jugar al sistema, ja que realment no hi ha res per jugar.
Tothom sap que l'assetjament, el discurs d'odi i la toxicitat al xat de veu i als jocs són un problema enorme.
"Tot el que tens control com a reproductor és el teu propi àudio", va continuar Pappas. "El pitjor que pots fer és ser menys dolent com a persona, així que no et marquem com un mal actor, cosa que diria que és una cosa propera a l'èxit de la missió."
En general, doncs, la idea darrere de ToxMod és un intent de recuperació actiu. Molts jugadors en aquest moment han experimentat algun tipus d'assetjament per part d'estranys a l'atzar en canals de veu oberts, que van des d'insults aleatoris fins a amenaces actives. Com a resultat, els jugadors solen evitar el xat de veu en general i prefereixen renunciar a la seva comoditat a canvi de la seva pròpia tranquil·litat.
"El que esperem veure [són que els mals actors passen] molt menys temps al xat de veu abans de ser trobats i eliminats", va dir Pappas."Això té més que un impacte lineal. Quan tothom veu el xat de veu com un lloc més segur, més bons actors estan disposats a tornar al xat de veu i provar-ho. Crec que tot pot anar en una direcció positiva."
