Facebook va dir que està provant una tecnologia de moderació d'intel·ligència artificial a Grups per frenar els conflictes en publicacions i comentaris.
La nova eina basada en IA s'anomena Alertes de conflictes i està pensada per ajudar els administradors de grups a tenir més control sobre les seves comunitats. La tecnologia d'IA notificarà a un administrador si detecta "converses controvertides o poc saludables" perquè un administrador pugui prendre les accions necessàries més ràpidament.
Per a l'usuari mitjà de Facebook, aquesta nova eina significa que probablement veureu menys baralles i discussions a les publicacions dels grups que seguiu, de manera que les coses seran menys negatives, en general.
Els administradors poden utilitzar l'eina Alertes de conflictes per crear alertes quan els usuaris comenten paraules o frases específiques, i l'aprenentatge automàtic pot detectar aquestes instàncies per avisar un administrador quan es produeixin. L'eina també permet als administradors limitar l'activitat de persones i publicacions específiques.
Facebook va dir a The Verge que l'aprenentatge automàtic utilitzarà "diversos senyals, com ara el temps de resposta i el volum de comentaris, per determinar si la interacció entre usuaris té o pot provocar interaccions negatives".
Facebook ja utilitza eines d'IA per marcar altres tipus de contingut a la seva plataforma, inclòs el discurs de l'odi. Segons un informe d'aplicació d'estàndards comunitaris de l'agost de 2020, l'eina d'IA de Facebook per al discurs de l'odi tenia una precisió del 95%, en comparació amb el 89% del primer trimestre del 2020. Facebook va dir que va augmentar les seves accions contra el contingut del discurs de l'odi des de 9,6 milions d'instàncies el primer trimestre. 2020 a 22,5 milions en el segon trimestre.
Per a l'usuari mitjà de Facebook, aquesta nova eina significa que probablement veureu menys baralles i discussions a les publicacions dels grups que seguiu
La xarxa social també està treballant en una tecnologia d'IA que pot "veure" fotos utilitzant dades en brut per permetre que el model s'entreni, de manera independent i sense utilitzar un algorisme, a mesura que visualitza més imatges. El projecte d'IA, conegut com a SEER, podria obrir el camí per a models de visió per ordinador més versàtils, precisos i adaptables, alhora que ofereix millors eines de cerca i accessibilitat als usuaris de les xarxes socials.
