Clau per emportar
- Tencent va crear una tecnologia de reconeixement facial per atrapar els nens jugant a videojocs després d'un toc de queda obligat per l'estat.
- El control parental sense que els pares vetllin per sobre de les espatlles dels nens no és una cosa nova.
- Els experts diuen que els problemes amb les regles aplicades pel reconeixement facial inclouen la privadesa i la precisió personals.
L'empresa xinesa de jocs Tencent està utilitzant la tecnologia de reconeixement facial per fer complir el toc de queda de jocs als menors, i els experts diuen que un món de regles tecnològiques no està lluny.
El programari de reconeixement facial no és una tecnologia nova, però a mesura que es fa més avançat, té usos més controvertits fora de només desbloquejar els nostres telèfons intel·ligents. El Dr. Vir Phoha, professor de la Facultat d'Enginyeria i Ciències de la Computació de la Universitat de Syracuse, va dir que hi ha moltes preocupacions quan s'utilitza el reconeixement facial per fer complir les regles, però que una concretament destaca de la resta..
"La meva preocupació número u és que… la indústria privada es converteixi en un instrument de l'estat per fer complir les lleis", va dir Phoha a Lifewire per telèfon. "I això és important perquè pot ser que no hi hagi prou controls i equilibris dins… la indústria privada per garantir que hi hagi transparència en com es fan les coses internament."
Controls parentals sense els pares
Tencent va dir que està utilitzant la tecnologia de reconeixement facial per atrapar nens jugant a videojocs a alta hora de la nit. La Xina va aprovar un projecte de llei el 2019 que obliga a complir el toc de queda dels jocs a tots els menors de 18 anys i limita el temps dedicat a jugar un joc a les hores laborables i de cap de setmana. Així, tot i que la tecnologia sembla invasiva, es va crear per resoldre el problema dels nens que van en contra del toc de queda.
Segons Digital Trends, la tecnologia, coneguda com "Midnight Patrol", escaneja la cara d'una persona des de la pantalla de l'ordinador per relacionar-la amb un nom i una cara registrats i fa un seguiment del seu temps de reproducció en conseqüència.
Fins i tot si alguns pares volen que els seus fills compleixin les regles, la tecnologia pot substituir realment un pare?
"Crec que hi ha un conflicte entre els drets parentals i les obligacions parentals. I amb les coses obligades per l'estat, els pares solen ser els millors jutges ", va dir Phoha.
Tot i que aquesta tecnologia específica es troba a la Xina, la Comissió Federal de Comerç va aprovar el 2015 un mètode de consentiment parental verificable que permet a les entitats utilitzar la tecnologia de reconeixement facial per obtenir el consentiment parental. Aquesta tecnologia és una mica diferent, ja que està orientada a escanejar la cara dels pares abans que els nens puguin accedir a determinat contingut per assegurar-se que els pares hi donen el consentiment. Tanmateix, Phoha va dir que tenir una càmera a casa controlant les coses t'obri a possibles problemes.
"Si es permet una càmera a casa, com ara un tercer que permet l'accés a casa meva, quan el meu fill està jugant, crec que és un gran problema", va dir.
Problemes amb les regles aplicades pel reconeixement facial
A part dels problemes ètics de les normes obligades per l'estat o de fer-se càrrec del paper dels pares, Phoha va dir que amb el reconeixement facial, sempre hi ha problemes de precisió.
"El [reconeixement facial] es pot falsificar molt fàcilment, concretament, si es troba davant d'un ordinador i es fa de forma remota com ho és el de Tencent", va dir.
Si és obligatori per l'estat i si és coercitiu o comporta mesures punitives, no m'hi sent gaire còmode."
Si el reconeixement facial es va convertir en una manera més àmpliament acceptada d'aplicar les regles, podria afectar significativament les persones de color a causa del biaix racial inherent a la tecnologia. Nombrosos estudis han demostrat que el reconeixement facial pot identificar malament les persones, especialment les de color.
"Utilitzant les fotos d'aplicacions de més qualitat, les taxes de falsos positius són més altes a les persones d'Àfrica occidental i oriental i d'Àsia oriental, i més baixes a les persones d'Europa de l'est. Aquest efecte és generalment gran, amb un factor de 100 falsos positius més. entre països", diu part d'un estudi del 2019 del NIST sobre dades demogràfiques de reconeixement facial.
Phoha va afegir que en la investigació científica, el reconeixement facial és capaç de determinar molt més que només trets facials, com ara detectar la freqüència cardíaca d'algú i identificar si una persona té una determinada mal altia.
La tecnologia de reconeixement facial també pot detectar les vostres emocions. Per exemple, el programari de reconeixement facial d'Amazon, conegut com a Rekignition, pot detectar emocions a la cara de les persones, inclosa la por.
Phoha va dir que ens estem apropant poc a poc a un món de normes de reconeixement facial i vigilància amb aquest tipus de tecnologia. Va afegir que hauríem de desconfiar especialment d'un sistema de regles de reconeixement facial obligat per l'estat.
"Quan vull iniciar la sessió en un telèfon i utilitzar l'autenticació facial, ho puc fer a la meva discreció; és la meva elecció i puc utilitzar-lo com vull", va dir. "Però si està obligat per l'estat i si és coercitiu o comporta mesures punitives, no m'hi sent gaire còmode."
