Clau per emportar
- Els sistemes d'AI que supervisen els camions de lliurament estan penalitzant injustament els conductors d'Amazon, afirma un nou informe.
- El sistema d'Amazon forma part d'una tendència creixent d'empreses que utilitzen la tecnologia per supervisar els seus ocupadors de forma remota.
-
Algun programari d'IA permet als empresaris supervisar contínuament el comportament dels empleats en segon pla i dibuixar patrons en el seu flux de treball.
Els empresaris recorren cada cop més al programari per supervisar els empleats de forma remota, cosa que genera preocupacions entre alguns defensors de la privadesa.
Un nou informe afirma que les càmeres amb intel·ligència artificial a les furgonetes de lliurament d'Amazon han penalitzat injustament els conductors. L'article va trobar que els conductors patien alertes errònies, fitxes incorrectes del conductor, supòsits poc pràctics sobre condicions de trànsit i els conductors adoptaven pràctiques per eludir la tecnologia..
"Mentre la intel·ligència artificial millori, encara es cometran errors", va dir a Lifewire Raymond Ku, director del Centre de Dret i Política del Ciberespai de la Case Western Reserve University, en una entrevista per correu electrònic. "Com a qüestió d'equitat, crec que tots creiem que algú que és penalitzat d'alguna manera per la presa de decisions de l'IA hauria de ser conscient del fet i tenir l'oportunitat de desafiar la decisió."
Càmeres d'IA d'Amazon
Amazon ha dit que va instal·lar càmeres amb intel·ligència artificial als seus vehicles de lliurament com a mesura de seguretat. Les càmeres estan pensades per controlar quan els conductors de repartiment realitzen maniobres perilloses, com ara posar senyals de stop o fer girs en U il·legals.
Quan les càmeres detecten possibles "esdeveniments" de conducció insegura, aquests casos tenen en compte les puntuacions de rendiment dels treballadors. Les puntuacions més baixes redueixen la possibilitat que els conductors rebin bonificacions, pagues addicionals i premis.
Però els conductors d'Amazon van dir a Motherboard que se'ls castiga per alguns hàbits de conducció que es consideren segurs o fora del seu control. Amazon no va respondre a una sol·licitud de comentari de Lifewire.
Ku va assenyalar que com que els conductors van acceptar ser gravats, no estan patint cap invasió de la privadesa segons la llei.
"No obstant això, això no vol dir que el treballador mitjà estaria content amb la vigilància o que no s'oposaria si pogués", va afegir. "Això és especialment cert quan la vigilància comença a invadir espais personals més tradicionals."
L'informe planteja qüestions més àmplies sobre si es pot accedir a les dades i utilitzar-les en les demandes o per la policia i els funcionaris federals, va dir l'advocada de privadesa de dades Bethany A. Corbin a Lifewire en una entrevista per correu electrònic. També podria afectar la responsabilitat, va assenyalar.
"Per exemple, si la tecnologia d'IA diu a l'empleat que no es miri als miralls laterals i l'empleat té un accident com a conseqüència directa d'aquest consell, qui té la culpa?" Corbin afegit.
Creixent la vigilància
La vigilància no s'atura amb Amazon. Un nombre creixent d'empreses utilitzen la tecnologia per vigilar els seus empleats de forma remota, va dir l'expert en privadesa Chris Hauk a Lifewire en una entrevista per correu electrònic.
Per exemple, l'empresa de màrqueting d'IA Blackbelt utilitza un sistema de seguiment del temps d'assignació, que permet a l'empresa supervisar i fer un seguiment de l'activitat informàtica dels seus empleats de manera autònoma. L'Analytics del lloc de treball de Microsoft permetrà als empresaris veure el temps d'un empleat als llocs web, escriure correus electrònics i molt més durant un dia laboral.
Walmart també està treballant en un sistema que escolta el soroll de les bosses o els sos dels escàners de la caixa per fer un seguiment de les mètriques dels empleats i garantir que els empleats realitzin les seves tasques de manera correcta i eficient. Els sensors fins i tot poden escoltar els clients mentre xategen mentre estan a la línia i detectar si els empleats saluden els clients correctament o no.
La vigilància del lloc de treball és cada cop més freqüent des de l'inici de la pandèmia, va dir l'expert en privadesa Pankaj Srivastava a Lifewire en una entrevista per correu electrònic.
"La major part d'aquesta tecnologia es posiciona com a 'millorar la productivitat', però, la manera com funcionen algunes d'aquestes eines suggereix una major tolerància dels empresaris per supervisar cada activitat de la seva força de treball", va afegir. "Per exemple, supervisar el temps que dediquen els empleats a cada tasca, fer una foto remota per assegurar-se que els empleats estan al seu escriptori i fins i tot supervisar els llocs web visitats i registrar les pulsacions del teclat i el moviment del ratolí d'un empleat."
Mentre la intel·ligència artificial millori, es continuaran cometent errors.
Algun programari d'IA permet als empresaris controlar contínuament el comportament dels empleats en segon pla i dibuixar patrons en el seu flux de treball, va dir.
"Es pot acomiadar un empleat en funció del seu informe de rendiment personalitzat, dient que va trigar uns minuts més a completar una tasca de l'habitual", va dir Srivastava.
"Adéu, descansos al bany."
