Clau per emportar
- Les empreses estan utilitzant la intel·ligència artificial per vigilar els seus empleats.
- Amazon va instal·lar càmeres amb tecnologia d'aprenentatge automàtic a les seves furgonetes de lliurament a principis d'aquest any.
- La La vigilància de la IA podria provocar problemes de privadesa i seguretat si la fan servir empreses sense escrúpols.
Els empresaris fan un seguiment cada cop més dels seus treballadors mitjançant la intel·ligència artificial, i els observadors diuen que aquesta pràctica planteja problemes de privadesa.
Amazon va instal·lar càmeres amb tecnologia d'aprenentatge automàtic a les seves furgonetes de lliurament a principis d'any. La companyia va dir recentment als seus conductors que havien d'acceptar utilitzar-los. La pràctica de la vigilància en el lloc de treball pot ser legal, però no tothom està d'acord que sigui ètica.
"Les empreses han utilitzat eines de control dels empleats durant dècades, però amb l'avanç de la tecnologia, s'estan tornant més invasives", va dir Aimee O'Driscoll, investigadora de seguretat del lloc web de comparació de tecnologia Comparitech, en una entrevista per correu electrònic..
"La majoria de monitoratge dels empleats es podria considerar una invasió de la privadesa, i es podria argumentar que el que fa Amazon no és gaire diferent de tenir càmeres de CCTV a una oficina."
Fes vigilat o acomiadat
Els aproximadament 75.000 repartidors d'Amazon als EUA ara han de signar un formulari de "consentiment biomètric". El formulari de permís permet que les càmeres amb intel·ligència artificial vegin la ubicació, el moviment i les dades biomètriques dels conductors. Els empleats que no signin el document podrien ser acomiadats.
La La vigilància de la IA fa un seguiment de tot el que fan els conductors d'Amazon, envaint la privadesa assumida del subjecte, va dir Chris Hauk, investigador de privadesa del lloc web de privadesa Pixel Privacy, en una entrevista per correu electrònic.
"Això inclou la gravació cada vegada que el subjecte badalla o es rasca una zona sensible", va afegir. "Un conductor té almenys algun dret a una aparença de privadesa mentre està dins dels seus vehicles."
La vigilància dels empleats mitjançant IA és un problema creixent. Walmart ha patentat una tecnologia d'IA que permet escoltar les interaccions dels empleats amb els clients a les caixes, va assenyalar O'Driscoll.
El desenvolupador de programari Enaible ofereix eines de productivitat basades en programari d'IA. Diverses empreses, inclosa Macy's, utilitzen el sistema d'anàlisi de Microsoft, que pot controlar el comportament dels empleats. Domino's ha utilitzat la tecnologia d'IA per comprovar que les pizzes s'elaboren correctament.
"Un dels problemes principals és que, quan s'utilitza de manera incorrecta, la manca de privadesa pot provocar problemes de seguretat", va dir O'Driscoll.
"Les dades de vigilància podrien acabar en mans de delinqüents, o els mateixos actors dolents podrien utilitzar la vigilància d'IA per apuntar a les víctimes."
Les exploracions biomètriques de la cara donen lloc a una representació matemàtica de la cara de l'interessat que es pot aprofitar per identificar-los i fer-ne un seguiment a qualsevol lloc, durant la resta de la seva vida, va dir Ray Walsh, expert en privadesa del lloc web ProPrivacy, en un entrevista per correu electrònic.
"Això planteja seriosos riscos de privadesa i seguretat per als conductors d'Amazon, les dades dels quals podrien ser infringides, filtrades o fins i tot aprofitades per fisgones governamentals mitjançant una ordre", va afegir..
Com que la tecnologia d'IA és relativament nova, no hi ha directrius concretes sobre el seu ús pel que fa a la privadesa, va dir O'Driscoll. "Dit això, probablement la seguretat sempre serà una excusa legítima per a la invasió de la privadesa, de manera que Amazon està cobert per les seves intencions actuals", va afegir..
Tot i que els empleats tenen dret a renunciar o a consentir el seguiment proposat de la IA, ho estan fent davant d'un enorme desequilibri de poder, O'Driscoll va dir que s'hauria de regular la vigilància de la IA. "L'ideal és que les empreses tinguin motius legítims (com ara la seguretat) per a la vigilància de la IA", va afegir.
Alguns estats han aprovat projectes de llei que limiten i regulen l'ús de la vigilància al lloc de treball, però f alta legislació federal, va assenyalar Walsh.
El 2019, la Llei de responsabilitat algorítmica es va introduir a la Cambra i al Senat, però finalment es va rebutjar. Un acte similar es podria introduir aquest any i "s'espera que un Congrés i una Casa Blanca liderats pels demòcrates millorin les seves possibilitats d'aprovació", va dir Walsh..
No esperis privadesa a la feina
No tothom creu que la vigilància d'Amazon dels seus conductors és una invasió de la privadesa.
"Crec que és difícil argumentar que un empleat té una expectativa raonable de privadesa en un vehicle propietat de l'empresa", va dir Will Griffin, director d'ètica de l'empresa d'IA Hypergiant, en una entrevista per correu electrònic.
"La preocupació més gran és que d'aquí a uns anys, tots aquests conductors seran substituïts per vehicles autònoms. Per tant, qualsevol debat sobre la política dels conductors es convertirà en un tema discutible a mesura que la flota esdevingui totalment autònoma."
El cas d'Amazon posa de manifest la necessitat d'un sindicat o d'una intervenció federal específica com a forma de restablir l'equilibri de poder entre els treballadors d'Amazon i l'empresa, va dir Griffin..
"Tot i que els empleats tenen dret a renunciar o donar el seu consentiment a la vigilància d'IA proposada, ho estan fent davant d'un enorme desequilibri de poder", va afegir.
