Clau per emportar
- És possible que diverses aplicacions noves puguin detectar les emocions dels estudiants.
- S'ha informat que Intel i el fabricant de programari Classroom estan desenvolupant programari que vigilarà les cares i el llenguatge corporal dels estudiants digitals.
- Alguns experts els preocupa que l'ús de la IA per supervisar els estudiants pugui provocar invasions de la privadesa.
Les escoles aviat podrien utilitzar la intel·ligència artificial (IA) per controlar els estats emocionals dels estudiants.
Intel i el fabricant de programari Classroom estan desenvolupant programari que vigilarà les cares i el llenguatge corporal dels estudiants digitals. Segons els informes, el sistema pot detectar si els estudiants estan avorrits, distrets o confosos, però alguns experts els preocupa que el programari pugui provocar invasions de la privadesa.
"Aquests productes de monitorització basats en IA haurien de ser transparents sobre com s'utilitzen aquestes dades", va dir a Lifewire Michael Huth, cofundador de l'empresa Xayn i cap del departament d'informàtica de l'Imperial College de Londres. entrevista. "Si s'utilitza per fer un seguiment del compromís en una cohort d'estudiants, on no es registra el compromís a nivell individual, això és una mica menys problemàtic des d'una perspectiva de privadesa. Si alguna d'aquestes dades s'hagués d'utilitzar per influir en l'avaluació dels estudiants, no obstant això, jo pot veure que sorgeixen tot tipus de problemes."
Vigilància dels estudiants
Class i Intel s'han associat per integrar una tecnologia basada en IA que s'executa juntament amb el programari de videoconferència Zoom, va informar Protocol. El programari es pot utilitzar per supervisar els estudiants, segons l'informe.
"A través de la nostra associació amb Intel, podrem aportar funcions noves i immersives al programari de Class, impulsades per funcionalitats recolzades per la investigació", segons el lloc web de l'empresa. "També treballarem juntament amb Intel per aprofitar els recursos i oferir als educadors i estudiants coneixements valuosos, estudis de casos conjunts, llibres blancs, seminaris web i molt més."
Intel va dir a Protocol que el programari de l'aula està en les primeres etapes i que no hi ha plans per enviar el producte al mercat.
L'associació amb Class no és l'única col·laboració potencial entre el programari de lectura d'emocions d'Intel i altres fabricants. Un fulletó en línia d'Intel presenta una nova pissarra electrònica anomenada Viewboard dirigida a les escoles. El programari Intel "fa possible que myViewboard avaluï i mostri els estats emocionals dels estudiants com a comentaris immediats per als educadors", segons el fulletó..
Class és un dels molts productes de programari que pretenen fer un seguiment de les emocions dels estudiants mitjançant la IA. També hi ha 4Little Trees, una plataforma d'aprenentatge de detecció d'emocions que és "un assistent docent virtual [que] t'ajudaria a triar les preguntes més adequades per a tu o desafiar-te quan calgui", segons el lloc web de l'empresa..
Ashish Fernando, director general de l'empresa d'IA iSchoolConnect, va dir a Lifewire en una entrevista per correu electrònic que la IA es pot entrenar per avaluar el comportament i les característiques humanes sense l'impacte dels biaixos subjectius que tenen les persones.
"La IA pot avaluar un nombre significativament més gran de comportaments humans, incloses les microexpressions fàcils de perdre, a un ritme molt més ràpid que un humà", va dir Fernando. "Quan els comentaris podrien haver trigat hores, ara la IA pot proporcionar el mateix en pocs minuts."
Preocupacions de privadesa
L'ús de la IA per controlar humans està creixent. Snapchat té tecnologia d'IA que avalua el nivell emocional d'un grup de persones en un esdeveniment en directe. Mad Street Den utilitza la IA de visió per ordinador per ajudar els minoristes a reconèixer les expressions facials i les emocions dels compradors potencials. BrainQ aprofita la IA per entendre com interactuen els passatgers amb els vehicles autònoms que utilitzen. I les empreses estan utilitzant la IA per fer un seguiment de la fatiga del conductor.
"Aquest és un gran cas d'ús per a la seguretat viària, però planteja preguntes sobre els drets de privadesa dels conductors als seus vehicles personals", va dir Huth. "La informació sobre la fatiga es compartirà amb la companyia d'assegurances o el fabricant d'automòbils? O només advertirà al conductor que s'atura i descansi? Això és menys un problema per a flotes de cotxes comercials com ara camions, furgonetes de lliurament o taxis."
Un problema és que la informació de l'IA, com ara el moviment muscular per inferir l'estat emocional, podria no ser fiable, va dir Huth. "Això crea un dilema, ja que una IA més fiable pot requerir accedir a dades encara més sensibles, com ara els senyals d'EEG", va afegir.
Per als estudiants, la IA pot ser útil per controlar el compliment durant els exàmens en línia quan un supervisor no pot estar físicament present. Però aquest ús de la IA per a això és polèmic, va dir Huth, perquè el sistema intenta determinar si un estudiant té la intenció de fer trampes o fa trampes, i hi ha un potencial real de falsos positius que donen lloc a una penalització injustificada dels estudiants que no han fet res dolent..
"Qualsevol IA que s'utilitzi per a aquest propòsit hauria de ser prou robusta per fer front a les pauses al bany, als tics nerviosos d'estudiants individuals (com ara moviments oculars erràtics), etc.", va dir Huth..
