Clau per emportar
- Els La intel·ligència artificial i els algorismes d'aprenentatge automàtic observen el comportament humà i poden aprendre a manipular-lo, diuen els experts.
- Recentment, els investigadors han creat una manera de trobar i explotar les vulnerabilitats en la manera com les persones prenen decisions mitjançant la IA.
- L'algoritme de xarxes socials més sofisticat ara mateix és TikTok, diu un observador.
La intel·ligència artificial (IA) i els algorismes d'aprenentatge automàtic aprenen cada cop més a influir en el comportament dels usuaris, diuen els experts.
Investigadors de l'agència científica nacional d'Austràlia han creat recentment una manera de trobar i explotar les vulnerabilitats en la manera com les persones prenen decisions mitjançant la IA. L'última investigació és només una d'una onada de sistemes basats en IA dissenyats per manipular la presa de decisions humanes.
"No hi ha cap fi a les moltes maneres en què la IA ja influeix en el comportament", Kentaro Toyama, professor de l'Escola d'Informació de la Universitat de Michigan i autor de Geek Heresy: Rescuing Social Change from the Cult of Technology., va dir en una entrevista per correu electrònic.
"De fet, si alguna vegada has fet una cerca a Google i has fet un seguiment d'un enllaç, t'ha afectat un sistema d'IA que endevina els teus interessos i ha retornat resultats que creia que eren més rellevants per a tu."
AI contra humans
A la investigació australiana publicada en un article recent, els participants humans van jugar contra un ordinador en diversos experiments. El primer experiment va fer que els participants fessin clic a les caixes de color vermell o blau per guanyar diners.
La IA va tenir èxit al voltant del 70% del temps, aprenent els patrons d'elecció del participant i guiant-los cap a una elecció específica.
En un altre experiment, els participants van mirar una pantalla i van prémer un botó quan se'ls mostrava un símbol concret, o no el van prémer quan se'n va oferir un altre. La IA va aprendre a reordenar els símbols, de manera que els participants van cometre més errors.
El resultat dels experiments, van concloure els investigadors, va ser que la IA va aprendre de les respostes dels participants. Aleshores, la màquina va identificar i apuntar les vulnerabilitats en la presa de decisions de les persones. De fet, l'IA podria manipular els participants perquè facin accions concretes.
El fet que la intel·ligència artificial o l'aprenentatge automàtic puguin manipular les persones no hauria de sorprendre, diuen els observadors.
"La IA influeix en el nostre comportament cada dia", va dir Tamara Schwartz, professora adjunta de ciberseguretat i administració d'empreses al York College of Pennsylvania, en una entrevista per correu electrònic.
"Sempre sentim parlar dels algorismes d'aplicacions de xarxes socials com Facebook o Twitter. Aquests algorismes dirigeixen la nostra atenció al contingut relacionat i creen l'efecte "cambra d'eco", que al seu torn influeix en el nostre comportament."
TikTok està mirant
L'algoritme de xarxes socials més sofisticat ara mateix és TikTok, va dir Schwartz. L'aplicació analitza què us interessa, quant de temps mireu alguna cosa i amb quina rapidesa ometeu alguna cosa, i perfecciona les seves ofertes per mantenir-vos mirant.
"TikTok és molt més addictiu que altres plataformes a causa d'aquest algorisme d'IA, que entén què t'agrada, com aprens i com tries la informació", va afegir. "Ho sabem perquè el temps mitjà que els usuaris passen a TikTok és de 52 minuts."
La manipulació del comportament humà per part de la intel·ligència artificial podria tenir usos positius, va argumentar Chris Nicholson, director general de l'empresa d'IA Pathmind, en una entrevista per correu electrònic. Les agències de salut pública, per exemple, podrien utilitzar la IA per animar la gent a prendre millors decisions.
"No obstant això, les xarxes socials, els fabricants de videojocs, els anunciants i els règims autoritaris estan buscant maneres d'incentivar la gent a prendre decisions que no siguin del seu millor interès, i això els donarà noves eines per fer-ho". va afegir.
Els problemes ètics amb la IA que influeixen en el comportament sovint són de grau, va dir Toyama. La IA permet una publicitat centrada en la qual es poden explotar les preferències i les debilitats individuals.
"És possible, per exemple, que un sistema d'IA identifiqui les persones que estan intentant deixar de fumar i els emboti amb anuncis temptadors de cigarrets", va afegir.
No tothom està d'acord que la manipulació de la conducta humana amb IA és problemàtica. La psicologia clàssica i la IA observen dades, va assenyalar Jason J. Corso, director de l'Institut Stevens per a la Intel·ligència Artificial, en una entrevista per correu electrònic.
"Probablement els científics humans són millors per generalitzar observacions i destil·lar teories del comportament humà que poden ser d'aplicació més àmplia, mentre que els models d'IA serien més susceptibles d'identificar matisos específics del problema", va dir Corso..
"Des d'un punt de vista ètic, no veig cap diferència entre aquests."
