Clau per emportar
- Un investigador destacat diu que la IA ja és conscient.
- Però altres experts en IA diuen que els ordinadors estan molt lluny d'aconseguir habilitats cognitives a nivell humà, inclosa la consciència.
- Determinar si alguna cosa és conscient pot ser complicat.
La idea de la intel·ligència artificial conscient (IA) evoca imatges de màquines que prenen el món, però els experts no estan d'acord sobre si s'ha de prendre el concepte seriosament.
Un important investigador d'IA va afirmar recentment que la IA ja és més intel·ligent del que pensem. Ilya Sutskever, el científic en cap del grup de recerca OpenAI, va tuitejar que "pot ser que les grans xarxes neuronals actuals siguin lleugerament conscients". Però altres experts en IA diuen que és massa aviat per determinar res d'aquest tipus.
"Per ser conscient, una entitat ha de ser conscient de la seva existència al seu entorn i que les accions que pren afectaran el seu futur", va dir Charles Simon, director general de FutureAI, a Lifewire en una entrevista per correu electrònic. "Cap d'aquests no està present a l'IA actual."
Superhumans?
Sutskever ja ha advertit anteriorment que la intel·ligència artificial súper intel·ligent podria causar problemes. Entrevistat al documental iHuman, va dir que la intel·ligència artificial avançada "resoldrà tots els problemes que tenim avui", però també va advertir que tenen "el potencial de crear dictadures infinitament estables"..
OpenAI es va fundar com una organització sense ànim de lucre destinada a evitar els riscos que representen els ordinadors intel·ligents, però també ha dut a terme investigacions destinades a crear IA.
Si bé molts científics han rebutjat l'afirmació de Simon que la IA és conscient, té almenys un defensor conegut. L'informàtic del MIT Tamay Besiroglu va defensar Sutskever en un tuit.
"Veure tanta gent destacada [d'aprenentatge automàtic] ridiculitzant aquesta idea és decebedor", va escriure Besiroglu a Twitter. "Em fa menys esperança en la capacitat del camp d'assumir seriosament algunes de les preguntes profundes, estranyes i importants a les quals sens dubte s'enfrontaran durant les properes dècades."
Què és la consciència?
Fins i tot determinar si alguna cosa és conscient pot ser complicat. L'investigador d'IA Sneh Vaswani va dir a Lifewire en un correu electrònic que la consciència té múltiples etapes. L'IA ha fet "incursions dignes" a les primeres etapes, va dir.
"Avui, una màquina pot entendre les emocions, construir un perfil de personalitat i adaptar-se a la personalitat d'un humà", va afegir. "A mesura que la IA evoluciona, s'està movent cap a les etapes avançades de la consciència més ràpidament del que podem comprendre."
Hi ha moltes definicions de consciència, i alguns dirien que els arbres i les formigues són una mica conscients, una idea que "estén la definició més enllà de l'ús comú", va dir Simon. Afirma que l'autoconsciència és la comprensió d'un mateix com a entitat conscient.
"Tant la consciència com l'autoconsciència es manifesten en una sèrie de comportaments, com ara mostrar interès propi, però també en una sensació interna", va dir Simon. "Si les IA són realment conscients, podrem observar els comportaments, però tindrem poc coneixement de la sensació interna. És possible falsificar la consciència amb una biblioteca de comportaments que apareixen conscients com referir-nos a si mateixos com a 'jo', però un l'entitat realment conscient és capaç de planificar i considerar múltiples resultats."
Vaswani és optimista sobre el resultat de la creació d'una IA super intel·ligent, tot i que Elon Musk és un dels que han advertit que la IA conscient podria provocar la destrucció de la humanitat.
"Quan la IA adquireixi consciència completament, completarà una societat 'incompleta': els humans i la IA coexistiran", va dir Vaswani. "Aconseguirem objectius més grans junts i la IA s'integrarà perfectament amb el nostre món."
Alguns experts en IA diuen que el concepte mateix d'IA conscient és més ciència-ficció que realitat. El problema tendeix a emfatitzar excessivament els robots "estil terminador" i no el dany potencial molt real de la IA esbiaixada que ja existeix, va dir Triveni Gandhi, responsable d'IA responsable de l'empresa d'IA Dataiku, en un correu electrònic a Lifewire..
"Potser no ens enfrontem a la propera Ex Machina, però ens enfrontem a alguns reptes reals", va dir Gandhi. "Això es pot veure en l'ús indegut de la IA molt esbiaixada per predir els costos sanitaris, en les eines de contractació que filtren els currículums de manera injusta o en els models de préstec de crèdit que reforcen les desigu altats existents."
La IA no és inherentment bona o dolenta, són només dades les que fan el que li demanem que faci, argumenta Gandhi.
"Els biaixos humans es troben en els models de dades i d'aprenentatge automàtic, així que hauríem de tenir molt clar les dades que fem servir, per què optem per utilitzar la IA en aquesta capacitat i com es presenten les opcions a la gent. afectat per un sistema d'IA", va afegir Gandhi.
