Clau per emportar
- El sistema d'IA anomenat DALL-E2 sembla haver creat el seu propi sistema de comunicació escrita.
- Alguns experts diuen que el llenguatge aparent pot ser un galimat.
- És un exemple de com de difícil és interpretar els resultats dels sistemes d'IA avançats.
Sembla que la intel·ligència artificial (IA) ha desenvolupat el seu propi llenguatge, però alguns experts es mostren escèptics amb aquesta afirmació.
El sistema d'IA de text a imatge d'OpenAI anomenat DALL-E2 sembla haver creat el seu propi sistema de comunicació escrita. És un exemple de com de difícil és interpretar els resultats dels sistemes d'IA avançats.
"A causa de la mida i la profunditat dels models grans, és molt difícil explicar el comportament del model", va dir Teresa O'Neill, directora d'arquitectura de solucions per a la comprensió del llenguatge natural d'iMerit, a Lifewire en una entrevista per correu electrònic. "Aquest és un dels principals reptes i, en alguns casos, problemes ètics amb models cada cop més potents. Si no podem explicar per què es comporten com ho fan, podem predir el seu comportament o mantenir-lo en línia amb les nostres normes i expectatives?"
Xats AI
L'estudiant d'informàtica Giannis Daras va assenyalar recentment que el sistema DALLE-2, que crea imatges basades en l'entrada de text, retornaria paraules sense sentit com a text en determinades circumstàncies.
"Una limitació coneguda de DALLE-2 és que té problemes amb el text", va escriure en un article publicat al servidor de preimpressió Arxiv. "Per exemple, les sol·licituds de text com ara: "Una imatge de la paraula avió" sovint donen lloc a imatges generades que representen un text absurd."
Però, va escriure Daras, pot haver-hi un mètode darrere de l'aparent galimatisme. "Descobrim que aquest text produït no és aleatori, sinó que revela un vocabulari ocult que el model sembla haver desenvolupat internament", va continuar. "Per exemple, quan s'alimenta amb aquest text absurd, el model produeix sovint avions."
En el seu tuit, Daras va assenyalar que quan se li va demanar a DALLE-2 que subtitulés una conversa entre dos grangers, els va mostrar parlant, però les bafarades s'omplien d'allò que semblaven paraules sense sentit. Però Daras va descobrir que les paraules semblaven tenir el seu propi significat per a l'IA: els grangers parlaven de verdures i ocells.
Nicola Davolio, el CEO de l'empresa tecnològica Hupry, que treballa amb IA, va explicar a Lifewire en una entrevista per correu electrònic que el llenguatge es basa en símbols que el sistema DALL-E2 ha après a associar amb determinats conceptes. Per exemple, el símbol de "gos" pot estar relacionat amb la imatge d'un gos, mentre que el símbol de "gat" pot estar associat amb la imatge d'un gat. DALL-E2 ha creat el seu llenguatge perquè li permet comunicar-se de manera més eficaç amb altres sistemes d'IA.
Els trencaclosques com el vocabulari aparentment amagat de DALL-E2 són divertits de lluitar, però també destaquen preguntes més pesades…
"L'idioma està format per símbols que semblen jeroglífics egipcis i no sembla tenir cap significat específic", va afegir. "Probablement els símbols no tenen sentit per als humans, però tenen molt sentit per al sistema d'IA, ja que s'ha entrenat en milions d'imatges."
Els investigadors creuen que el sistema d'IA va crear el llenguatge per ajudar-lo a entendre millor les relacions entre imatges i paraules, va dir Davolio.
"No estan segurs per què el sistema d'IA va desenvolupar el seu llenguatge, però sospiten que pot tenir alguna cosa a veure amb com estava aprenent a crear imatges", va afegir Davolio. "És possible que el sistema d'IA desenvolupi el seu llenguatge per fer que la comunicació entre diferents parts de la xarxa sigui més eficient."
Misteris AI
DALL-E2 no és l'únic sistema d'IA que ha desenvolupat el seu llenguatge intern, va assenyalar Davolio. L'any 2017, el sistema AutoML de Google va crear una nova forma d'arquitectura neuronal anomenada "xarxa infantil" després de deixar-se decidir la millor manera de completar una tasca determinada. Aquesta xarxa infantil no va poder ser interpretada pels seus creadors humans.
"Aquests exemples són només alguns casos en què els sistemes d'IA han desenvolupat maneres de fer coses que no podem explicar", va dir Davolio. "És un fenomen emergent que és fascinant i alarmant en la mateixa mesura. A mesura que els sistemes d'IA es tornen més complexos i autònoms, és possible que ens trobem cada cop més en la posició de no entendre com funcionen."
O'Neill va dir que no creu que DALL-E2 estigui creant el seu propi llenguatge. En canvi, va dir que el motiu de l'aparent invenció lingüística és probablement una mica més prosaic.
"Una explicació plausible és una oportunitat aleatòria; en un model tan gran, podria aplicar-se una mica de la Llei de Murphy: si pot passar una cosa estranya, probablement ho farà", va afegir O'Neill. Una altra possibilitat suggerida per l'analista d'investigació Benjamin Hilton en un fil de Twitter on discuteix les troballes de Daras és que la forma de la frase "apoploe vesrreaitais" imite la forma d'un nom llatí per a un animal. Així que el sistema ha generat un nou ordre d'Aves, va afegir O'Neill.
"Els trencaclosques com el vocabulari aparentment amagat de DALL-E2 són divertits de lluitar, però també destaquen qüestions més pesades sobre el risc, el biaix i l'ètica en el comportament sovint inescrutable dels grans models", va dir O'Neill..
