ANTONIO MACHADO, LOS EMBEDDINGS Y LA MATRIX
En septiembre de hace casi un año estuve en Soria mirando el atardecer en las orillas del Duero. Me imaginé esto que escribo a continuación. Solo deciros que Antonia no existe, Rodolfo tampoco.
Era una mañana de septiembre en Soria, de esas en que el Duero baja tranquilo y verde oscuro entre los chopos amarilleando en las orillas, y el aire huele a tomillo y a piedra mojada de la noche anterior. Rodolfo Campanario y Antonia Azueras estaban sentados en el pretil del puente de piedra que cruza el río hacia la ermita de San Saturio, con los pies colgando sobre el agua y un termo de café entre los dos.
Antonia había preguntado, por tercera vez en el mes, cómo una IA manipulaba los textos, cómo demonios entendía una máquina lo que leía. Y Rodolfo, que trabajaba procesando datos y tenía la paciencia de los hombres que han explicado cosas difíciles muchas veces y han aprendido que la prisa no sirve para nada, había dicho aquello tan lorquiano: ven el sábado a la atardecida al río y te lo cuento bien...
Aquel sábado seguía siendo septiembre, y Rodo, como así le llamaban, esperaba embarcar a Antonita en sus explicaciones, por lo que llegó lleno de conceptos masticados y dispuesto a impresionarla.
Rodolfo sacó del bolsillo una hoja doblada en cuatro. La desplegó sobre el pretil, sujetándola con una piedra para que no se la llevara el leve viento que bajaba del Pico Frentes.
— Voy a usarte un poema — dijo —. De Machado. Que vivió por aquí, por Soria, y la conocía mejor que nadie.
Antonia miró los versos de la hoja y los leyó en voz alta, entonándolos:
— "Mediaba el mes de julio. Era un hermoso día..."
— Ese mismo. Ahora imagínate que eres una máquina y alguien te da ese texto. ¿Qué haces con él?
— Leerlo — dijo Antonia.
— No. Tú no sabes leer. Eres una máquina. Solo sabes contar. Los procesadores solo cuentan un todo o un nada, un uno o un cero.
— Te explico el primer paso — dijo Rodolfo —. La tokenización. No te olvides de la palabreja.
Señaló el río.
— ¿Ves cómo el Duero trae el agua desde arriba, desde Urbión, y la va rompiendo en pequeñas corrientes cuando pasa entre las piedras del fondo?
— Sí.
— Pues eso es la tokenización. El texto llega entero, como el río, y la máquina lo rompe en trozos pequeños. Los llama tokens. Pueden ser palabras, sílabas, trozos de palabras, puntos, comas. Depende del sistema. Pero siempre rompe. Siempre divide.
Rodolfo cogió un bolígrafo y empezó a marcar con rayas inclinadas el primer verso sobre la hoja:
Mediaba / el / mes / de / julio / . / Era / un / hermoso / día / .
— Mira. Cada palabra es un token. El punto también es un token. La coma también. La máquina no sabe que "julio" es un mes de verano, no sabe que "hermoso" es un elogio. Solo sabe que son piezas. Como si cogieras el poema y lo cortaras con tijeras, palabra por palabra, y pusieras cada trozo en un cajoncito distinto. En este verso, si los cuentas, serían aproximadamente once tokens.
— Qué manera de destrozar a Machado — dijo Antonia.
— Para entenderlo, primero hay que desmontarlo. Como los relojes.
— Y mira, Antonia, el segundo paso son los números.
Un martín pescador cruzó el río en línea recta, de orilla a orilla, como una flecha azul y naranja. Los dos lo miraron un instante.
— Ahora — dijo Rodolfo —, ahora imaginate que la máquina tiene los cajoncitos con las piezas, los tokens. Pero ya sabes, no puede trabajar con palabras. Solo con números. Así que convierte cada token en un número.
— ¿Cómo?
— Imagínate que tienes un diccionario gigantesco donde a cada palabra del mundo le corresponde un número. Por ejemplo, "Mediaba" es el número 47.832. "Julio" es el 91.204. "Hermoso" es el 33.617. La máquina ha aprendido ese diccionario leyendo miles de millones de textos, todo lo que los humanos hemos escrito desde que existe internet. Y cuando ve una palabra, la busca en el diccionario y saca su número. Eso es un trabajo descomunal. Por eso los centros de datos nos van a consumir el agua, la electricidad y los recursos. Imagínate que en este momento, entre todos los grandes fabricantes de IA, se están manipulando para entrenamiento bloques del orden de los 6,3 billones de tokens — 6.300.000.000.000 — por cada uno de los ocho grandes del mercado. Y eso sin contar las once empresas chinas dedicadas al tema.
— Como un código — dijo Antonia.
— Exactamente. Un código dirigido por un algoritmo que observa qué combinaciones aparecen con mucha frecuencia. El poema entero se convierte en una lista de números. Una ristra larga de cifras que para nosotros no significan nada pero para la máquina es el poema completo.
Antonia miró el río, un poco perdida en la infinitud de esas cifras, y preguntó:
— Pero ¿qué es un algoritmo?
— Para que lo entiendas fácil: un algoritmo es, sencillamente, una serie de instrucciones ordenadas para conseguir un resultado. Piensa en una receta de cocina. Si quieres hacer una tortilla: rompes los huevos, los bates, añades sal, calientas la sartén, añades los huevos, esperas, das la vuelta, sirves. Eso es, en esencia, un algoritmo: unas instrucciones que, siguiendo determinados pasos, transforman lo que tienes al principio en un resultado.
— Vaya — murmuró Antonia —. Ahora una tortilla.
— Y qué raro, Machado convertido en números.
— Sí. Pero espera, que ahora viene lo bueno. El tercer paso: el embedding. Otra palabreja.
Rodolfo, ya algo romántico y seguro de que estaba impresionando, señaló la orilla de enfrente, donde los chopos formaban una hilera larga y amarilla que se reflejaba en el agua.
— ¿Ves los árboles?
— Los chopos. Sí.
— ¿Y ves que están juntos, todos seguidos, porque son del mismo tipo?
— Sí.
— Pues el embedding es algo parecido. La máquina no se conforma con darle un número a cada palabra. Eso es demasiado simple. Lo que hace es colocar cada palabra en un espacio, como si fuera un mapa, pero un mapa de muchas dimensiones. Cientos de dimensiones. No podemos imaginarlo, porque nosotros solo vemos tres, pero la máquina trabaja en cientos a la vez. Lo que en bachillerato llamaban matrices.
— No entiendo eso de las dimensiones.
— No te preocupes. Piénsalo así: en ese mapa, las palabras que significan cosas parecidas quedan cerca unas de otras. "Romero", "tomillo", "salvia" y "espliego" — que Machado menciona en el poema — quedan muy juntas, porque todas son plantas aromáticas de monte. "Julio" y "verano" quedan cerca. "Sol" y "fuego" quedan cerca, porque en el poema Machado dice "un sol de fuego" y la máquina ha aprendido que esas dos palabras aparecen juntas muchas veces.
— Como vecinos.
— Como vecinos. Las palabras tienen vecindarios. Y el embedding es el proceso de encontrar dónde vive cada palabra en ese mapa enorme, casi infinito.
Antonia quedó pensativa, llena de dudas.
— ¿Y cómo sabe la máquina dónde poner cada palabra?
— Aprendiendo. Leyendo millones de textos y observando qué palabras aparecen juntas, en qué contextos, con qué otras palabras al lado. Si "romero" siempre aparece cerca de "monte", de "olor" y de "campo", la máquina aprende que esas palabras viven en el mismo barrio. No se lo dice nadie. Lo descubre sola, contando.
— Y mira, un cuarto paso para hablar de las matrices. El Matrix, como en la película.
Rodolfo cogió el bolígrafo y dibujó en el margen de la hoja una cuadrícula pequeña, filas y columnas llenas de números imaginarios.
— Esto es una matriz. Una tabla de números. Cuando la máquina procesa el poema entero, construye una matriz enorme donde cada fila es un token — una palabra — y cada columna es una de esas dimensiones del mapa. Así que cada palabra no es ya un solo número, sino una fila entera de números, cientos de ellos, que describen exactamente dónde vive esa palabra en el espacio, qué vecinos tiene y a qué se parece.
— Es como las coordenadas de un sitio en el mapa.
Rodolfo la miró.
— Exactamente eso. Como la latitud y la longitud, pero con doscientas o miles de coordenadas en lugar de dos. Eso permite describir el significado de una palabra con una precisión que con un solo número es imposible.
Desde el puente se veía río abajo la ermita de San Saturio, pegada a la roca como si hubiera crecido de ella, con el Duero doblando la curva a sus pies. Antonia la miró un momento.
— Machado venía mucho por aquí — dijo.
— Todos los días, dicen. Paseaba por la orilla.
— Y ahora su poema es una matriz de números. Un Matrix.
— Ahora su poema es una matriz de números que una máquina puede entender. Que no es lo mismo que sentir, Antonia. Que no es lo mismo que sentir.
— Por eso te voy a hablar ahora del quinto paso: las asociaciones. Que no tienen ningún sentimiento.
El viento movió los chopos al otro lado del río con un sonido suave, como páginas pasando.
— Con esa matriz — dijo Rodolfo —, la máquina puede hacer algo extraordinario. Puede entender las relaciones entre las palabras. No solo qué significa cada una por separado, sino cómo se relacionan dentro de la frase.
— ¿Cómo?
— Mira este verso: "hollando las hierbas montaraces de fuerte olor, romero, tomillo, salvia, espliego." La máquina ve "hierbas", "olor", "romero", "tomillo", "salvia", "espliego" y entiende que todas esas palabras están hablando de lo mismo, que forman un grupo, que se refuerzan entre sí. Pero también ve "hollando", que significa pisar, y entiende que hay alguien que camina sobre esas hierbas. Y ve "fuerte", y lo asocia con "olor", no con "hierbas", porque en su mapa "fuerte olor" aparece junto miles de veces y "hierbas fuertes" mucho menos.
— Distingue qué palabra modifica a cuál.
— Sí. Y eso es lo más difícil. Para eso usa lo que se llama atención: un mecanismo que hace que cada palabra del texto mire a todas las demás y decida cuáles son más importantes para entender su propio significado en ese contexto concreto. "Sol" en este poema mira a "fuego", a "campos" y a "caía", y entiende que se habla de un sol de verano abrasador, no de un sol de invierno tibio.
— El contexto.
— El contexto lo es todo. La misma palabra en un contexto distinto significa cosas distintas. Y la máquina lo sabe porque ha aprendido que las palabras no viven solas sino en compañía, y que la compañía lo cambia todo.
Antonia miró el poema en la hoja.
— "Sobre los agrios campos caía un sol de fuego" — leyó despacio —. ¿Y la máquina siente el calor?
— La máquina sabe que "sol de fuego" en un poema de julio en Castilla está asociado a calor, a sequedad, a esfuerzo, a sed. Lo sabe porque ha leído a Machado y a otros mil que han descrito ese mismo sol de esa misma manera. Pero sentirlo — dijo, mirando el río —, eso es otra cosa.
— ¿Qué cosa?
Rodolfo dobló la hoja y la guardó en el bolsillo.
— Eso es lo que tú y yo tenemos y la máquina no. Haber estado alguna vez bajo un sol así, en un campo agrio, con la frente empapada y el pecho jadeante, buscando sombra. Eso no cabe en ninguna matriz.
Se quedaron los dos en silencio un momento, mirando el Duero pasar, verde y lento, camino de Zamora y de Portugal y del mar.
— ¿Y para qué sirve todo eso? — preguntó Antonia al rato —. La tokenización, el embedding, las matrices, las asociaciones. ¿Para qué?
— Para que una máquina pueda leer este poema y entender que habla de un hombre solo subiendo un monte en julio, con calor, con esfuerzo, buscando algo que quizás no sabe que está buscando. Para que pueda traducirlo a otro idioma sin perder el peso de ese sol. Para que pueda responder preguntas sobre él, resumirlo, compararlo con otros poemas, encontrar en él ecos de otros textos que Machado leyó y que dejaron su huella sin que él lo supiera.
— Como lo que hace un buen lector.
— Como lo que intenta hacer un buen lector. Con la diferencia de que el buen lector, cuando lee "buscando los recodos de sombra, lentamente", sabe lo que es tener calor. Y eso cambia todo lo demás.
Bajaron del pretil cuando el sol ya estaba alto sobre el Pico Frentes y el río brillaba con ese brillo agrisado de la atardecida en Soria. Caminaron por la orilla hacia el centro, por el paseo del Mirón, con los chopos al lado y el agua al otro.
Antonia llevaba la hoja del poema doblada en el bolsillo.
— Una última pregunta — dijo.
— Dime.
— Machado. Cuando escribió esto. ¿Crees que se imaginaba lo más mínimo que un día una máquina iba a convertir sus poemas en números?
Rodolfo caminó unos pasos en silencio.
— No. Él solo sabía que subía un monte con calor y que necesitaba contarlo. Y lo contó tan bien que muchísimos años después seguimos aquí, tú y yo, a orillas del mismo río, intentando entender qué dijo y cómo lo dijo.
— Eso no lo puede hacer una máquina.
— No — dijo Rodolfo —. Eso lo hacemos nosotros. Y por eso todavía somos necesarios.
El Duero seguía pasando, igual que en julio del poema, igual que cuando Machado lo paseaba de noche pensando en Leonor, igual que seguiría pasando cuando ninguno de los tres — ni Rodolfo, ni Antonia, ni la máquina — estuvieran ya aquí para contarlo.

Comentarios