A Primer on Computational Semantics for Artificial Intelligence Systems
Este artículo proporciona una introducción a la semántica computacional mediante la exploración de las teorías formales, fundamentadas y distribucionales del significado para ayudar a los lectores a comprender cómo los modelos de lenguaje basados en transformadores aprenden y representan el lenguaje en comparación con los humanos.
Artículo original bajo licencia CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo
El lenguaje es lo más humano que poseemos, una herramienta que utilizamos para compartir pensamientos, sentimientos y planes unos con otros. Sin embargo, a pesar de usarlo a diario, la mayoría de nosotros no podemos explicar cómo funciona realmente o qué significa verdaderamente cuando decimos una palabra como "rojo". Conocemos el color cuando lo vemos, pero no podemos definirlo fácilmente sin señalar al mundo que nos rodeja. Esta brecha entre usar el lenguaje y comprender su mecánica es el rompecabezas central que enfrentan los científicos que estudian cómo las máquinas aprenden a hablar. Durante décadas, los investigadores han intentado enseñar a las computadoras a entender el significado alimentándolas con lógica, reglas o vastas cantidades de texto. Pero una nueva perspectiva sugiere que a estas máquinas les falta algo fundamental: la experiencia física de estar vivo. Para entender por qué una computadora puede sonar como una persona pero no pensar como una, debemos observar cómo los humanos aprenden el lenguaje como niños y compararlo con la forma en que se construyen los sistemas de inteligencia artificial hoy en día.
Este artículo, escrito por Casey Kennington de la Universidad Estatal de Boise, sirve como una guía a través de las diferentes formas en que los científicos han intentado definir y computar el significado. El autor sostiene que, si bien la inteligencia artificial moderna, específicamente los poderosos modelos detrás de herramientas como ChatGPT, puede imitar la conversación humana con una precisión sorprendente, no entienden el lenguaje de la misma manera que los humanos. El artículo explora tres formas principales en las que los investigadores han intentado enseñar a las máquinas sobre el significado: utilizando la lógica estricta, conectando las palabras con experiencias físicas y analizando cómo las palabras aparecen una al lado de la otra en el texto. Kennington encuentra que, si bien el tercer método —aprender de los patrones de texto— es actualmente el más exitoso para producir un habla fluida, deja un vacío crítico. Las máquinas entrenadas solo en texto nunca han visto una manzana roja, sentido el peso de una silla o experimentado el alivio de beber agua. Sin estas conexiones físicas y emocionales, las palabras que procesan siguen siendo símbolos sin base, carentes del profundo y vivido significado que poseen los humanos.
Para entender el problema, primero hay que observar cómo aprenden los humanos. Cuando un niño aprende la palabra "perro", no comienza con una definición de diccionario. Aprende a través de la interacción. Un padre señala a un animal peludo, el niño lo mira y la palabra se vincula con la vista, el sonido y la sensación del animal. Este proceso depende de la atención compartida y la presencia física. El niño aprende que las palabras se refieren a cosas reales en el mundo, y que estas cosas tienen usos específicos, como sentarse en una silla o patear una pelota. Esta conexión entre una palabra y la realidad física que describe se llama fundamentación (grounding). Para los humanos, el significado no es solo una lista de definiciones; está ligado a nuestros cuerpos, nuestros sentidos y nuestras emociones. Sabemos lo que significa la "sed" porque la hemos sentido, y sabemos lo que es una "silla" porque nos hemos sentado en una.
Durante mucho tiempo, los científicos de la computación intentaron enseñar a las máquinas a entender el lenguaje usando la lógica formal, similar a la matemática utilizada en la ingeniería. Trataban las palabras como variables en una ecuación, donde "grande", "gris" y "elefante" podían combinarse para crear una declaración lógica sobre un animal específico. Este enfoque funciona bien para las computadoras porque es preciso e inequívoco. Sin embargo, falla cuando se trata del mundo real y desordenado. Una computadora que sigue estas reglas puede saber que un "elefante gris" es un elefante que es gris, pero no sabe cómo se ve el gris ni qué se siente ser un elefante. Tiene la estructura del significado, pero no la sustancia. El artículo señala que este enfoque choca contra un muro porque la máquina no tiene forma de saber a qué se refieren realmente las palabras en el mundo físico.
Otro enfoque, conocido como semántica fundamentada, intenta solucionar esto conectando las palabras con datos sensoriales. En esta visión, una computadora debería aprender qué significa "rojo" mirando imágenes de objetos rojos, o qué significa "patear" viendo un video de un pie golpeando una pelota. La idea es que si una máquina puede ver y tocar el mundo, puede construir un diccionario de significados que coincida con la experiencia humana. Aunque este es un paso prometedor, el artículo señala que es difícil de implementar. La mayoría de los sistemas actuales todavía dependen fuertemente del texto, e incluso cuando utilizan imágenes, a menudo pierden la gama completa de la experiencia humana, como el olfato, el tacto o la sensación de la memoria muscular. Una máquina puede reconocer la imagen de una silla, pero no conoce el alivio de sentarse después de una larga caminata.
El método más dominante en la inteligencia artificial moderna se llama semántica distributiva. Este enfoque se basa en una idea simple: puedes entender una palabra observando la compañía que mantiene. Si la palabra "manzana" aparece a menudo cerca de palabras como "rojo", "fruta" y "pastel", la computadora aprende que "manzana" está relacionada con esos conceptos. Al analizar miles de millones de frases, estos sistemas construyen un mapa donde las palabras con significados similares se ubican cerca unas de otras. Este método ha llevado a la creación de grandes modelos de lenguaje que pueden escribir historias, responder preguntas y traducir idiomas con una fluidez increíble. Estos modelos son entrenados en vastas cantidades de texto de internet, aprendiendo a predecir la siguiente palabra en una oración basándose en las palabras que le precedieron.
Sin embargo, el artículo argumenta que este éxito conlleva un costo oculto. Debido a que estos modelos aprenden solo de texto, nunca experimentan el mundo directamente. Nunca han visto un atardecer, probado una fresa o sentido el dolor de un golpe en el dedo del pie. Saben que "manzana" está relacionada con "rojo" porque han visto esas palabras juntas en libros y artículos, pero no saben cómo se ve el rojo ni a qué sabe una manzana. El autor utiliza el ejemplo de preguntarle a un modelo de lenguaje si alguna vez ha visto una manzana. El modelo dirá con la verdad que no, porque nunca ha visto nada. Solo ha procesado los símbolos. Esto crea una situación en la que la máquina puede hablar del mundo perfectamente, pero no entiende el mundo. Es como una persona que ha leído todos los libros sobre natación pero que nunca ha tocado el agua.
El artículo también destaca el papel de la emoción y la intención en el lenguaje humano. Cuando hablamos, no solo intercambiamos datos; estamos expresando sentimientos, deseos y metas. Un niño aprende a hablar porque tiene la necesidad de comunicarse con otros, de obtener ayuda o de compartir alegría. Este impulso está ligado a nuestros cuerpos y nuestras emociones. Los modelos de lenguaje actuales no tienen sentimientos ni intenciones. No pasan hambre, ni cansancio, ni curiosidad. No hablan porque quieran hacerlo; hablan porque están programados para predecir la siguiente palabra. El autor sugiere que, sin estos impulsos internos y conexiones emocionales, las máquinas siempre tendrán dificultades para captar los significados más profundos y matizados del lenguaje que los humanos damos por sentados.
La conclusión del artículo es que, si bien la inteligencia artificial ha logrado avances notables en el procesamiento del lenguaje, aún no ha resuelto el problema de la comprensión del significado. Los modelos actuales son herramientas poderosas que pueden imitar la conversación humana, pero carecen de la experiencia corporal que da a las palabras su verdadero peso. Para avanzar, el autor sugiere que necesitamos combinar las fortalezas de diferentes enfoques. Necesitamos sistemas que no solo puedan analizar texto, sino también interactuar con el mundo físico, sentir emociones y tener intenciones. Hasta que las máquinas puedan experimentar el mundo de la misma manera que los humanos, su comprensión del lenguaje seguirá siendo incompleta. Seguirán siendo excelentes en el uso de las palabras, pero nunca conocerán verdaderamente lo que esas palabras significan.
¿Ahogado en artículos de tu campo?
Recibe resúmenes diarios de los artículos más novedosos que coincidan con tus palabras clave de investigación — con resúmenes técnicos, en tu idioma.