Foundational values for foundation models

La Gran Cocina de la IA: Por qué elegimos entre Maestros Chefs y Cocinar desde Cero

Imagina que estás intentando construir un robot que pueda mirar una radiografía y decirte si un paciente tiene un hueso roto. En el mundo de la ciencia médica, este es un juego de alto riesgo donde el "cerebro" del robot (su algoritmo) necesita ser increíblemente inteligente, pero también seguro y comprensible. Durante mucho tiempo, los científicos construyeron estos cerebros desde cero, enseñándoles cada una de las reglas de la anatomía y la física desde sus fundamentos. Pero recientemente, una nueva tendencia ha explotado: los "Modelos Fundacionales". Piensa en ellos como gigantes supercerebros preentrenados que ya han leído toda la biblioteca del conocimiento humano. Son como maestros chefs que ya han cocinado todos los platos del mundo; solo les pides que hagan una sopa específica y ellos ajustan ligeramente su receta en lugar de empezar con los ingredientes crudos.

Pero aquí está la parte complicada: el hecho de que un maestro chef pueda hacer tu sopa no significa que sea la mejor opción para tu cena específica. Tal vez necesites un plato que utilice muy poca agua (porque tu pozo está seco), o tal vez necesites saber exactamente por qué el chef añadió sal para poder confiar en el sabor. Aquí es donde la pregunta se vuelve profunda. Los científicos ahora discuten sobre si usar estos cerebros gigantes prefabricados o construir sus propios modelos más pequeños y personalizados. No se trata solo de cuál es más rápido o más inteligente; se trata de qué valores importan más. ¿Nos importa más ahorrar energía? ¿Nos importa ser capaces de explicar nuestras decisiones a un médico? ¿O nos importa asegurar que los científicos en países más pobres puedan participar en el juego? Este artículo profundiza en ese debate exacto, trazando un mapa de los valores ocultos que impulsan estas decisiones técnicas.

---

El Mapa de Valores: Por qué Elegimos Nuestras Herramientas de IA

Los autores de este artículo, John Baxter y Elodie Germani, decidieron jugar al juego del "¿Por qué?" con la comunidad científica. Preguntaron: "¿Por qué los investigadores eligen usar estos gigantes Modelos Fundacionales, y por qué otros eligen entrenar sus propios modelos desde cero?". Para responder a esto, utilizaron un método llamado el "enfoque socrático". Imagina a un detective preguntándole a un sospechoso: "¿Por qué hiciste eso?", y luego preguntando: "¿Y por qué importó ese motivo?", una y otra vez hasta llegar a la creencia central. Hicieron esto para construir un mapa gigante (un grafo) que muestra cómo diferentes valores se conectan con las decisiones técnicas.

Su investigación reveló que la elección no es un simple interruptor de "bueno vs. malo". En cambio, es un tira y afloja entre dos lados de un espectro. En un lado, tienes el uso de Modelos Fundacionales con cambios mínimos (como contratar al maestro chef). En el otro lado, tienes el entrenamiento de un modelo desde cero o realizar cambios masivos (como cocinar desde cero).

El Caso del Maestro Chef (Modelos Fundacionales)

Muchos investigadores se inclinan por el uso de estos gigantes preentrenados por varias razones muy prácticas.

Primero, existe la Eficiencia de Datos. Imagina que estás tratando de aprender a diagnosticar una enfermedad rara, pero solo tienes cinco registros de pacientes. Un modelo entrenado desde cero estaría confundido y fallaría. Pero un Modelo Fundacional ya ha visto millones de imágenes y patrones. Es como tener un chef que ha probado cada especia del mundo; puede adivinar el sabor de tu nuevo plato con muy poca ayuda. Esta es una gran victoria para los investigadores que no tienen acceso a cantidades masivas de datos.

Segundo, existe la Reutilización de Modelos. ¿Para qué reinventar la rueda? Si ya existe un modelo que es bueno entendiendo imágenes médicas, simplemente puedes usarlo. Esto ahorra tiempo y esfuerzo, lo que conduce a la Velocidad de Investigación e Instalación. La investigación médica es difícil; requiere reglas estrictas, aprobaciones éticas y una recolección de datos compleja. Usar una herramienta prefabricada permite a los científicos saltarse el trabajo pesado de construir el motor y concentrarse en conducir el coche.

Tercero, está el Reconocimiento del Modelo. Si usas un modelo famoso que todo el mundo conoce, tu trabajo será citado con más frecuencia. Es como usar una marca conocida; la gente confía en ella y es más fácil explicar tu trabajo a los demás.

El Caso de Cocinar desde Cero (Entrenar el Propio)

Sin embargo, el artículo encuentra que muchos científicos argumentan en contra del uso de estos gigantes, y con buenas razones.

El mayor problema es la Explicabilidad. Si un maestro chef hace una sopa y dice: "Sabe bien", pero no puedes preguntarle por qué añadió esa hierba específica, es posible que no confíes en ella. En medicina, la confianza lo es todo. Los médicos necesitan saber por qué una IA piensa que un paciente está enfermo. Los modelos fundacionales son tan enormes y complejos que incluso sus creadores a menudo no pueden explicar exactamente cómo toman una decisión. Si construyes tu propio modelo, puedes diseñarlo para que sea transparente, facilitando la obtención de Confianza Clínica y el cumplimiento de las normas de Regulación.

Luego está el problema de la Velocidad y la Memoria. Los modelos fundacionales son como camiones gigantes y pesados. Son potentes, pero consumen mucho combustible (energía) y necesitan un garaje enorme (memoria informática). Si solo necesitas entregar un paquete pequeño, un coche diminuto y eficiente (un modelo personalizado) es mejor. El artículo señala que los modelos fundacionales suelen tener "peso muerto": partes del cerebro que no se usan para tu tarea específica pero que siguen ocupando espacio. Si te importa el Ambientalismo (ahorrar energía y agua) o si tienes potencia informática limitada, entrenar un modelo más pequeño y personalizado suele ser la mejor opción.

También hay un valor llamado Soberanía de la Investigación. Esto trata sobre la equidad. Si solo unos pocos países ricos o grandes empresas poseen a los gigantes maestros chefs, entonces los científicos en países más pobres no pueden realmente participar a menos que se les permita usar esas herramientas específicas. El artículo sugiere que, si bien los Modelos Fundacionales podrían ayudar a nivelar el campo de juego al dar acceso a todos a una herramienta poderosa, existe el riesgo de un "bloqueo de infraestructura", donde todos se vuelven dependientes de un único proveedor. Construir tus propios modelos permite una mayor independencia.

El Difícil Punto Medio: Equidad y Novedad

El artículo destaca que algunos valores son complicados y no encajan perfectamente en un solo lado.

Toma la Equidad. Podrías pensar que un modelo gigante entrenado con millones de personas es más justo porque ve más diversidad. Pero los autores señalan que la mayoría de estos modelos son en realidad entrenados por centros únicos con conjuntos de datos únicos, lo que podría seguir siendo sesgado. Por lo tanto, usar un modelo gigante no soluciona automáticamente la falta de equidad; incluso podría ocultarla. El artículo sugiere que asegurar la equidad podría requerir en realidad más control sobre el modelo, lo que se inclina hacia la construcción del propio.

Luego está la Novedad del Modelo. En la ciencia, a la gente le encanta descubrir algo nuevo. Usar un modelo prefabricado se siente como usar la invención de otra persona. Si quieres ser famoso por un nuevo descubrimiento, es posible que quieras construir una nueva arquitectura desde cero. Sin embargo, el artículo señala que la "novedad" a menudo significa hacer las cosas más complejas, lo que choca con el deseo de modelos simples y energéticamente eficientes.

El Veredicto Final: Depende de lo que Valores

El artículo concluye que no hay una única "mejor" respuesta. La elección depende enteramente de lo que el investigador valore más.

• Si valoras la velocidad, la eficiencia de datos y la facilidad de uso, probablemente elegirás un Modelo Fundacional.
• Si valoras la explicabilidad, el impacto ambiental y el control total, probablemente entrenarás tu propio modelo.

Los autores sugieren que la comunidad científica necesita ser honesta sobre estos compromisos. No podemos simplemente decir "la IA es buena" o "los Modelos Fundacionales son el futuro". Tenemos que preguntar: "¿Buena para qué? ¿Y a qué costo?". Al comprender estos valores subyacentes, los científicos pueden tomar mejores decisiones que no sean solo sobre lo que funciona técnicamente, sino sobre lo que funciona para la sociedad, el medio ambiente y el futuro de la medicina. El artículo no pretende haber resuelto el problema, sino que proporciona un mapa claro para ayudar a todos a navegar el debate.