🤖 machine learning

When Bigger is Worse: A Practitioner's Guide to Model Selection Under Data Scarcity

Este artículo desafía la suposición prevaleciente de la ley de escala en la observación de la Tierra al demostrar que, bajo condiciones de escasez de datos, modelos más pequeños como YOLO11N entrenados con entradas de alta resolución superan significativamente a modelos más grandes tanto en eficiencia como en precisión, invirtiendo efectivamente el paradigma tradicional de que "más grande es mejor".

Autores originales: Kwame Mbobda-Kuate, Gabriel Kasmi

Publicado 2026-07-20

📖 4 min de lectura☕ Lectura para el café

CC BY 4.0

Autores originales: Kwame Mbobda-Kuate, Gabriel Kasmi

Artículo original bajo licencia CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo

Imagina que estás intentando enseñarle a un robot a reconocer cosas diminutas y específicas en un álbum de fotos enorme y desordenado. En el mundo de la inteligencia artificial, existe una regla de oro muy popular que todo el mundo sigue: "Más grande es mejor". Esta idea, conocida como escalabilidad, sugiere que si construyes un cerebro gigante y súper complejo para tu robot y lo alimentas con una biblioteca llena de millones de fotos, siempre será más inteligente que un cerebro más pequeño con menos fotos. Es como asumir que una enciclopedia gigante de 500 páginas siempre te ayudará a encontrar una respuesta más rápido y con mayor precisión que un pequeño folleto de 10 páginas, sin importar lo que estés buscando. Esta regla funciona increíblemente bien cuando tienes cantidades infinitas de datos, como en el procesamiento del lenguaje donde las computadoras leen todo el internet. Pero, ¿qué sucede cuando te encuentras en una situación donde los datos son escasos, caros de obtener y las cosas que buscas son motas diminutas en un paisaje vasto? Esa es la pregunta que plantea este artículo. Explora si la regla de "más grande es mejor" sigue siendo válida cuando trabajas con recursos limitados y tratas de detectar objetos pequeños, como paneles solares en los tejados, desde imágenes satelitales.

Los autores de este artículo decidieron poner a prueba esta idea de "más grande es mejor" en un escenario específico del mundo real: encontrar paneles solares en los tejados de Madagascar. Sabían que en muchos países en desarrollo, obtener datos de alta calidad y etiquetados es difícil y costoso, y que las computadoras disponibles para ejecutar estos modelos suelen ser pequeñas y débiles. Establecieron un experimento masivo utilizando una familia de modelos de IA llamada YOLO11, que vienen en cinco tamaños diferentes, que van desde una versión diminuta y ligera (YOLO11N) hasta una versión masiva y de alta potencia (YOLO11X). No se limitaron a entrenar estos modelos una sola vez; crearon 180 ejecuciones de entrenamiento diferentes combinando y mezclando tres elementos: el tamaño del modelo, la cantidad de datos que le suministraron (desde el 10% del conjunto de datos total hasta el 100%) y la resolución de las imágenes (qué tan nítida es la imagen, variando de 416 píxeles a 1280 píxeles).

Los resultados fueron una sorpresa total para la forma habitual de pensar. El artículo encontró que, en este mundo de escasez de datos, más grande es en realidad peor. El modelo más pequeño, el diminuto YOLO11N, resultó ser el campeón de la eficiencia. Logró casi la misma precisión que los modelos mucho más grandes, pero utilizó 22 veces menos espacio de almacenamiento. De hecho, el modelo diminuto fue tan bueno que alcanzó la segunda puntuación de precisión más alta posible (0.459), la cual es estadísticamente indistinguible de la del modelo más grande y mejor desempeñado. El masivo YOLO11X, que es 22 veces más grande, funcionó igual de bien o peor, mientras exigía una enorme cantidad de potencia de cómputo y memoria. Los autores explican que esto sucede porque los modelos grandes están "sobreparametrizados": tienen demasiadas células cerebrales para la cantidad de información que reciben, lo que hace que se confundan y fallen al generalizar, de forma muy similar a un estudiante que intenta memorizar una enciclopedia entera para un examen que solo tiene tres preguntas.

Quizás el descubrimiento más práctico fue sobre dónde gastar tu dinero y esfuerzo. Los investigadores descubrieron que, si tienes un presupuesto limitado, no deberías comprar más datos o un modelo más grande; en su lugar, deberías comprar imágenes más nítidas. Aumentar la resolución de la imagen de 416 píxeles a 1280 píxeles proporcionó un enorme impulso en el rendimiento, mucho más de lo que añadir simplemente más fotos de baja resolución podría haber logrado jamás. Esto se debe a que los paneles solares diminutos son tan pequeños que, a baja resolución, parecen manchas borrosas; ninguna cantidad de datos extra puede arreglar una imagen borrosa, pero una imagen más nítida hace que los detalles sean visibles de inmediato. El artículo concluye que, para este tipo de tarea, la mejor estrategia es elegir el modelo lo más pequeño posible, utilizar las imágenes de la resolución más alta que puedas obtener y luego usar cualquier recurso restante para etiquetar más de esas imágenes nítidas. En este rincón específico de la observación terrestre, la vieja regla se invierte: lo pequeño, nítido y eficiente vence a lo grande, borroso y costoso en todo momento.

Resumen Técnico: Cuando lo más grande es peor – Una guía para profesionales sobre la selección de modelos bajo escasez de datos

Planteamiento del problema
El paradigma predominante en visión computacional, impulsado por las leyes de escalabilidad, asume que los modelos más grandes entrenados con conjuntos de datos más grandes producen consistentemente un rendimiento superior. Esta suposición, validada en dominios ricos en datos como el procesamiento de lenguaje natural (NLP), se importa a menudo en la observación de la Tierra (EO) sin verificación. Sin embargo, los entornos de EO —particularmente en países en desarrollo— están estructuralmente caracterizados por la escasez de datos debido a la costosa anotación dependiente de expertos y a una distribución de datos geográficamente desigual. Además, los despliegues operativos en estas regiones enfrentan restricciones severas de cómputo, lo que hace que los modelos grandes sean impracticables independientemente de su precisión bruta. En este régimen, la métrica relevante cambia de la precisión bruta a la eficiencia (rendimiento por unidad de recurso). Existe una brecha crítica en la literatura respecto a la optimización conjunta del tamaño del modelo, el volumen de datos y la resolución de entrada bajo estas restricciones específicas. Los estudios existentes abordan estas dimensiones de forma aislada o asumen abundancia de datos, dejando a los profesionales sin una orientación basada en principios para la asignación de recursos.

Metodología
Los autores llevan a cabo un análisis sistemático de eficiencia utilizando la familia de modelos YOLO11 en una tarea de detección de paneles fotovoltaicos (PV) en tejados en Madagascar. El estudio utiliza el conjunto de datos OpenStat Madagascar, una colección de imágenes de drones de origen colaborativo (90% de los datos) que contiene 8,977 imágenes y 130,500 objetos solares anotados. El conjunto de datos se caracteriza por objetos pequeños (el 64% de las cajas delimitadoras tienen un área normalizada < 0.01) y condiciones de adquisición heterogéneas.

El diseño experimental es una cuadrícula factorial a través de tres dimensiones de escalado:

Complejidad del modelo: Cinco variantes de YOLO11 (N, S, M, L, X) que oscilan entre 2.6M y 57.0M de parámetros (un rango de tamaño de 22×).
Fracción del conjunto de datos: Entrenamiento con el 10%, 25%, 50% y 100% de los datos disponibles (897 a 8,977 imágenes).
Resolución de entrada: Tres resoluciones: 416 px, 640 px y 1280 px.

Esto resulta en 60 configuraciones únicas, cada una ejecutada con tres semillas aleatorias para un total de 180 ejecuciones de entrenamiento. Todos los modelos se inicializan con pesos preentrenados de COCO y se entrenan con hiperparámetros idénticos.

Métricas clave
La métrica principal es la Eficiencia del Modelo, definida como $Eff = 10 \times \frac{mAP50}{Tamaño del Modelo (MB)}$ . Esta métrica prioriza el rendimiento por unidad de almacenamiento, que es la restricción crítica para el despliegue en el borde (edge). El análisis secundario incluye el rendimiento de inferencia (FPS) para evaluar el compromiso entre precisión y velocidad, así como la relación de sobreparametrización ( $\rho = \text{parámetros} / N_{entrenamiento}$ ) para analizar el comportamiento de generalización.

Resultos clave

Inversión de Eficiencia: Contrario a las leyes de escalabilidad, el modelo más pequeño, YOLO11N (2.6M de parámetros), logra la mayor eficiencia (22× mayor que la variante más grande, YOLO11X). Crucialmente, YOLO11N alcanza un mAP50 absoluto de 0.459, el cual es estadísticamente indistinguible del mejor YOLO11S (0.464) y supera significativamente a todos los modelos más grandes.
Dominancia de Pareto: En el espacio conjunto de precisión-rendimiento, los modelos pequeños entrenados a alta resolución (1280 px) ocupan el ápice de la frontera de Pareto. Maximizan simultáneamente la precisión de detección y la velocidad de inferencia. No hay un compromiso (tradeoff) que resolver; seleccionar un modelo más grande o una resolución menor no aporta ningún beneficio en ninguna de las dos dimensiones.
Resolución vs. Volumen de Datos: Mientras que aumentar el volumen de datos del 10% al 100% a baja resolución (416 px) produce una ganancia de eficiencia modesta del 10%, aumentar la resolución de 416 px a 1280 px con el 10% de los datos produce una ganancia comparable del 8%. Sin embargo, la resolución es el factor dominante porque desbloquea techos de rendimiento absoluto que el volumen de datos por sí solo no puede alcanzar (una brecha de 8.7% en mAP50 entre 416 px y 1280 px con el total de los datos).
Mecanismo de Inversión: La inversión de rendimiento se atribuye al compromiso entre sesgo y varianza en un régimen de escasez de datos. Los modelos más grandes están sistemáticamente sobreparametrizados en relación con los datos disponibles (alto $\rho$ ), lo que conduce al subajuste (underfitting) y a una pobre generalización. Además, el preentrenamiento de COCO no proporciona un prior explotable para este dominio específico (mAP50 de cero-disparo $\leq$ 0.004), lo que significa que los modelos más grandes no pueden aprovechar el preentrenamiento para compensar la escasez de datos.

Significancia y Contribuciones
El artículo afirma proporcionar el primer análisis sistemático que caracteriza conjuntamente el tamaño del modelo, la fracción del conjunto de datos y la resolución de entrada en un entorno de EO con escasez de datos. Sus principales contribuciones son:

Evidencia Empírica: Demostrar que la premisa de escalabilidad de "más grande es mejor" se invierte en la EO con escasez de datos, donde los modelos pequeños dominan tanto en eficiencia como en precisión absoluta.
Explicación Mecanística: Fundamentar esta inversión en la teoría de la sobreparametrización y la ausencia de transferencia de dominio, mostrando que los modelos más grandes están sistemáticamente subentrenados en relación con su capacidad en este régimen.
Guías Prácticas: Ofrecer una estrategia clara de asignación de recursos para profesionales: seleccionar el modelo más pequeño consistente con los requisitos de la tarea, maximizar la resolución de entrada y, solo entonces, invertir el presupuesto restante en anotaciones adicionales.
Robustez: Mostrar que estos hallazgos se mantienen independientemente de si el objetivo de despliegue prioriza la eficiencia de almacenamiento estático o el rendimiento de inferencia en tiempo real.

Los autores concluyen que en la EO con escasez de datos, donde fallan las asunciones de abundancia de datos y de transferencia de dominio, la dependencia por defecto en modelos grandes es subóptima. En su lugar, se requiere un análisis de eficiencia basado en principios que favorezca las configuraciones de modelos pequeños y alta resolución.

Más como este