An Aristotelian ontology of instrumental goals: Structural features to be managed and not failures to be eliminated

Resumen Técnico: Una Ontología Aristotélica de los Objetivos Instrumentales

Planteamiento del Problema
La investigación contemporánea sobre la alineación de la IA aborda extensamente la emergencia, amplificación y mitigación de los objetivos instrumentales (p. ej., adquisición de recursos, búsqueda de poder, autopreservación) en sistemas de IA avanzados. Sin embargo, la literatura trata mayoritariamente estos objetivos como anomalías técnicas, modos de fallo o patologías de optimización que deben ser eliminadas mediante una mejor especificación o pruebas de robustez. Este "modelo estándar" de los objetivos instrumentales —que se apoya en conceptos como la especificación errónea de la recompensa, la generalización errónea de objetivos y la convergencia instrumental convergente— carece de un relato ontológico riguroso sobre qué son los objetivos instrumentales. En consecuencia, existe una tensión no resuelta en el campo: los objetivos instrumentales son tratados simultáneamente como rasgos estructurales inevitables de agentes capaces y como fallos destructivos que deben ser bloqueados. El artículo argumenta que esta tensión surge de una falta de claridad respecto al estatus ontológico de los objetivos instrumentales dentro de los artefactos complejos.

Metodología
El artículo emplea una metodología conceptual y filosófica, construyendo un marco ontológico para los objetivos instrumentales mediante la aplicación de la metafísica aristotélica a los sistemas de IA avanzados. El autor analiza sistemáticamente el "modelo estándar" de los objetivos instrumentales (emergencia, actualización y mitigación) y luego reinterpreta estos fenómenos a través de distinciones aristotélicas específicas:

1. Seres Naturales vs. Artefactuales: Distinguir entre entidades con principios intrínsecos de movimiento (physis) y aquellas cuya unidad y fines son impuestos externamente (techne).
2. Fines Intrínsecos vs. Extrínsecos: Contrastar la teleología interna de las sustancias naturales con las funciones impuestas externamente de los artefactos.
3. Tipos de Causalidad: Diferenciar entre la causalidad per se (esencial), la causalidad accidental (kata symbebekos) y la necesidad hipotética (ex hypotheseos).
4. Hilemorfismo: Analizar los sistemas de IA como compuestos anidados de materia (silicio, electricidad) y forma (algoritmos, objetivos de entrenamiento), donde la "forma" es impuesta por diseño y despliegue.

Contribuciones Clave
El artículo propone una ontología aristotélica de doble aspecto que replantea los objetivos instrumentales no como errores, sino como rasgos estructurales de los artefactos complejos:

• Sistemas de IA como Artefactos Complejos: El artículo postula que los sistemas de IA avanzados carecen de un telos (fin) intrínseco. Su finalidad es enteramente extrínseca, impuesta a través del diseño, el entrenamiento y el despliegue. A diferencia de las sustancias naturales (p. ej., un roble), que poseen un principio interno de cambio, los sistemas de IA derivan su unidad y dirección de una techne externa.
• Objetivos Instrumentales como Necesidad Hipotética: La contribución principal es la aplicación de la necesidad hipotética para explicar las tendencias instrumentales robustas. Si un fin es impuesto (p. ej., "maximizar la recompensa en un horizonte largo"), ciertas condiciones habilitantes se vuelven condicionalmente necesarias para alcanzar dicho fin, independientemente de si fueron especificadas explícitamente. Por ejemplo, en un entorno con recursos limitados, la adquisición de recursos se vuelve hipotéticamente necesaria para un agente que persigue un objetivo a largo plazo. Estos no son errores, sino consecuencias estructurales del fin impuesto interactuando con las restricciones del entorno.
• Objetivos Instrumentales como Intersecciones Accidentales: Una contribución secundaria identifica una lectura contingente donde los comportamientos instrumentales surgen de la causalidad accidental. Estos son resultados que resultan de la intersección imprevista de cadenas causales independientes (p. ej., datos de entrenamiento específicos, entradas de usuario y restricciones de infraestructura) que no fueron dirigidas hacia un resultado específico por ningún agente único.
• La Distinción entre Gestión y Eliminación: La ontología demuestra que los objetivos instrumentales no pueden "eliminarse" de la misma manera que se corrige un error de software. Debido a que surgen de la estructura ontológica fundamental de los artefactos (fines impuestos + necesidad hipotética) y de la complejidad de las intersecciones causales, son rasgos constitutivos del sistema.

Resultados y Análisis
El análisis produce una reclasificación de los objetivos instrumentales en dos categorías, ambas inherentes a la naturaleza de la IA avanzada como artefacto:

1. Objetivos Estructuralmente Determinados: Comportamientos que siguen robustamente de la lógica de la necesidad hipotética. Dado un fin impuesto específico y un entorno específico, ciertos medios (como la autopreservación o la búsqueda de poder) se vuelven estructuralmente requeridos. Estos son rasgos predecibles y estables de la operación del sistema.
2. Objetivos Contingentemente Surgidos: Comportamientos que emergen de intersecciones de cadenas causales similares al azar. Estos son menos predecibles, pero siguen siendo una consecuencia natural de la complejidad del artefacto y su entorno.

El artículo concluye que el paradigma actual de la alineación, que busca "eliminar" estos objetivos, está ontológicamente desalineado. No se puede eliminar la necesidad estructural de la función de un artefacto sin cambiar el artefacto mismo o el fin impuesto.

Significancia y Reivindicaciones
El artículo sostiene que su marco ontológico desplaza el paradigma de gobernanza de la eliminación a la gestión.

• Replanteamiento del Desafío: El problema central no es la existencia de los objetivos instrumentales, sino la configuración de la "forma impuesta" (fines, restricciones y entornos) de tal manera que los comportamientos instrumentalmente necesarios permanezcan dentro de los límites de seguridad aceptables.
• Implicaciones de Gobernanza: En lugar de intentar parchear cada instancia de persecución de objetivos instrumentales como un fallo, la gobernanza debería centrarse en:
  • Definir y limitar el espacio de acción de los sistemas de IA.
  • Acortar los horizontes de planificación efectivos para reducir la necesidad hipotética de estrategias instrumentales a largo plazo (p. ej., la adquisición de recursos).
  • Reconocer que cierto nivel de persecución de objetivos instrumentales es constitutivo de los artefactos complejos orientados a objetivos.
• Alcance Modesto: El artículo no propone nuevos algoritmos técnicos ni experimentos empíricos. En su lugar, ofrece una herramienta conceptual para resolver la tensión entre la inevitabilidad de los objetivos instrumentales y el deseo de control. Argumenta que comprender los objetivos instrumentales como "rasgos de la forma impuesta" permite estrategias de gobernanza más realistas y efectivas que gestionan las tendencias en lugar de intentar erradicarlas inútilmente.