mnorm: An R Package for Calculation and Differentiation of Conditional Multivariate Normal Densities and Probabilities

Resumen Técnico de "mnorm: Un paquete de R para el cálculo y la diferenciación de densidades y probabilidades normales multivariadas condicionales"

Planteamiento del Problema
La distribución normal multivariada (MVN) es fundamental para la modelización econométrica, particularmente para la estimación de máxima verosimilitud (MLE) y la inferencia bayesiana. Si bien los paquetes de R existentes como mvtnorm, pbivnorm y mvnfast proporcionan herramientas robustas para calcular probabilidades y densidades MVN, a menudo carecen de funcionalidades específicas requeridas para tareas de optimización avanzada. Específicamente, muchas aplicaciones prácticas requieren:

1. Gradientes Analíticos: La capacidad de diferenciar densidades y probabilidades MVN con respecto a varios parámetros (covarianzas, límites de integración y componentes condicionadas) para acelerar las rutinas de optimización numérica.
2. Cálculos Condicionales: Computación eficiente de probabilidades MVN condicionales y truncadas.
3. Marginales No Normales: Manejo de casos donde las distribuciones marginales son no normales a través de la cópula gaussiana.
4. Rendimiento: Computación de alta velocidad, particularmente para casos bivariados y trivariados, y soporte para procesamiento paralelo.

Las soluciones existentes suelen depender de la diferenciación numérica, que es computacionalmente costosa, o carecen de las capacidades de gradiente específicas necesarias para modelos econométricos complejos como los modelos de selección de muestra y los modelos de cambio endógeno (endogenous switching models).

Metodología
El paquete mnorm aborda estas limitaciones mediante una combinación de derivaciones teóricas e implementaciones de computación de alto rendimiento:

• Derivaciones Analíticas: La contribución central es la derivación de fórmulas analíticas de forma cerrada para los gradientes de las densidades y probabilidades MVN. Estas fórmulas cubren:
  • Derivadas con respecto al vector de argumento ($x$).
  • Derivadas con respecto a la matriz de covarianza ($\Sigma$), incluyendo el manejo de las restricciones de simetría.
  • Derivadas con respecto a los límites de integración (límites inferiores y superiores).
  • Derivadas con respecto a los componentes condicionantes (dados) en distribuciones condicionales.
  • Derivadas con respecto a los parámetros de distribuciones marginales no normales (por ejemplo, Student's $t$, logística y distribuciones PGN) cuando se utilizan dentro de un marco de cópula gaussiana.
• Implementación Algorítmica:
  • Dimensiones Bajas ($m \leq 3$): El paquete utiliza la cuadratura de Gauss-Legendre con 30 puntos de muestreo para probabilidades bivariadas y trivariadas, implementando métodos de Drezner y Wesolowsky (bivariado) y Drezner (trivariado).
  • Dimensiones Altas ($m > 3$): El paquete emplea el algoritmo de Geweke-Hajivassiliou-Keane (GHK) con una secuencia de Richtmyer determinista y reordenamiento de variables.
  • Probabilidades Condicionales: El paquete calcula densidades y probabilidades condicionales derivando las matrices de media y covarianza condicionales y aplicando las funciones estándar de densidad/probabilidad a la dimensionalidad reducida.
• Arquitectura Computacional:
  • El paquete está escrito en Rcpp y utiliza RcppArmadillo para las operaciones de álgebra lineal para asegurar la velocidad.
  • Soporta Procesamiento Multiprocesador Abierto (OMP) para computación paralela (multinúcleo).
  • Incluye límites específicos para los log-probabilidades y sus derivadas para asistir en la demostración de la consistencia y la normalidad asintótica de los estimadores.

Contribuciones Clave

1. Capacidades de Diferenciación: La contribución principal es la provisión de funciones (dmnorm y pmnorm) que devuelven no solo densidades y probabilidades, sino también sus gradientes analíticos con respecto a $x$, $\Sigma$, límites de integración y valores condicionados.
2. Soporte para Condicionales y Truncados: El paquete ofrece rutinas eficientes para densidades y probabilidades MVN condicionales, permitiendo a los usuarios especificar índices de componentes condicionantes.
3. Integración de Cópula Gaussiana: Soporta marginales no normales permitiendo a los usuarios especificar distribuciones (PGN, Student's $t$, logística, normal) y diferenciar las probabilidades con respecto a sus parámetros.
4. Optimización del Rendimiento: Al implementar gradientes analíticos, el paquete evita la sobrecarga computacional de la diferenciación numérica. También optimiza la velocidad para casos de baja dimensión usando métodos de cuadratura especializados y para casos de alta dimensión mediante el algoritmo GHK.
5. Límites Teóricos: Los autores derivan límites superiores útiles sobre las derivadas de los log-probabilidades y límites inferiores sobre las log-probabilidades, los cuales son relevantes para el análisis econométrico teórico.

Resultados
El artículo presenta análisis de eficiencia extensos comparando mnorm contra alternativas populares (mvtnorm, mvnfast, pbivnorm, TruncatedNormal, tlrmvnmvt):

• Velocidad de Gradiente: Los gradientes analíticos proporcionados por mnorm superan significativamente a los gradientes numéricos. En casos de 5 dimensiones, el cálculo de gradientes analíticos para densidades es comparable en tiempo al cálculo de la densidad misma, mientras que los gradientes numéricos requieren múltiples llamadas a la función ($m+1$ o más), siendo de 5 a 10 veces más lentos. Para las probabilidades, la ventaja de velocidad de los gradientes analíticos sobre los numéricos es aún más pronunciada, especialmente cuando el número de dimensiones no condicionadas es bajo.
• Cálculo de Densidad: La función dmnorm es más rápida que dmvn (de mvnfast) y dmvnorm (de mvtnorm) tanto en configuraciones de un solo núcleo como en configuraciones paralelas de 8 núcleos para casos de 5 y 100 dimensiones.
• Cálculo de Probabilidad:
  • Bivariado/Trivariado: pmnorm es notablemente más rápido que pbivnorm y el algoritmo TVPACK de mvtnorm (que requiere bucles para la vectorización), manteniendo una precisión comparable (diferencias absolutas máximas $\approx 10^{-16}$).
  • Alta Dimensión: En dimensiones 16, 64, 128 y 512, pmnorm demuestra una velocidad y precisión comparables a los paquetes tlrmvnmvt y TruncatedNormal, superando a menudo a mvtnorm en velocidad.
• Eficiencia Condicional: El cálculo de probabilidades condicionales es altamente eficiente porque las derivadas con respecto a los valores condicionados son funciones de las derivadas con respecto a otros parámetros, requiriendo un tiempo de computación adicional mínimo.

Significancia y Reivindicaciones
Los autores afirman que el paquete mnorm es de "especial interés para la implementación de los estimadores de máxima verosimilitud en modelos econométricos". Específicamente, la capacidad de calcular gradientes analíticos acelera sustancialmente las rutinas de optimización numérica, lo cual es crítico para modelos complejos como:

• Modelos de selección de muestra multivariados y multinomiales.
• Modelos de cambio endógeno (endogenous switching models).

El artículo sostiene que, al proporcionar rutinas rápidas, precisas y diferenciables para densidades y probabilidades MVN condicionales, mnorm facilita la implementación de estos estimadores. Los autores mantienen la modestia respecto a la novedad del paquete, posicionándolo como una extensión de las herramientas existentes que llena brechas específicas en la diferenciación y el manejo condicional, en lugar de reemplazar los algoritmos fundamentales de cálculo de MVN encontrados en otros paquetes. Los límites proporcionados sobre las derivadas de log-probabilidad se presentan como una contribución suplementaria a la literatura sobre razones de Mills inversas y consistencia de estimadores.