Reassessment of ammonia self- and air-broadened half-widths in the HITRAN database

Resumen Técnico: Reevaluación de las anchuras de media altura por autoensanchamiento y ensanchamiento por aire del amoníaco en la base de datos HITRAN

Planteamiento del problema
Los parámetros de ensanchamiento por presión precisos para el amoníaco (NH$_3$) son críticos para simulaciones fiables de línea por línea en la detección atmosférica, el diagnóstico de combustión y la espectroscopia planetaria. El tratamiento actual de las anchuras de media altura Lorentz para el autoensanchamiento ($\gamma_{self}$) y el ensanchamiento por aire ($\gamma_{air}$) del NH$_3$ en la base de datos HITRAN se basa en gran medida en la correlación empírica de Nemtchinov et al. [31], desarrollada originalmente para la región de 10-$\mu$m. Si bien esta correlación captura las tendencias rotacionales dentro de su rango medido, exhibe un comportamiento no físico cuando se extrapola a números cuánticos rotacionales más altos ($J''$ y $K''$), produciendo a menudo anchuras de media altura negativas o irrealmente pequeñas. Para evitar estos valores no físicos, las implementaciones de HITRAN (desde HITRAN2012 hasta 2024) emplean un enfoque híbrido: aplicando el polinomio de Nemtchinov para transiciones de bajo a moderado $J''$ y asignando valores predeterminados fijos o "limitados" (clamping) para las transiciones de alto $J''$.

Este tratamiento híbrido introduce discontinuidades artificiales y suprime la dependencia rotacional medida de las anchuras de línea, particularmente para las transiciones de alto $J''$, que cobran una importancia creciente en aplicaciones de alta temperatura, como la combustión y las atmósferas de exoplanetas. Además, el conjunto de datos utilizado para la correlación original tiene ahora más de dos décadas de antigüedad, mientras que numerosos estudios recientes mediante espectroscopia infrarroja por transformada de Fourier (FTIR) y basadas en láser han proporcionado restricciones más amplias a través de múltiples bandas vibracionales y ramas.

Metodología
Para abordar estas limitaciones, los autores compilaron un conjunto de datos exhaustivo de mediciones de laboratorio publicadas, que comprende 1.317 anchas de media altura de autoensanchamiento y 1.231 de ensanchamiento por aire, reducidas a 296 K. Este conjunto de datos abarca múltiples bandas vibracionales ($\nu_1, \nu_2, \nu_3, \nu_4$, y diversas combinaciones/bandas de sobretonos) y cubre números cuánticos rotacionales hasta $J'' = 16$.

El estudio procedió a través de los siguientes pasos:

1. Compilación y verificación de datos: Se recopilaron mediciones de diversas fuentes, incluyendo correcciones por errores conocidos en la literatura previa (por ejemplo, errores en el manejo de unidades de presión en Fabian et al. [47]). Los coeficientes de ensanchamiento por aire no medidos directamente se infirieron mediante la aproximación de aire seco ($\gamma_{air} = 0.79\gamma_{N_2} + 0.21\gamma_{O_2}$).
2. Análisis de la dependencia rotacional: El análisis confirmó que la dependencia dominante de las anchuras de línea es rotacional (funciones del índice dependiente de la rama $m$ y del número cuántico de proyección del estado inferior $K''$), en lugar de ser específica de las bandas vibracionales, las ramas o los estados de inversión.
3. Desarrollo de nuevas correlaciones: Se ajustaron correlaciones de polinomios de tercer grado restringidas para $\gamma_{self}$ y $\gamma_{air}$ como funciones de $m$ y $K''$. La regresión utilizó una ponderación por incertidumbre relativa para priorizar las mediciones de alta precisión.
4. Restricciones físicas: El proceso de ajuste impuso estrictas restricciones físicas sobre el dominio previsto de HITRAN ($0 \le K'' \le J'' \le 22$):
   • Los coeficientes predichos deben permanecer estrictamente positivos.
   • Los coeficientes deben disminuir con el aumento de $J''$ para un $K''$ fijo.
   • Los coeficientes deben aumentar con el aumento de $K''$ para un $J''$ fijo.
     Estas restricciones fueron diseñadas para prevenir las extrapolaciones negativas observadas en el polinomio original de Nemtchinov y las mesetas artificiales introducidas por las reglas de limitación (clamping) de HITRAN.

Resultados clave
Las nuevas correlaciones restringidas demuestran mejoras significativas respecto a los valores actuales de HITRAN2024 y la correlación original extrapolada de Nemtchinov:

• Mejora estadística:

  • Ensanchamiento por aire: El Error Absoluto Porcentual Medio (MAPE) disminuyó del 10.95% (HITRAN2024) y 9.28% (Nemtchinov) a un 6.80% para el nuevo ajuste. El wMAPE (MAPE ponderado por incertidumbre) mejoró del 8.64% al 3.63%.
  • Autoensanchamiento: El MAPE disminuyó del 23.61% (HITRAN2024) y 12.13% (Nemtchinov) a un 10.89%. El wMAPE mejoró del 5.87% al 3.78%.
  • Transiciones de alto $J$: La mejora es más pronunciada para las transiciones de alto $J''$ ($J'' > 8$), que son críticas para aplicaciones de alta temperatura. Para el autoensanchamiento en este régimen, el MAPE cayó del 55.30% (HITRAN) al 10.62% (nuevo ajuste).

• Validación espectral:

  • Ensanchamiento por gas extraño: Las comparaciones con los espectros de NH$_3$/N$_2$ del Laboratorio Nacional de Investigación del Pacífico Noroeste (PNNL) mostraron que los nuevos coeficientes de $\gamma_{air}$ producen perfiles de absorción simulados que coinciden mejor con las alturas y formas de pico medidas, particularmente en la rama Q de $\nu_2$ y en las regiones de la rama R de alto $J$, donde HITRAN anteriormente sobreestimaba el ensanchamiento (lo que llevaba a subestimar las alturas de los picos).
  • Autoensanchamiento: Las comparaciones con los espectros de NH$_3$ pura de Alturaifi y Petersen [45] revelaron que los nuevos coeficientes de $\gamma_{self}$ corrigen los residuos característicos de tipo "ala de gaviota" (gull-wing) en las formas de línea, lo que indica una reproducción más precisa de los perfiles ensanchados por presión, especialmente para las transiciones de la rama Q de alto $J$.

Significación y alegatos
El artículo afirma proporcionar un "reemplazo físicamente restringido y listo para bases de datos" para el tratamiento actual del ensanchamiento de NH$_3$ en HITRAN. La principal significación radica en resolver el conflicto entre la necesidad de evitar extrapolaciones no físicas y la necesidad de preservar las tendencias rotacionales medidas. Al reemplazar las reglas híbridas de limitación/predeterminados de HITRAN por una única correlación empírica, continua y físicamente acotada, los autores argumentan que las simulaciones de línea por línea alcanzarán una mayor fidelidad, particularmente para:

1. Aplicaciones de alta temperatura: Diagnóstico de combustión y atmósferas de exoplanetas (por ejemplo, WASP-43b) donde las transiciones de alto $J$ predominan.
2. Recuperaciones atmosféricas: Mejora en la precisión de las recuperaciones de la abundancia de NH$_3$ por satélite y desde tierra.

Los autores señalan modestamente que, si bien las nuevas correlaciones mejoran la representación de la dependencia rotacional, no pretenden resolver todas las discrepancias, ya que persisten algunas diferencias residuales en las simulaciones espectrales debido a otros factores, como las incertidumbres en la intensidad de la línea y la complejidad de las transiciones superpuestas en ventanas espectrales congestionadas. El trabajo se presenta como una actualización necesaria de la base de datos para reflejar la literatura experimental ampliada acumulada desde que se estableció la correlación original de Nemtchinov.