Gradient-based Stochastic Optimization of Utility-based Shortfall Risk

技术摘要：基于梯度的效用度量短缺风险（UBSR）随机优化

问题陈述

本文研究了基于效用的短缺风险（Utility-based Shortfall Risk, UBSR）测度的估计与优化问题。UBSR 是一种凸的、满足分布不变性的风险度量，它泛化了多种著名的风险指标，包括熵风险（Entropic Risk）、分位数风险（Expectile Risk）、在险价值（VaR）以及二次风险（Quadratic Risk）。虽然 UBSR 相比于 VaR 和条件在险价值（CVaR）等标准度量具有优势——特别是在随机化不变性和对重尾损失的敏感性方面——但现有文献大多将分析限制在有界随机变量上。此外，先前的研究通常依赖于渐近保证，或侧重于标量决策参数。

本研究解决的主要挑战包括：

1. 将 UBSR 的理论框架扩展到满足特定可积条件的无界随机变量。
2. 推导使用样本平均近似法（Sample Average Approximation, SAA）进行 UBSR 估计的非渐近误差界。
3. 在平滑参数化（向量参数）下推导 UBSR 的梯度表达式，并开发相应的梯度估计器。
4. 设计并分析用于 UBSR 优化的**随机梯度（SG）**算法，并在强凸、凸和非凸情形下给出非渐近收敛速率。

方法论

• 向无界变量的理论扩展：
  作者将 UBSR 定义为 $SR_{l,\lambda}(X) \triangleq \inf\{ t \in \mathbb{R} \mid \mathbb{E}[l(-X - t)] \leq \lambda \}$，其中 $l$ 是损失函数，$\lambda$ 是风险阈值。他们严谨地证明了对于无界随机变量，在比以往要求更弱的 $l$ 和 $X$ 分布假设下，UBSR 仍然是一个单调且凸的风险度量。他们证明了 $SR_{l,\lambda}(X)$ 对应于递减函数 $g_X(t) = \mathbb{E}[l(-X-t)] - \lambda$ 的唯一根。

• 通过样本平均近似法（SAA）进行估计：
  本文提出通过求解一个优化问题来估计 UBSR，该问题中期望被替换为 $m$ 个独立同分布样本的经验平均值。

  • 算法： 引入了一种“搜索与二分”（UBSR-SB）算法，旨在无需预知搜索区间边界的情况下寻找函数的根。
  • 误差界： 在损失函数满足方差假设的前提下，作者推导了估计量的平均绝对误差（MAE）和均方误差（MSE）的非渐近界，表明其收敛速率分别为 $O(1/\sqrt{m})$ 和 $O(1/m)$。

• 梯度推导与估计：
  对于参数化目标 $F(\theta, \xi)$，本文利用隐函数定理推导了 UBSR 目标 $SR(\theta)$ 的梯度。梯度表示为期望的比值：
  $$\nabla SR(\theta) = \frac{-\mathbb{E}[l'(-F(\theta, \xi) - SR(\theta)) \nabla F(\theta, \xi)]}{\mathbb{E}[l'(-F(\theta, \xi) - SR(\theta))]}$$
  为了估计该梯度，作者提出了一个双重采样方案，使用两个独立的样本批次：一个用于估计 UBSR 值（$SR(\theta)$），另一个用于估计分子和分母的期望。这产生了一个有偏的梯度估计器。

  • 误差界： 文中建立了该梯度估计器的非渐近 MAE 和 MSE 界，其规模随样本量 $m_1$ 和 $m_2$ 变化。

• 随机优化算法：
  所提出的梯度估计器被集成到一个随机梯度（SG）算法（算法 2）中。该算法采用递增的批次大小（$m_k \propto k$）和递减的步长。

  • 收敛性分析： 作者针对最后一次迭代（或平均迭代）推导了三种场景下的非渐近收敛速率：
    1. 强凸： 参数误差的收敛速率为 $O(1/n)$。
    2. 凸： 目标值的收敛速率为 $O(1/\sqrt{n})$。
    3. 非凸： 梯度平方范数的收敛速率为 $O(1/\sqrt{n})$。
       该分析考虑了梯度估计器的偏差和方差，并且同时适用于在线设置（动态查询样本）和离线设置（固定数据集）。

核心贡献

1. 向无界变量的扩展： 本文为 UBSR 在无界变量下的应用提供了严谨的理论扩展，填补了以往文献中常假设有界支撑集或将其视为平凡扩展的空白。
2. 非渐近估计界： 为无界变量下的 SAA 估计器提供了新颖的 MAE 和 MSE 界证明，在许多情况下无需损失函数的 Lipschitz 连续性或凸性即可实现 $O(1/\sqrt{m})$ 和 $O(1/m)$ 的收敛率。
3. 多元梯度估计器： 不同于以往仅限于标量参数的研究，本文推导了 UBSR 对向量参数 $\theta$ 的通用梯度表达式，并提出了具有证明过的非渐近误差界的相应估计器。
4. 具有有限样本保证的 SG 算法： 作者提出了用于 UBSR 优化的随机梯度算法，并为强凸、凸和非凸目标推导了有限样本收敛速率，解决了使用有偏梯度信息进行优化的挑战。
5. 实证验证： 算法在金融应用中得到了测试，包括 VaR 估计、熵风险最小化，以及使用真实世界数据集（S&P 500, FTSE 100, Nasdaq）进行的投资组合优化。

结果

• 估计： 模拟表明，UBSR-SB 算法收敛迅速，估计误差（MAE 和 MSE）分别按 $O(1/\sqrt{m})$ 和 $O(1/m)$ 递减，与理论界限一致。
• 优化： 在投资组合优化实验中，UBSR-SG 算法（及其离线变体）产生的投资组合表现与等权重投资组合（Equal-Weighted portfolio）和最小 CVaR 投资组合等标准基准相比，在多个市场指数上均能持平或实现超越。
• 收敛性： 理论分析证实，所提出的 SG 算法实现了推导出的收敛速率，验证了通过增加批次大小来处理梯度估计器偏差-方差权衡策略的有效性。

意义与主张

本文声称，其工作为更广泛的设定（即无界变量）下的 UBSR 估计与优化奠定了基础，并提供了更强的计算保证（非渐近界）。作者强调，其工作解决了 UBSR 的计算问题，从理论属性转向提供具有可证明性能保证的实用算法。

其重要性在于金融应用（投资组合优化）和风险敏感型在线学习（多臂老虎机、联邦学习）的背景下，能够优化具有无界损失和向量参数的风险度量至关重要。作者指出，其方法比现有的鲁棒优化框架更具通用性，因为后者通常要求离散分布、有界支撑集或离线数据集。本研究将 UBSR 定位为 CVaR 和 VaR 的优越替代方案，无论是在估计还是优化任务中，都具备理想的性质（如可阐释性、随机化不变性）。

论文最后建议未来的研究方向是利用已推导出的梯度表达式，开发基于牛顿法的 UBSR 优化方法。