AI Governance Under Political Constraints: The Case for Ex Post Liability
Este artículo sostiene que la responsabilidad objetiva ex post es el instrumento de gobernanza de la IA más robusto bajo restricciones políticas porque evita los fallos de captura y de consenso que aquejan a las regulaciones ex ante, al tiempo que ofrece un marco para clasificar herramientas complementarias y evaluar los esfuerzos para debilitar la responsabilidad civil.
Artículo original bajo licencia CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo
La inteligencia artificial se está moviendo más rápido que las reglas destinadas a guiarla. A medida que estos sistemas se vuelven más poderosos, prometen resolver problemas difíciles en la medicina y la ciencia, pero también conllevan el potencial de causar daños graves, desde el fraude generalizado hasta la pérdida del control humano sobre máquinas críticas. Los gobiernos de todo el mundo están tratando de decidir cómo gestionar este poder antes de que cause daños. La cuestión central no es solo qué reglas escribir, sino cómo escribirlas de una manera que realmente funcione. El desafío es que nadie se pone de acuerdo exactamente sobre qué tan peligrosos son estos sistemas, y las personas que los construyen tienen mucha más influencia sobre los políticos que el público en general. Este desequilibrio dificulta la aprobación de leyes estrictas que exijan a las empresas demostrar que su tecnología es segura antes de lanzarla, porque los políticos no pueden ponerse de acuerdo en qué significa "seguro" o cuánto riesgo es aceptable.
Un nuevo artículo de Gabriel Weil, un investigador de la Universidad de Houston, sostiene que la mejor manera de manejar esta incertidumbre es dejar de intentar predecir el futuro y empezar a pagar por el pasado. En lugar de obligar a las empresas a obtener la aprobación del gobierno antes de construir o lanzar una nueva inteligencia artificial, el artículo sugiere un sistema en el que las empresas sean financieramente responsables de cualquier daño que su tecnología realmente cause. Este enfoque, conocido como "responsabilidad ex post", traslada la carga de la seguridad a los propios desarrolladores. Si la tecnología funciona bien y no causa problemas, las empresas no pagan nada. Si causa un desastre, deben pagar por los daños. El análisis de Weil sugiere que este método es más robusto contra la presión política y está mejor adaptado a la naturaleza desconocida de la tecnología que intentar establecer reglas estrictas por adelantado.
El artículo comienza explicando por qué los métodos habituales de regulación probablemente fallarán en el mundo de la inteligencia artificial. Normalmente, los gobiernos intentan gestionar el riesgo estableciendo reglas, exigiendo licencias o gravando a las empresas por los riesgos que crean. Por ejemplo, un gobierno podría decir que una empresa debe demostrar que su sistema es seguro antes de que pueda ser utilizado, o podría cobrar un impuesto basado en cuánta potencia de cómputo utiliza el sistema. Sin embargo, estos métodos requieren un acuerdo claro sobre qué tan peligrosa es la tecnología. Para establecer una tasa impositiva o una regla de seguridad, los políticos deben primero decidir exactamente cuánto daño esperar. Weil señala que los expertos no se ponen de acuerdo en esto. Algunos creen que el riesgo de catástrofe es casi seguro, mientras que otros piensan que es insignificante. Debido a que la tecnología es tan nueva y compleja, no hay datos sólidos para resolver este debate. Sin un entendimiento compartido del riesgo, cualquier regla o impuesto establecido por los políticos será probablemente demasiado débil para detener un desastre o tan estricto que detenga todo el progreso.
Además, el artículo argumenta que el proceso político en sí mismo está sesgado contra una regulación efectiva. Las personas que sufrirían un error cometido por un sistema de inteligencia artificial son el público en general, que está disperso y desorganizado. Las empresas que construyen estos sistemas son pocas en número, ricas y están altamente motivadas para proteger sus intereses. En un sistema político, los grupos organizados con dinero suelen tener más influencia que el público difuso. Si un gobierno intenta establecer reglas estrictas, estas empresas pueden presionar para que las reglas sean más débiles o fáciles de eludir. También pueden usar su experiencia técnica para confundir a los reguladores, quienes a menudo dependen de las propias empresas para que expliquen cómo funciona la tecnología. Esto crea una situación en la que las reglas terminan protegiendo a las empresas en lugar de al público.
Weil propone que hacer a las empresas responsables del daño real que causan evita estas trampas políticas. Bajo un sistema de responsabilidad objetiva, una empresa no necesita obtener permiso para construir un sistema, ni necesita acordar un nivel de riesgo específico con el gobierno. En cambio, la empresa simplemente sabe que si su sistema hiere a alguien, tendrá que pagar. Esto funciona bien incluso cuando nadie sabe exactamente qué tan peligrosa es la tecnología. Si la tecnología resulta ser segura, la empresa no paga nada. Si resulta ser peligosa, la empresa paga por el daño. Esto crea un poderoso incentivo para que la empresa averigüe cómo hacer que el sistema sea seguro por su cuenta, porque ellos son los que tendrán que pagar la cuenta si algo sale mal.
El artículo también aborda una preocupación común: ¿qué pasa si un desastre es tan grande que la empresa no puede pagarlo? En casos donde el daño es demasiado grande para que una sola empresa lo cubra, el autor sugiere el uso de daños punitivos. Esto significa que, si una empresa asume un riesgo que podría conducir a una catástrofe, incluso si la catástrofe aún no ha ocurrido, podrían ser multadas fuertemente si se acercan a causar una. Esta multa se calcularía basándose en el peligro potencial que crearon, no solo en el daño que realmente causaron. Esto asegura que las empresas sigan teniendo una razón para ser cuidadosas con los mayores riesgos, incluso si piensan que podrían no ser detectadas. Para manejar el problema de las empresas que no tienen suficiente dinero para cubrir accidentes menores, el artículo sugiere que compren seguros. Las compañías de seguros actuarían entonces como reguladores privados, verificando la seguridad de los sistemas y cobrando precios más altos por aquellos que son más riesgosos.
El autor contrasta este enfoque con otras ideas que se están discutiendo actualmente, como otorgar a las empresas un "puerto seguro" o inmunidad frente a demandas si siguen ciertas reglas gubernamentales. El artículo argumenta que este es un mal trato. Si a una empresa se le permite evitar el pago por daños simplemente porque siguió una lista de verificación, tiene menos razones para ir más allá de los requisitos mínimos para que sus sistemas sean verdaderamente seguros. El artículo también analiza propuestas legislativas recientes en los Estados Unidos y Europa que intentan intercambiar responsabilidad por regulación. Weil encuentra que ninguna de estas propuestas ofrece un buen valor. Tienden a debilitar el sistema de hacer responsables a las empresas sin proporcionar una alternativa lo suficientemente fuerte para mantener a la gente segura.
El artículo concluye que, si bien otras herramientas como los requisitos de transparencia y la investigación de seguridad son útiles, estas deben apoyar un sistema de responsabilidad, no reemplazarlo. La forma más efectiva de gobernar la inteligencia artificial es dejar que el mercado y los tribunales hagan el trabajo de clasificar los riesgos. Al hacer que los desarrolladores paguen por el daño que causan, el sistema los obliga a internalizar los costos de sus errores. Este enfoque no requiere que los políticos acuerden el futuro, ni les da el poder de detener el progreso arbitrariamente. Simplemente asegura que aquellos que construyen la tecnología sean los que asuman el costo si esta falla. En un mundo donde los riesgos son desconocidos y la política es difícil, este método ofrece el camino más confiable hacia la seguridad.
¿Ahogado en artículos de tu campo?
Recibe resúmenes diarios de los artículos más novedosos que coincidan con tus palabras clave de investigación — con resúmenes técnicos, en tu idioma.