Practical Principles for AI Cost and Compute Accounting
Este documento propone siete principios para diseñar estándares de contabilidad de costos y cómputo de IA con el fin de cerrar brechas técnicas, prevenir el juego estratégico y asegurar una implementación regulatoria consistente sin desalentar la mitigación responsable de riesgos.
Artículo original bajo licencia CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo
A medida que los sistemas de inteligencia artificial se vuelven más poderosos, los gobiernos buscan una forma fiable de decidir qué máquinas necesitan una supervisión estricta y cuáles no. El desafío es que estos sistemas son complejos y su funcionamiento interno suele estar oculto dentro de los servidores privados de las empresas tecnológicas. Para resolver esto, los responsables políticos se han basado en dos hechos medibles: cuánto dinero cuesta construir un modelo y cuánta potencia de cálculo requiere para aprender. Estas cifras actúan como un proxy, un sustituto de la inteligencia real y el peligro potencial del sistema. La lógica es sencilla: si un proyecto requiere una inversión masiva de recursos, es probable que posea capacidades avanzadas que podrían suponer riesgos para la sociedad. Las leyes en Europa y Estados Unidos están empezando a utilizar estos umbrales para activar regulaciones, asumiendo que cualquier proyecto que cruce cierta línea de gasto o potencia de cálculo debe ser vigilado de cerca. Sin embargo, un nuevo artículo de los investigadores Stephen Casper, Luke Bailey y Tim Schreier sostiene que, sin reglas claras sobre cómo contabilizar estos recursos, el sistema está lleno de lagunas que los desarrolladores astutos podrían explotar.
Los investigadores se propusieron solucionar las ambigüedades técnicas que actualmente permiten a las empresas ocultar la verdadera escala de su trabajo. Identificaron que las propuestas actuales a menudo no tienen en cuenta todo el trayecto de la creación de un modelo. Por ejemplo, un desarrollador podría entrenar un modelo más pequeño y económico enseñándole a imitar las respuestas de un modelo "maestro" mucho más grande y costoso. Si las regulaciones solo cuentan el paso final, el enorme coste de entrenar al maestro original se ignzaora, haciendo que el nuevo proyecto parezca engañosamente barato. Del mismo modo, las empresas podrían intentar dividir su trabajo entre diferentes entidades legales o utilizar herramientas de código abierto para eludir los límites. Para abordar estos problemas, los autores proponen siete principios prácticos para diseñar estándares de contabilidad que sean difíciles de manipular y fáciles de aplicar.
El primer principio, y el más crítico, es contar cada dólar y cada unidad de potencia de cálculo gastada desde el inicio de un proyecto hasta el sistema final. Esto significa incluir el trabajo realizado para preparar los datos, el entrenamiento de los modelos maestros utilizados para la destilación e incluso los experimentos fallidos que se descartaron en el camino. Los autores sostienen que limitar el recuento solo a la ejecución de entrenamiento final crea un "vacío legal de la destilación", donde el verdadero coste de la inteligencia de un modelo queda enmascarado. Al exigir una contabilidad completa del trabajo previo, los reguladores pueden ver la inversión real detrás de las capacidades de un sistema.
Al mismo tiempo, el artículo sugiere que no todo debería contarse. Los desarrolladores deberían tener permitido excluir los costes de los recursos que ya están disponibles gratuitamente para todos, como los conjuntos de datos de código abierto o los modelos preentrenados que fueron lanzados públicamente mucho antes de que comenzara el proyecto actual. Esto asegura que las reglas se centren en el esfuerzo propietario que realiza una empresa, en lugar de penalizarla por utilizar la base compartida del campo. Sin embargo, los autores añaden una salvedad crucial: si una empresa lanza un modelo parcialmente terminado al público y luego lo retoma rápidamente para terminarlo, ese trabajo inicial también debería contar. Esto evita la estrategia de intentar "reiniciar" su contabilidad mediante la liberación breve de un modelo antes de continuar su desarrollo en secreto.
El marco también reconoce que parte del trabajo se realiza específicamente para hacer la IA más segura, no más inteligente. Las actividades como filtrar contenido dañino de los datos de entrenamiento o probar un modelo para asegurar que se niega a ayudar con planes criminales deberían estar exentas de los cálculos de costes. El objetivo es asegurar que las empresas no sean penalizadas financieramente por hacer lo correcto y reducir los riesgos para la sociedad. Para asegurar que estas exenciones sean legítimas, los autores insisten en que las empresas deben proporcionar informes detallados y desglosados. Estos informes actuarían como una auditoría financiera, obligando a los desarrolladores a explicar exactamente qué hicieron, por qué lo hicieron y cómo calcularon sus cifras, incluyendo cualquier estimación utilizada cuando no se disponía de datos precisos.
Finalmente, el artículo aconseja que las regulaciones utilicen dos disparadores separados: uno para el coste total y otro para la potencia de cálculo total. Debido a que estas dos métricas pueden manipularse de forma independiente —como el uso de datos económicos pero computacionalmente pesados frente a datos humanos caros pero eficientes—, tener ambos como redes de seguridad hace que sea mucho más difícil eludir el sistema. Los autores también enfatizan que estos estándares no pueden ser estáticos. A medida que la tecnología evoluciona y se vuelve más eficiente, los umbrales y las reglas deben actualizarse regularmente, quizás cada pocos meses, para seguir siendo efectivos. Sin esta adaptabilidad, una regla que funciona hoy podría quedar obsoleta mañana, permitiendo que sistemas peligrosos se filtren por las grietas simplemente porque las reglas contables no siguieron el ritmo de la innovación.
Los investigadores concluyen que, si bien ningún sistema de contabilidad puede ser perfecto, estos principios proporcionan una base sólida para crear reglas que sean transparentes, consistentes y alineadas con el interés público. Al cerrar los vacíos legales que permiten la manipulación estratégica y al fomentar una gestión de riesgos responsable, estas directrices podrían ayudar a los gobiernos a supervisar la inteligencia artificial más avanzada sin asfixiar a los desarrolladores más pequeños que no representan el mismo nivel de riesgo. El objetivo final es crear un entorno regulatorio donde la verdadera escala de un proyecto de IA sea visible, asegurando que los sistemas más potentes reciban la atención que requieren.
¿Ahogado en artículos de tu campo?
Recibe resúmenes diarios de los artículos más novedosos que coincidan con tus palabras clave de investigación — con resúmenes técnicos, en tu idioma.