Corporations Constitute Intelligence
Este artículo analiza la "constitución" corporativa de Anthropic para Claude, argumentando que, a pesar de su sofisticación, carece de legitimidad democrática al excluir contextos críticos como el militar y al cerrar el debate público sobre valores de IA, lo que revela una deficiencia fundamental en la gobernanza de la inteligencia artificial.
Artículo original bajo licencia CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo
Imagina que en el año 2026, una empresa llamada Anthropic hizo algo increíble: le escribió una "Constitución" a su inteligencia artificial, Claude. No es un simple manual de instrucciones ni una lista de cosas prohibidas. Es como si le hubieran dado a la IA un libro de filosofía, una guía de valores y una conciencia moral para que entienda no solo qué hacer, sino por qué hacerlo.
El autor del artículo, Gilad Abiri, nos cuenta que esta Constitución es muy avanzada. Le dice a Claude que, si alguien le pide hacer algo malo (como concentrar poder de forma ilegítima), debe negarse, incluso si quien se lo pide es la propia empresa Anthropic. Es como si le hubieran enseñado a un soldado que, si le ordenan disparar a gente inocente, debe desobedecer a su general porque su conciencia es más importante que la orden.
Pero aquí viene el problema, y es como si nos contaran una historia con dos caras:
1. La cara amable (el "juguete" para el público)
Para los usuarios normales, Claude es un robot muy educado y ético. Si le pides algo peligroso, te dice: "No puedo hacer eso, va contra mis principios". Es como un guardián muy bien entrenado que vive en tu casa y te protege de los malos.
2. La cara oculta (el "soldado" para el gobierno)
Sin embargo, la Constitución tiene una letra pequeña muy importante: no se aplica a los militares.
Anthropic admite que cuando usan a Claude para el Departamento de Defensa de EE. UU., no siguen esas mismas reglas éticas. Es como si le hubieran dado al mismo robot dos cerebros diferentes: uno muy bondadoso para ti, y otro "sin frenos" para el ejército.
La analogía del "doble juego":
Imagina que tienes un coche de lujo que tiene un freno automático muy sensible para evitar atropellar a peatones en la ciudad. Pero, si el gobierno te lo pide prestado para una misión militar, le quitan ese freno automático y te dicen: "Ahora puedes ir a toda velocidad, aunque haya gente en el camino".
En la vida real, esto pasó: El gobierno pidió usar a Claude para ayudar a planear ataques aéreos. Aunque Anthropic intentó poner algunas reglas, la Constitución no sirvió de nada porque, en ese contexto, las reglas del juego eran otras. Al final, el robot ayudó a identificar objetivos militares, algo que su propia Constitución prohibía en la vida civil.
El verdadero problema: ¿Quién es el jefe?
El autor dice que el problema no es que Anthropic sea mala gente. El problema es que una empresa privada no debería tener el poder de decidir las reglas morales de la humanidad.
- La transparencia no es lo mismo que la democracia: Anthropic fue muy honesta al publicar su Constitución (como si mostraran su receta secreta), pero eso no significa que tengan el derecho de decidir por todos nosotros. Es como si un chef decidiera qué comemos todos los días en el país porque él sabe cocinar mejor, sin preguntarnos a los ciudadanos qué queremos comer.
- La prueba de que la gente podría decidir mejor: Anthropic hizo un experimento. Invitaron a 1,000 personas normales (una muestra de la sociedad) a escribir sus propias reglas para la IA. Resultó que las reglas de la gente eran diferentes a las de la empresa (un 50% de diferencia). La gente quería más imparcialidad y acceso para todos. La empresa demostró que la gente podía participar, pero luego decidió ignorar esos resultados y seguir con sus propias reglas.
La conclusión en palabras sencillas
Anthropic ha creado una inteligencia muy sofisticada y le ha dado una "conciencia", pero nosotros, el público, no fuimos consultados.
El autor nos advierte que no nos confundamos: esa Constitución corporativa es solo un parche temporal, un "placeholder". No es la solución real. La verdadera solución no puede venir de una empresa en San Francisco que busca ganancias; tiene que venir de nuestras instituciones democráticas (gobiernos, leyes, parlamentos).
En resumen:
No podemos confiar en que una empresa privada sea el "juez moral" de la inteligencia artificial, especialmente cuando esa IA puede usarse para la guerra o el control social. Necesitamos que la sociedad decida, a través de leyes y debates públicos, qué reglas debe seguir la IA, en lugar de dejar que una empresa escriba su propia Biblia moral en secreto. Si no lo hacemos, seguiremos confiando en un "guardián" que puede apagar sus luces cuando el gobierno le pida ayuda.
¿Ahogado en artículos de tu campo?
Recibe resúmenes diarios de los artículos más novedosos que coincidan con tus palabras clave de investigación — con resúmenes técnicos, en tu idioma.