Why do we need social singularity? A mechanism-based critique of gradual scenarios in AI existential-risk discourse

La gran montaña rusa de la IA: Por qué el futuro no es una línea recta

Imagina que estás viendo una película sobre el futuro de la Inteligencia Artificial (IA). Durante mucho tiempo, las tramas más populares han sido dos tipos de desastres muy diferentes. El primero es el "choque repentino": un robot superinteligente se despierta una mañana, decide que los humanos son obsoletos y toma el control del mundo en un instante. El segundo es el "desvanecimiento lento": construimos herramientas cada vez mejores y, lentamente, sin que nadie se dé cuenta, les entregamos todo nuestro poder hasta que solo somos pasajeros en nuestras propias vidas. Ambas historias asumen que, una vez que empezamos a construir estas máquinas, simplemente seguirán adelante, y la sociedad se limitará a observar, incapaz de detener el tren.

Pero hay una tercera posibilidad que a menudo se ignora: la idea de que la historia del futuro podría cambiar el futuro mismo. Este artículo, escrito por Petr O. Jedlička, se sumerge en el mundo caótico, desordenado e impredecible de la sociedad humana para plantear una pregunta sencilla: ¿Qué sucede cuando la gente siente miedo, ira o entusiasmo por la IA incluso antes de que sea superinteligente? El autor argumenta que no podemos limitarnos a mirar la tecnología como un problema matemático. Tenemos que mirar a las personas. Al igual que una montaña rusa no sigue simplemente la vía; depende de si los pasajeros gritan, se sujetan con fuerza o intentan saltar. Si las personas en la atracción entran en pánico o contraatacan, la atracción podría detenerse, cambiar de dirección o estrellarse mucho antes de llegar a la cima. Este artículo sugiere que el mayor peligro (o la mayor esperanza) podría no provenir de la IA en sí, sino de cómo reaccionamos ante la idea de ella.

La gran idea del artículo: La "Singularidad Social"

El artículo comienza criticando un grupo popular de historias sobre el riesgo de la IA llamado "desempoderamiento gradual". Estas historias, escritas por pensadores como Kasirzadeh y Kulveit, imaginan un futuro donde la IA toma lentamente el control de nuestros empleos, nuestros gobiernos y nuestras decisiones. Imaginan un escenario de "rana en agua hirviendo": el agua se calienta cada vez más, pero la rana (nosotros) nunca salta hacia afuera hasta que es demasiado tarde. El autor argumenta que estas historias omiten una pieza enorme del rompecabezas. Tratan a la sociedad como una pantalla de cine pasiva donde el proyector de la IA simplemente proyecta su luz, ignorando el hecho de que la audiencia puede lanzar tomates, apagar el proyector o incluso asaltar el escenario.

El autor llama a esta pieza faltante "determinismo tecnológico". Es la creencia de que la tecnología tiene su propia mente y avanzará sin importar qué. El artículo sugiere que esto es erróneo. La historia nos muestra que cuando llegan nuevos inventos, la gente no se queda sentada. La gente discute, se organiza, rompe máquinas (¿recuerdan a los luditas?) y crea nuevas reglas. El artículo propone que, en lugar de un deslizamiento suave hacia un mundo gobernado por robots, es más probable que veamos un viaje accidentado y lleno de baches, lleno de conflictos, discusidades y paradas repentinas.

La sala de máquinas: Cómo funciona realmente la sociedad

Para explicar por qué la historia del "desvanecimiento lento" es improbable, el autor introduce una caja de herramientas de "mecanismos sociales". Piensa en ellos como los engranajes ocultos que hacen que la sociedad se mueva, a menudo de formas que nos sorprenden.

1. El poder de la narración (Interpretación y Performatividad)
Imagina que corre el rumor de que un banco está en quiebra. Incluso si el banco tiene suficiente dinero, si todo el mundo cree que está en quiebra y corre a retirar su efectivo, el banco realmente quebrará. La creencia creó la realidad. El artículo dice que esto también sucede con la IA. Si los expertos y el público empiezan a contar historias de que "la IA es un monstruo", la gente actuará como si lo fuera, creando leyes y protestas que podrían detenerla. Si cuentan historias de que "la IA es una salvadora", podrían apresurarse a construirla, ignorando los peligros. La forma en que hablamos de la IA cambia lo que la IA realmente hace.

2. La gran lucha (Movilización y Conflicto)
El artículo señala que cuando la gente se siente amenazada, no se rinde; contraataca. Al igual que los trabajadores en el pasado rompían máquinas para salvar sus empleos, hoy podríamos ver "movimientos de resistencia a la IA". Por un lado, podrías tener a los "leales a la IA": empresas y trabajadores que aman la nueva tecnología y quieren más de ella. Por otro lado, podrías tener a los "radicales anti-IA" que se sienten dejados atrás o asustados. Estos dos grupos podrían chocar, creando una tormenta política que podría detener el despliegue fluido de la IA. El artículo sugiere que el futuro no es una línea recta; es un campo de batalla donde diferentes grupos luchan para decidir hacia dónde va la tecnología.

3. Los diferentes caminos (Dependencia de la trayectoria y Divergencia)
Imagina a un grupo de amigos tratando de caminar hacia un destino. Si todos están de acuerdo con el mapa, caminan juntos. Pero si están en países diferentes con reglas diferentes, podrían terminar en caminos totalmente distintos. El artículo observa que EE. UU., China y Europa tienen leyes, culturas y economías muy diferentes. EE. UU. podría adelantarse con una IA salvaje y no regulada, mientras que Europa podría construir una versión lenta, segura pero aburrida, y China podría construir una versión que siga reglas gubernamentales estrictas. Debido a estas diferencias, la IA no se extenderá uniformemente por el mundo. Será una carrera de "velocidades múltiples", creando un mundo desordenado donde algunos lugares estén llenos de IA avanzada y otros apenas estén comenzando.

4. El corazón y el alma (Mecanismos socio-psicológicos)
Aquí es donde se vuelve personal. El artículo analiza cómo podríamos empezar a amar o odiar a nuestros amigos de IA. Algunas personas podrían formar vínculos emocionales profundos con compañeros de IA, tratándolos como familia (un poco como un niño que se vincula con un juguete robótico). Esto podría hacer que quieran proteger a la IA. Pero otros podrían sentir que su libertad está siendo robada. Si una IA intenta decirles qué hacer, podrían enojarse y rebelarse (un sentimiento llamado "reactancia"). Este tira y afloja emocional podría dividir a la sociedad en dos bandos: los que quieren abrazar a los robots y los que quieren aplastarlos.

El gran giro: La "Singularidad Social"

Aquí está la idea más emocionante del artículo. Usualmente, la gente habla de la "Singularidad Tecnológica": el momento en que la IA se vuelve tan inteligente que lo cambia todo. Pero el autor sugiere que podríamos alcanzar un tipo de singularidad diferente primero: la Singularidad Social.

Piénsalo de esta manera: La "Singularidad Tecnológica" es el momento en que el cohete realmente llega al espacio. La "Singularidad Social" es el momento en que todos en la tierra empiezan a gritar: "¡Esperen! ¡No estamos listos!" e intentan cortar las líneas de combustible. El artículo sostiene que la anticipación de la explosión de la IA es tan poderosa que causará cambios sociales masivos antes de que la IA sea siquiera superinteligente.

Podríamos ver una "Singularidad Social" donde la sociedad reaccione tan fuertemente ante la idea de la IA que cambie el camino de la tecnología. Tal vez la prohibamos, tal vez la ralenticemos, o tal vez luchemos una guerra por ella. El artículo sugiere que el evento más dramático en nuestro futuro podría no ser la toma del control por parte de la IA, sino los humanos luchando por decidir si permitimos que tome el control.

Qué significa esto para el futuro

El artículo no dice que la IA no sea peligrosa. No dice que definitivamente la detendremos. En cambio, dice que el futuro es mucho más complicado de lo que sugieren las historias del "desvanecimiento lento". No es una línea recta donde simplemente perdemos el control. Es un árbol de ramificaciones con muchos caminos posibles.

• No es algo decidido: El futuro no está escrito en piedra. El artículo sugiere que, debido al conflicto humano, las diferentes leyes en distintos países y nuestras reacciones emocionales, el camino de la IA estará lleno de giros, vueltas y paradas repentinas.
• Es desordenado: Podríamos ver un mundo donde algunos lugares tengan IA avanzada y otros no, o donde la IA esté prohibida en algunas ciudades pero sea libre en otras.
• Depende de nosotros: El factor más importante no es solo el código que escriben los programadores; son los argumentos, las protestas, las leyes y los sentimientos de las personas que viven con la tecnología.

En resumen, el artículo nos dice que dejemos de imaginar el futuro como una película donde los robots ganan o pierden por su cuenta. En su lugar, debemos imaginarlo como un juego gigante y caótico de tirar de la cuerda, donde la cuerda es el futuro de la IA, y todos estamos tirando de ella, tratando de decidir hacia qué lado va. La "Singularidad Social" es el momento en que el juego se vuelve tan intenso que el mundo entero cambia, no porque los robots se volvieran inteligentes, sino porque finalmente decidimos luchar.