Why do we need social singularity? A mechanism-based critique of gradual scenarios in AI existential-risk discourse

A Grande Montanha-Russa da IA: Por Que o Futuro Não é uma Linha Reta

Imagine que você está assistvindo a um filme sobre o futuro da Inteligência Artificial (IA). Durante muito tempo, os enredos mais populares têm sido dois tipos de desastres muito diferentes. O primeiro é o "colapso súbito": um robô superinteligente acorda uma manhã, decide que os humanos são obsoletos e assume o controle do mundo num piscar de olhos. O segundo é o "desvanecimento lento": construímos ferramentas cada vez melhores e, lentamente, sem que ninguém perceba, entregamos todo o nosso poder a elas até sermos apenas passageiros em nossas próprias vidas. Ambas as histórias assumem que, uma vez que começarmos a construir essas máquinas, elas simplesmente continuarão avançando, e a sociedade apenas continuará assistindo, incapaz de parar o trem.

Mas há uma terceira possibilidade que é frequentemente ignorada: a ideia de que a história do futuro pode mudar o próprio futuro. Este artigo, escrito por Petr O. Jedlička, mergulha no mundo confuso, caótico e imprevisível da sociedade humana para fazer uma pergunta simples: O que acontece quando as pessoas ficam assustadas, zangadas ou entusiasmadas com a IA antes mesmo de ela se tornar superinteligente? O autor argumenta que não podemos olhar para a tecnologia apenas como um problema matemático. Temos que olhar para as pessoas. Assim como uma montanha-russa não segue apenas o trilho; ela depende de se os passageiros estão gritando, segurando firme ou tentando pular fora. Se as pessoas na atração entrarem em pânico ou reagirem, a atração pode parar, mudar de direção ou bater muito antes de chegar ao topo. Este artigo sugere que o maior perigo (ou a maior esperança) pode não vir da própria IA, mas de como reagimos à ideia dela.

A Grande Ideia do Artigo: A "Singularidade Social"

O artigo começa criticando um grupo popular de histórias sobre riscos da IA chamadas de "desempoderamento gradual". Essas histórias, escritas por pensadores como Kasirzadeh e Kulveit, imaginam um futuro onde a IA lentamente assume nossos empregos, nossos governos e nossas decisões. Elas vislumbram um cenário de "sapo fervendo": a água fica cada vez mais quente, mas o sapo (nós) nunca pula para fora até que seja tarde demais. O autor argumenta que essas histórias estão perdendo uma peça enorme do quebra-cabeça. Elas tratam a sociedade como uma tela de cinema passiva onde o projetor da IA apenas brilha sua luz, ignorando o fato de que o público pode jogar tomates, desligar o projetor ou até mesmo invadir o palco.

O autor chama essa peça ausente de "determinismo tecnológico". É a crença de que a tecnologia tem sua própria mente e marchará adiante não importa o quê. O artigo sugere que isso está errado. A história nos mostra que, quando novas invenções chegam, as pessoas não ficam apenas sentadas. Elas discutem, organizam-se, quebram máquinas (lembrem-se dos Ludistas?) e criam novas regras. O artigo propõe que, em vez de um deslizamento suave para um mundo governado por robôs, é mais provável que vejamos um passeio bagunçado e irregular, cheio de conflitos, discussões e paradas repentinas.

A Sala de Máquinas: Como a Sociedade Realmente Funciona

Para explicar por que a história do "desvanecimento lento" é improvável, o autor introduz um conjunto de ferramentas de "mecanismos sociais". Pense neles como as engrenagens ocultas que fazem a sociedade se mover, muitas vezes de maneiras que nos surpreendem.

1. O Poder da Narrativa (Interpretação e Performatividade)
Imagine que surge um boato de que um banco está quebrando. Mesmo que o banco tenha muito dinheiro, se todos acreditarem que ele está quebrado e correrem para sacar seu dinheiro, o banco realmente quebrará. A crença criou a realidade. O artigo diz que isso também acontece com a IA. Se especialistas e o público começarem a contar histórias de que "a IA é um monstro", as pessoas agirão como se fosse, criando leis e protestos que podem pará-la. Se contarem histórias de que "a IA é uma salvadora", podem correr para construí-la, ignorando os perigos. A maneira como falamos sobre a IA muda o que a IA realmente faz.

2. A Grande Luta (Mobilização e Conflito)
O artigo aponta que, quando as pessoas se sentem ameaçadas, elas não apenas desistem; elas lutam de volta. Assim como os trabalhadores no passado quebraram máquinas para salvar seus empregos, podemos ver "movimentos de resistência à IA" hoje. De um lado, você pode ter "leais à IA" — empresas e trabalhadores que amam a nova tecnologia e querem mais dela. Do outro lado, você pode ter "radicais anti-IA" que se sentem deixados para trás ou assustados. Esses dois grupos podem colidir, criando uma tempestade política que poderia interromper o lançamento suave da IA. O artigo sugere que o futuro não é uma linha reta; é um campo de batalha onde diferentes grupos lutam para decidir para qual direção a tecnologia vai.

3. Os Diferentes Caminhos (Dependência de Trajetória e Divergência)
Imagine um grupo de amigos tentando caminhar até um destino. Se todos concordarem com o mapa, eles caminham juntos. Mas se estiverem em países diferentes com regras diferentes, podem acabar em caminhos totalmente distintos. O artigo observa que os EUA, a China e a Europa têm leis, culturas e economias muito diferentes. Os EUA podem avançar rapidamente com uma IA selvagem e não regulamentada, enquanto a Europa pode construir uma versão lenta, segura, mas monótona, e a China pode construir uma versão que segue regras governamentais estritas. Devendo-se a essas diferenças, a IA não se espalhará uniformemente pelo mundo. Será uma corrida de "múltiplas velocidades", criando um mundo bagunçado onde alguns lugares estão cheios de IA avançada e outros estão apenas começando.

4. O Coração e a Alma (Mecanismos Psicossociais)
É aqui que o assunto se torna pessoal. O artigo analisa como podemos começar a amar ou odiar nossos amigos de IA. Algumas pessoas podem formar laços emocionais profundos com companheiros de IA, tratando-os como família (um pouco como uma criança que se apega a um brinquedo robótico). Isso poderia fazê-las querer proteger a IA. Mas outros podem sentir que sua liberdade está sendo roubada. Se uma IA tentar dizer a eles o que fazer, eles podem ficar irritados e rebelar-se (um sentimento chamado "reatância"). Esse cabo de guerra emocional poderia dividir a sociedade em dois campos: aqueles que querem abraçar os robôs e aqueles que querem esmagá-los.

A Grande Reviravolta: A "Singularidade Social"

Aqui está a ideia mais emocionante do artigo. Geralmente, as pessoas falam sobre a "Singularidade Tecnológica" — o momento em que a IA se torna tão inteligente que muda tudo. Mas o autor sugere que podemos atingir um tipo diferente de singularidade primeiro: a Singularidade Social.

Pense assim: A "Singularidade Tecnológica" é o momento em que o foguete realmente chega ao espaço. A "Singularidade Social" é o momento em que todos no chão começam a gritar: "Espere! Não estamos prontos!" e tentam cortar as linhas de combustível. O artigo argumenta que a antecipação da explosão da IA é tão poderosa que causará mudanças sociais massivas antes mesmo de a IA se tornar superinteligente.

Podemos ver uma "Singularidade Social" onde a sociedade reage tão fortemente à ideia de IA que altera o caminho da tecnologia. Talvez a baniremos, talvez a retardaremos, ou talvez lutemos uma guerra por causa dela. O artigo sugere que o evento mais dramático em nosso futuro pode não ser a IA assumindo o controle, mas os humanos lutando sobre se devem deixá-la assumir o controle.

O Que Isso Significa para o Futuro

O artigo não diz que a IA não será perigosa. Não diz que certamente a impediremos. Em vez disso, diz que o futuro é muito mais complicado do que as histórias de "desvanecimento lento" sugerem. Não é uma linha reta onde apenas perdemos o controle. É uma árvore de ramificações com muitos caminhos possíveis.

• Não é algo decidido: O futuro não está escrito em pedra. O artigo sugere que, devido ao conflito humano, às diferentes leis em diferentes países e às nossas reações emocionais, o caminho da IA será cheio de curvas, reviravoltas e paradas repentinas.
• É bagunçado: Podemos ver um mundo onde alguns lugares têm IA avançada e outros não, ou onde a IA é proibida em algumas cidades mas livre em outras.
• Depende de nós: O fator mais importante não é apenas o código que os programadores escrevem; são as discussões, os protestos, as leis e os sentimentos das pessoas que vivem com a tecnologia.

Em resumo, o artigo nos diz para parar de imaginar o futuro como um filme onde os robôs vencem ou perdem por conta própria. Em vez disso, devemos imaginá-lo como um jogo gigante e caótico de cabo de guerra, onde a corda é o futuro da IA, e todos nós estamos puxando, tentando decidir para qual lado ela vai. A "Singularidade Social" é o momento em que o jogo se torna tão intenso que o mundo inteiro muda, não porque os robôs ficaram inteligentes, mas porque finalmente decidimos lutar.