What are AI researchers worried about?

Este estudo, baseado na maior pesquisa já realizada com mais de 4.000 pesquisadores de IA, revela que, ao contrário do discurso público dominado por riscos existenciais, a comunidade científica prioriza preocupações sociotécnicas imediatas e compartilha com o público uma convergência surpreendente na avaliação de riscos, sugerindo a necessidade de um diálogo focado em mitigar danos já existentes.

O essencial

Imagine que o mundo da Inteligência Artificial (IA) é como uma grande festa de aniversário que está acontecendo em uma casa muito grande. A festa está lotada, há muita música alta, e alguns convidados muito ricos e famosos (as grandes empresas de tecnologia) estão no centro da sala, gritando sobre o que vai acontecer no futuro. Eles estão dizendo coisas como: "Vamos criar robôs que vão pensar sozinhos e dominar o mundo!" ou "Isso vai resolver todos os nossos problemas!".

Mas, o que a maioria das pessoas que realmente cozinha a comida e decora a sala (os pesquisadores de IA) está pensando?

Um grupo de cientistas da University College London decidiu fazer uma pesquisa com mais de 4.000 desses "cozinheiros" para descobrir a verdade. O resultado? A festa está muito mais calma e realista do que os gritos lá fora sugerem.

Aqui está o resumo do que eles descobriram, usando analogias simples:

1. O Mito do "Robô Assassino" vs. A Realidade do "Ferramental"

Os meios de comunicação e algumas celebridades adoram falar sobre o "fim do mundo" causado por robôs superinteligentes (o famoso cenário de "Skynet" ou "HAL 9000"). É como se todos estivessem preocupados com um furacão que vai acontecer daqui a 50 anos.

O que os pesquisadores dizem:
A grande maioria (97%) não está preocupada com o fim do mundo. Para eles, a IA é mais como um martelo ou uma ferramenta de cozinha. Eles estão muito mais preocupados com:

• Alguém usando o martelo para bater na cabeça do vizinho (uso malicioso).
• Alguém usando a faca de forma errada e se cortando (uso incorreto).
• A propaganda enganosa dizendo que a faca é mágica (hype/exagero).
• O fato de que apenas os ricos podem comprar as melhores ferramentas (concentração de poder).

A lição: Os pesquisadores veem a IA como uma tecnologia "normal" que já está causando problemas reais hoje, e não como um monstro futurista que vai nos devorar amanhã.

2. A Divergência entre "Otimismo" e "Medo"

Existe uma diferença interessante entre o que os pesquisadores pensam e o que o público geral pensa:

• Sobre os Benefícios: Os pesquisadores são muito otimistas. Eles veem a IA como uma ferramenta incrível para melhorar a educação e o trabalho. O público, por outro lado, é mais cético e tem medo de que a IA não ajude em nada.
• Sobre os Riscos: Aqui, eles concordam! Tanto os pesquisadores quanto o público estão preocupados com as mesmas coisas: fake news, roubo de dados e crimes cibernéticos. É como se todos estivessem preocupados com a segurança da porta da frente, mesmo que os pesquisadores estejam mais confiantes de que a fechadura funciona bem.

3. Quem é o "Dono" da Festa?

Um ponto crucial que os pesquisadores levantaram é sobre quem está no comando.

• Eles sentem que as grandes empresas de tecnologia estão controlando demais a conversa e a direção da pesquisa.
• Eles querem que a pesquisa seja mais aberta (como uma receita de bolo que todo mundo pode ver e melhorar) e não um segredo guardado em um cofre.
• Eles querem que o dinheiro do governo vá para coisas boas, como saúde e educação, e não para armas ou guerras.

4. A Responsabilidade do Criador

Antigamente, era comum os criadores de tecnologia dizerem: "Nós fizemos o carro, mas se você bater, a culpa é do motorista".
Nesta pesquisa, os pesquisadores disseram: "Não, a culpa é nossa também."
A maioria acredita que quem cria a IA deve ser responsável pelo que ela faz no mundo real. Eles não querem apenas jogar a responsabilidade para o usuário.

5. O Perigo de "Não Ouvir a Cozinha"

O maior alerta do estudo é que, se continuarmos ouvindo apenas os gritos das celebridades e das grandes empresas, vamos perder a visão das pessoas que realmente entendem o assunto.

• Isso cria uma barreira: o público se sente alienado e acha que não pode participar.
• Os pesquisadores querem conversar com o público sobre os problemas reais (como privacidade e empregos), não sobre ficção científica.

Conclusão: O Que Fazer?

O estudo sugere que precisamos parar de especular sobre "robôs que vão nos matar em 2050" e começar a resolver os problemas que já temos hoje.

É como se estivéssemos tentando consertar um vazamento no telhado. Enquanto alguns gritam que o teto vai desabar todo, os especialistas estão dizendo: "Calma, o telhado está firme, mas precisamos tapar esse buraco agora antes que a chuva estrague o sofá".

A mensagem final é: Vamos ouvir os pesquisadores, diversificar as vozes na mesa e focar em como usar essa tecnologia de forma justa e segura para todos, hoje.

Resumo técnico

Aqui está um resumo técnico detalhado do artigo "What are AI researchers worried about?", apresentado em português:

Título do Estudo: O que preocupa os pesquisadores de IA?

Autores: Cian O'Donovan, Sarp Gurakan, Ananya Karanam, Xiaomeng Wu, Jack Stilgoe (UCL, Reino Unido)
Data: Março de 2026 (Nota: O texto apresenta uma data futura, sugerindo um cenário de projeção ou um erro de digitação no manuscrito original, mas o conteúdo refere-se a dados coletados em 2024).

---

1. Problema e Contexto

O debate público sobre Inteligência Artificial (IA) é frequentemente dominado por vozes poderosas (líderes de grandes empresas de tecnologia e cientistas proeminentes), que tendem a simplificar as discussões, destacando promessas extremas ou ameaças existenciais especulativas (como a extinção humana).

• A Lacuna: Existe uma desconexão entre a narrativa pública/midiática e as opiniões reais dos pesquisadores que desenvolvem e estudam a tecnologia diretamente.
• Hipótese: Os autores propõem que as opiniões dos pesquisadores diferem significativamente das do público geral e que as pesquisas anteriores focadas em previsões probabilísticas de riscos existenciais mascaram a diversidade e a incerteza inerentes à pesquisa científica.
• Objetivo: Investigar as atitudes, prioridades de risco e preocupações de uma grande amostra de pesquisadores de IA, comparando-as com a opinião pública e identificando se a narrativa de "risco existencial" reflete a realidade do campo.

2. Metodologia

O estudo baseia-se na maior pesquisa já conduzida com pesquisadores de IA, utilizando uma abordagem quantitativa e qualitativa mista.

• Amostra:
  • População: Autores de artigos publicados no repositório arXiv entre 1º de janeiro de 2020 e 23 de fevereiro de 2024 nas subcategorias de CS (IA, Aprendizado de Máquina, Visão Computacional, Processamento de Linguagem).
  • Tamanho: 4.260 respostas completas (de um convite enviado a 99.516 autores).
  • Perfil: 77% trabalham em universidades/organizações de pesquisa; 23% na indústria/setor público. 71% possuem doutorado. 81% homens, 18% mulheres.
  • Geografia: Global, com destaque para EUA (25%), Reino Unido (11%) e China (8%).
• Design do Questionário:
  • Perguntas sobre riscos, benefícios, responsabilidades e governança.
  • Escalas Likert para comparar atitudes com pesquisas públicas existentes (ONS, Ada Lovelace, Alan Turing).
  • Pergunta Aberta Chave: "Qual é a única coisa que mais o preocupa sobre a IA?" (3.718 respostas textuais).
• Análise de Dados:
  • Codificação manual das respostas textuais (após testes com modelos de linguagem falharem), gerando 51 categorias de código.
  • Testes estatísticos (teste z de proporção) para correlacionar preocupações com variáveis demográficas (gênero, setor, crença na inevitabilidade da AGI).

3. Principais Contribuições e Resultados

A. Divergência e Convergência com o Público

• Benefícios: Os pesquisadores são significativamente mais otimistas que o público. 87% acreditam que os benefícios superam ou equilibram os riscos, enquanto apenas 9% acreditam o contrário. O público é mais cético (57% veem benefícios, mas 28% veem riscos maiores).
• Riscos (Convergência): Há uma notável convergência entre pesquisadores e o público sobre os riscos imediatos. Ambos concordam que os principais danos são:
  1. Desinformação.
  2. Uso de dados sem consentimento.
  3. Cibercrime.
• Divergência Específica: O público preocupa-se mais com a experiência de atendimento ao cliente, enquanto pesquisadores focam na redução de interações sociais.

B. Preocupações Reais vs. Narrativa Existencial

A descoberta mais impactante refere-se à pergunta aberta sobre a maior preocupação:

• Risco Existencial: Apenas 3% dos pesquisadores priorizaram o risco existencial (extinção humana, "IA descontrolada").
• Preocupações Dominantes: As maiores preocupações são práticas e de curto/médio prazo:
  • Uso malicioso (10,6%).
  • Uso indevido (9,9%).
  • Desinformação (8,8%).
  • Impacto no emprego (7,1%).
  • Hype (exagero) e falta de compreensão pública (5,4%).
• Conclusão: Os pesquisadores veem a IA como uma "tecnologia normal" com problemas de implementação e uso, e não como uma superinteligência iminente.

C. Fatores Demográficos e Setoriais

• Gênero: Mulheres são significativamente mais propensas a se preocupar com viés algorítmico (8% vs 4% nos homens) e a defender que reguladores considerem impactos desiguais.
• Setor (Indústria vs. Academia): Pesquisadores da indústria tendem a achar que o público se preocupa demais com os riscos e estão mais preocupados com o "hype" e o impacto no emprego. Acadêmicos demonstram maior preocupação com impactos ambientais (0% na indústria vs 2% na academia).
• Crença na AGI (Inteligência Artificial Geral):
  • 51% acreditam que a AGI é inevitável.
  • Aqueles que acreditam na inevitabilidade da AGI tendem a priorizar riscos existenciais e de alinhamento, e apoiam o desenvolvimento mais rápido.
  • Aqueles que não acreditam na inevitabilidade focam mais em preocupações de curto prazo (hype, privacidade, uso indevido).

D. Governança e Responsabilidade

• Dados de Treinamento: A maioria (65%+) rejeita que empresas treinem modelos em qualquer dado público; a maioria exige permissão explícita ou sistemas de opt-out.
• Responsabilidade: 2/3 dos pesquisadores concordam que os criadores de sistemas de IA devem ser responsabilizados pelos impactos no mundo real, rejeitando a ideia de que a responsabilidade é apenas do usuário.
• Direção da Inovação: Há uma forte preferência por modelos de código aberto e financiamento governamental focado em saúde e educação, rejeitando o foco militar.

4. Significado e Implicações

• Correção de Narrativa: O estudo desafia a narrativa dominante de que a comunidade científica de IA está obcecada com riscos existenciais de longo prazo. A "distância" (quem está longe da tecnologia) cria uma "encantamento" ou medo exagerado, enquanto quem está perto vê a tecnologia de forma mais "normal" e complexa.
• Democratização do Debate: A atual discussão pública, dominada por poucas vozes corporativas e focada em cenários catastróficos especulativos, pode estar alienando o público e os próprios pesquisadores, criando barreiras à participação democrática na governança da IA.
• Recomendação para Políticas Públicas: Em vez de especular sobre riscos futuros distantes, policymakers e pesquisadores devem colaborar para mitigar os riscos sociotécnicos atuais (viés, desinformação, privacidade, concentração de poder) que já são de clara preocupação pública e científica.
• Alerta sobre Privatização: Com a pesquisa de IA tornando-se cada vez mais privatizada e dominada por grandes empresas, o espaço para diálogo aberto e transparente com a comunidade acadêmica pode fechar rapidamente, tornando estudos como este urgentes para mapear a diversidade de opiniões antes que essas vozes sejam silenciadas.

Em resumo, o paper argumenta que a IA é vista pelos seus criadores como uma tecnologia com riscos sociais imediatos e complexos, exigindo governança focada em equidade, transparência e uso responsável, em vez de apenas no controle de uma inteligência artificial hipotética futura.