Three Lessons from Citizen-Centric Participatory AI Design
Baseando-se em três workshops participativos de 2025, este artigo identifica desafios fundamentais no design de IA de agentes centrados no cidadão — especificamente manter o engajamento, reduzir as lacunas de comunicação entre especialistas e leigos e traduzir inputs especulativos em sistemas — argumentando que a participação reflexiva e de longo prazo é essencial para o desenvolvimento responsável da IA.
Artigo original sob licença CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo
Imagine um mundo onde os computadores não apenas seguem ordens, mas agem como pequenos ajudantes com suas próprias personalidades, tomando decisões e conversando conosco. Os cientistas chamam esses seres de "agentes de IA". Mas aqui está a grande questão: quem decide como esses ajudantes devem ser? Geralmente, um pequeno grupo de especialistas em tecnologia em um laboratório os projeta. Mas e se as pessoas que realmente terão que conviver com esses ajudantes — pessoas comuns como estudantes, aposentados e vizinhos — pudessem ajudar a projetá-los também? Este é o coração do "design centrado no cidadão". É como pedir aos passageiros que ajudem a projetar o ônibus, não apenas ao motorista. O objetivo é garantir que esses futuros ajudantes de IA se ajustem às nossas vidas reais, aos nossos valores e às nossas comunidades, em vez de serem apenas dispositivos legais que podem acidentalmente causar problemas.
Este artigo é um relatório de uma equipe de pesquisadores que tentou construir uma ponte entre os especialistas em tecnologia e o público em geral. Eles realizaram três workshops diferentes, reunindo pessoas comuns e especialistas para idealizar como esses agentes de IA poderiam ser. Em vez de apenas conversar, os participantes foram criativos: eles contaram histórias sobre acordar em situações estranhas de IA e construíram protótipos "lo-fi" usando Legos, Play-Doh e recortes de revistas para mostrar como seriam seus ajudantes de IA ideais. Mais tarde, eles levaram essas ideias selvagens a um grupo de especialistas para ver se elas poderiam realmente ser construídas.
A equipe descobriu que, embora essa ideia pareça ótima, é, na verdade, bastante difícil de executar. Eles identificaram três obstáculos principais. Primeiro, manter as pessoas envolvidas é difícil. É como tentar manter uma banda unida; se você convida as pessoas apenas para uma música (um workshop), você perde o álbum inteiro. Os pesquisadores perceberam que, para obter valor real, as pessoas precisam fazer parte de toda a jornada, desde o primeiro lampejo de uma ideia até o produto final, e não apenas aparecer para uma conversa rápida.
Segundo, cada um fala uma língua diferente. Os especialistas falam sobre "agentes" e "algoritmos", enquanto o povo comum pode apenas pensar em "computadores inteligentes". Os pesquisadores descobriram que precisavam ter muito cuidado para não enganar acidentalmente os participantes usando palavras sofisticadas ou mostrando exemplos que os fizessem pensar de uma determinada maneira. Eles tiveram que admitir que até mesmo os próprios pesquisadores poderiam ter seus próprios preconceitos, por isso tiveram que ser extras cuidadosos para ouvir sem conduzir a conversa.
Finalmente, há o desafio de transformar aqueles desenhos e histórias criativas e divertidas em tecnologia real e funcional. Os participantes criaram 14 ideias diferentes de IA, mas descobrir quais delas poderiam realmente funcionar no mundo real era um quebra-cabeça. Os pesquisadores sugerem que o melhor caminho a seguir é manter a conversa contínua, combinando essas ideias criativas com especialistas que possam resolver os detalhes técnicos e éticos. Não é um problema resolvido ainda, mas eles acreditam que, se mantivermos o público envolvido do início ao fim, podemos construir uma IA que seja ao mesmo tempo inovadora e verdadeiramente útil para todos.
Afogado em artigos na sua área?
Receba digests diários dos artigos mais recentes que correspondam às suas palavras-chave de pesquisa — com resumos técnicos, no seu idioma.