Building and Governing AI Systems: Advancing Social Workers' Roles across the Technology Industry, Human Service Organizations, and Policy Institutions

Resumo Técnico: Construção e Governança de Sistemas de IA

Problema
A inteligência artificial (IA) transitou de projetos piloto para infraestrutura operacional nos sistemas públicos onde o serviço social é praticado, incluindo resposta a crises, cuidados de saúde mental, administração de benefícios e proteção à criança e ao adolescente. Apesar de os assistentes sociais constituírem a maior categoria de especialistas em saúde comportamental licenciados e serem os principais operadores e sujeitos desses sistemas, eles estão amplamente ausentes dos processos de tomada de decisão que determinam o comportamento do sistema. A literatura e a prática atuais revelam que os assistentes sociais são consultados como usuários finais ou sujeitos em conjuntos de dados, mas raramente detêm autoridade de decisão sobre a definição do problema, seleção de dados, geração de resultados ou limiares de implementação. Essa ausência persiste apesar do tamanho da profissão e de seus métodos estabelecidos para trabalhar com populações vulneráveis. O artigo identifica uma lacuna na compreensão das posições ocupacionais específicas dentro de empresas de tecnologia, organizações de serviços humanos e instituições de políticas públicas onde as decisões de IA são tomadas, e argumenta que a profissão carece de um caminho estruturado para ocupar esses papéis.

Metodologia
Este artigo emprega uma estrutura conceitual e analítica em vez de coleta de dados empíricos. A metodologia envolve:

1. Mapeamento de Papéis: Uma revisão sistemática da literatura de engenharia de software e gestão de produtos para definir os papéis padrão em uma equipe de produto tecnológico (ex: Gerente de Produto, Engenheiro de Software, Designer de Produto, Pesquisador de UX, Cientista de Dados, Confiança e Segurança, Jurídico/Políticas) e as decisões específicas que cada papel controla.
2. Análise Disciplinar: Um exame dos campos acadêmicos e profissionais que circundam a tecnologia na era da IA (ex: Interação Humano-Computador, Ciência de Dados, Ciência Social Computacional, Estudos de Ciência e Tecnologia) para identificar sua institucionalização e seus pontos de contato com a produção acadêmica do serviço social.
3. Alinhamento de Competências: Uma análise comparativa mapeando as nove competências dos Padrões de Educação e Acreditação de Políticas Educacionais (EPAS) de 2022 para programas de Mestrado em Serviço Social (MSW) contra as tarefas específicas desempenhadas pelos papéis de produto tecnológico, com foco principal no papel de Gerente de Produto.
4. Síntese de Literatura: Uma revisão da produção acadêmica atual do serviço social sobre tecnologia, ética de IA e literacia para identificar lacunas atuais em relação à ética de "implementação" e autoridade de decisão.

Principais Contribuições
O artigo introduz uma tipologia de cinco grupos de papéis de decisão tecnológica que os assistentes sociais podem ocupar em toda a indústria de tecnologia, organizações de serviços humanos e instituições de políticas públicas:

1. Gestão de Produto: O exemplo principal, onde as decisões relativas a quais problemas do usuário resolver, priorização de funcionalidades e métricas de sucesso são tomadas.
2. Governança: Papéis focados em equidade, responsabilidade e segurança (ex: IA Responsável, Confiança e Segurança, Red Teaming).
3. Liderança Tecnológica Organizacional: Papéis dentro de organizações de serviços humanos que decidem quais tecnologias adotar e sob quais termos.
4. Colaboração com Concedentes: Papéis que gerenciam o relacionamento entre financiadores, fornecedores de tecnologia e instituições concedentes sem fins lucrativos.
5. Política e Supervisão: Papéis envolvidos na criação de regras, regulamentações e avaliações de impacto para sistemas de decisão automatizados.

O artigo propõe o conceito de "Literacia de Produção", estendendo-se além das definições atuais de literacia de IA. Enquanto a literacia de IA foca em entender o que os sistemas são e como usá-los, a Literacia de Produção exige compreender como os modelos são treinados e avaliados, como os produtos são descobertos e versionados, como os fornecedores precificam e retiram serviços, como as equipes de produto julgam o sucesso por meio de experimentos controlados e as estruturas regulatórias específicas (vinculativas vs. voluntárias) que regem os empregadores.

Resultados e Descobertas

• Alinhamento Metodológico: A análise demonstra que o trabalho diário de um Gerente de Produto alinha-se estreitamente com as competências do EPAS 2022. Por exemplo, "Avaliação de Necessidades" (Competência 7 do EPAS) corresponde diretamente à pesquisa de descoberta de produto; "Engajar-se em Pesquisa Informada pela Prática" (Competência 4) alinha-se com a encomenda e avaliação de pesquisas de descoberta; e "Avaliar a Prática" (Competência 9) mapeia para a avaliação de produto e definição de métricas.
• Autoridade de Decisão: O artigo constata que, embora os assistentes sociais sejam frequentemente envolvidos no uso de ferramentas, a autoridade de decisão sobre o comportamento do sistema (ex: definição de alvos de otimização, definição de padrões, determinação de limiares de risco) é detida por papéis como Gerentes de Produto, Cientistas de Dados e Engenheiros.
• Lacunas Éticas: Os códigos de ética atuais do serviço social (ex: Código de Ética da NASW) fornecem orientações detalhadas para profissionais que usam tecnologia, mas carecem de padrões para aqueles que a constroem, adquirem ou governam. O artigo argumenta que o julgamento ético sobre um sistema é refinado apenas pelo entendimento técnico profundo de seus mecanismos, um requisito atualmente não atendido pela ética focada na prática.
• Caminhos de Carreira: O artigo observa que, embora títulos específicos de "Gerente de Produto" para assistentes sociais ainda não sejam padronizados em classificações ocupacionais, existem precedentes em funções de Confiança e Segurança e de Políticas (ex: profissionais formados em MSW na Spotify, Snap e The Trevor Project). O artigo destaca que o lado do "implementador" do AI Act (UE) e estruturas semelhantes cria uma demanda por tomadores de decisão dentro das organizações de serviços humanos que são distintos do pipeline de contratação de engenharia.

Significância e Alegações
O artigo alega que, à medida que o setor tecnológico se expande para domínios que o serviço social atende, a profissão deve ir além da "literacia para a prática" e da "ética para a pesquisa" para ocupar papéis de decisão. Argumenta que os assistentes sociais possuem o julgamento de domínio e o treinamento metodológico (especificamente em avaliação de necessidades, design participativo e avaliação) necessários para liderar funções de produto e governança.

A significância do trabalho é formulada como um chamado à ação para três áreas:

1. Educação: Integrar a "Literacia de Produção" nos currículos de MSW e na educação de campo, potencialmente através de estágios em tecnologia cívica e clínicas, sem necessariamente exigir um segundo diploma.
2. Infraestrutura Profissional: O artigo traça um paralelo com a Informática de Enfermagem, sugerindo que o serviço social deve buscar credenciamento formal e investimento institucional para apoiar a liderança tecnológica, em vez de esperar por provas empíricas de sucesso.
3. Agenda de Pesquisa: O artigo delineia a necessidade de estudos empíricos para rastrear a entrada de assistentes sociais nesses papéis, medir sua autoridade de decisão real e avaliar se o emprego na indústria altera a postura crítica da profissão.

Os autores mantêm um tom modesto, reconhecendo que a correspondência entre o treinamento de serviço social e os papéis tecnológicos é uma hipótese a ser testada por dados de contratação e trajetórias de carreira, e que o trabalho institucional de credenciamento não deve esperar por essas respostas. O artigo não propõe novas intervenções experimentais, mas sim uma reorientação estrutural do desenvolvimento da força de trabalho da profissão em direção às decisões "a montante" dos sistemas de IA.