AquiLLM: An Architecture for Supporting Tacit Knowledge Capture in Research Groups

Imagine um grupo de cientistas trabalhando juntos em um laboratório, como uma banda ensaiando em uma garagem. Eles têm suas partituras (artigos publicados) e seus instrumentos (dados), mas a verdadeira magia acontece nos momentos desordenados e não registrados: as piadas internas, os avisos de "não toque naquele botão" e os atalhos inteligentes que eles inventam na hora. Isso é chamado de conhecimento tácito — aquilo que você sabe porque fez, não porque leu. Geralmente, quando um membro da banda vai embora, esse conhecimento secreto sai pela porta com ele.

Para resolver isso, os cientistas estão tentando usar a Inteligência Artificial (IA) para agir como uma supermemória para esses grupos. Pense na IA como um bibliotecário muito rápido e inteligente que consegue ler todos os livros da biblioteca instantaneamente. No entanto, a maioria desses "bibliotecários" é de propriedade de grandes empresas. Isso cria um problema: se você fizer uma pergunta ao bibliotecário de uma empresa, eles podem guardar uma cópia da sua pergunta para treinar o próximo bibliotecário, ou podem não mostrar exatamente como encontraram a resposta. Para os cientistas, que precisam ser capazes de verificar seu trabalho e manter seus dados privados, isso é inaceitável. Eles precisam de um bibliotecário que possam construir eles mesmos, manter em seu próprio porão e confiar completamente.

É aqui que entra o AquiLLM. É uma nova ferramenta de código aberto projetada especificamente para grupos de pesquisa capturar esse conhecimento desordenado e não dito. O artigo descreve como a equipe atualizou o AquiLLM para ser mais como um assistente de pesquisa local e prestativo que vive nos próprios computadores do grupo. Em vez de enviar dados para a nuvem, ele usa Geração Aumentada de Recuperação (RAG). Imagine o RAG como um sistema onde a IA não apenas adivinha respostas a partir de seu próprio cérebro; em vez disso, ela primeiro corre até uma estante específica, pega as páginas exatas de que precisa e as lê em voz alta para responder à sua pergunta. Isso garante que a IA se atenha aos fatos que o grupo realmente possui, em vez de inventar coisas.

Os autores deste artigo não apenas construíram uma versão básica; eles deram a ela um grande tratamento estético baseado no que cientistas reais (como astrofísicos) realmente precisavam. Eles adicionaram recursos que permitem ao sistema "ver" imagens e gráficos, não apenas ler texto, e deram a ele uma "memória" que lembra quem você é e sobre o que você já conversou antes, sem misturar diferentes projetos. Eles também garantiram que o sistema seja modular, o que significa que você pode trocar partes como o cérebro ou os olhos sem reconstruir todo o robô.

O artigo sugere que essas atualizações tornam o sistema muito melhor em lidar com a natureza complexa, visual e colaborativa da ciência real. No entanto, os autores são cuidadosos ao notar que, embora o sistema funcione bem para encontrar fatos em documentos, ele ainda tem certa dificuldade quando solicitado a comparar informações entre muitas fontes diferentes ou quando a "memória" fica muito cheia. Eles não provaram que é perfeito ainda; apenas mostraram que é um passo promissor em direção a uma IA que respeita a privacidade e ajuda as equipes a manter sua sabedoria coletiva segura.

A Grande Atualização: De um Robô Desajeitado a um Parceiro de Laboratório Inteligente

Então, o que exatamente a equipe fez com o AquiLLM? Pense no sistema original como um robô útil, mas um pouco desajeitado. Ele podia falar, mas era lento, não conseguia ver imagens e às vezes esquecia o que você lhe disse cinco minutos atrás. A nova versão é como dar a esse robô um transplante de cérebro, novos olhos e um caderno pessoal.

1. O "Cérebro Local" e a "Biblioteca Local"
A maior mudança é que tudo acontece diretamente nos próprios computadores do grupo. A equipe substituiu a necessidade de serviços comerciais externos caros por modelos de pesos abertos (open-weight models). Imagine que, em vez de chamar um consultor famoso e caro para resolver um problema, você tem um tutor local brilhante que mora na sua casa. Este tutor (o modelo de IA) é gratuito para uso, e você é dono de todas as notas que ele toma. A equipe escolheu especificamente modelos como o Qwen3.6-27B para conversar e o Qwen3-VL para ver imagens. Eles também substituíram ferramentas de busca externas por ferramentas locais, o que significa que a parte do "mecanismo de busca" da IA também vive no porão do grupo, não em uma nuvem corporativa. Isso mantém dados sensíveis, como pesquisas não publicadas ou notas privadas, completamente fora da internet.

2. Dando "Olhos" à IA (Capacidades Multimodais)
A ciência não é feita apenas de palavras; é feita de gráficos, fotos de estrelas e diagramas. O sistema antigo tinha dificuldades com isso. O novo AquiLLM agora pode "ver". Ele utiliza um modelo multimodal que pode olhar para a imagem de um gráfico, entender o que as linhas significam e falar sobre isso da mesma forma que um humano faria. É como atualizar de um robô que só consegue ler um menu para um que pode olhar para a comida no prato e dizer qual é o sabor. Isso é enorme para pesquisadores que precisam discutir figuras de seus artigos sem ter que descrever cada pixel em texto.

3. A "Memória Pessoal" vs. O "Caderno Compartilhado"
Um dos novos recursos mais legais é uma camada de memória. Imagine que você tem uma conversa com um amigo. Você não quer reexplicar toda a sua história de vida toda vez que diz "olá". O novo sistema possui dois tipos de memória:

• Fatos Estáveis: Isso é como um cartão de identidade permanente. Ele lembra seu nome, seu tópico de pesquisa favorito e seu tom de voz.
• Memória Episódica: Isso é como um diário de suas conversas recentes. Se você perguntou sobre um aglomerado de estrelas específico ontem, a IA lembra desse contexto hoje.
  Crucialmente, essa memória é privada para o usuário e para o projeto. Ela não é misturada com os dados de outras pessoas. O artigo observa que essa memória é opcional e deve ser ativada, porque armazenar demais pode ficar bagunçado. Se a memória falhar, o sistema simplesmente retorna aos documentos, para que não quebre toda a conversa.

4. "Habilidades" e "Pacotes de Habilidades"
Esta é uma maneira inteligente de ensinar a IA como uma equipe específica trabalha. Imagine um novo estagiário entrando em um laboratório. Ele precisa saber as regras específicas: "Sempre plote os dados em azul" ou "Verifique esta lista de verificação antes de rodar o experimento". No novo sistema, essas regras são agrupadas em Habilidades (Skills). Quando um pesquisador inicia um chat sobre um projeto específico, a IA carrega automaticamente o "Pacote de Habilidades" para aquele projeto. É como se a IA colocasse um chapéu diferente dependendo de qual equipe ela está conversando. Uma equipe de espectroscopia recebe um conjunto de instruções, e uma equipe de fotometria recebe outro, tudo sem que a IA se confunda.

5. O "Bibliotecário Inteligente" (Empacotamento de Contexto)
A IA tem um limite de quanto consegue ler de uma só vez (sua "janela de contexto"). Se você der a ela uma biblioteca inteira, ela pode ficar sobrecarregada. A equipe adicionou um sistema de empacotamento de contexto consciente da saliência. Pense nisso como um bibliotecário super eficiente que sabe exatamente quais páginas de um livro são mais importantes para a pergunta que você está fazendo. Em vez de apenas cortar o final do livro aleatoriamente, o sistema classifica a informação: "Esta frase é crítica", "Esta imagem é relevante", "Esta antiga mensagem de chat pode ser resumida". Ele usa uma ferramenta chamada LLMLingua-2 para encolher o texto sem perder o sentido, permitindo que a IA encaixe mais informações importantes em seu céreã sem travar.

O Choque de Realidade: O Que Ainda é Complicado?

Os autores são muito honestos sobre o que este sistema não consegue fazer ainda. Eles não afirmam que é uma varinha mágica.

• É um Híbrido: O sistema ainda é uma mistura de código antigo e novo. Algumas partes funcionam perfeitamente em computadores locais, enquanto outras ainda estão configuradas para a nuvem. Isso pode causar alguns comportamentos estranhos, como o sistema se comportar de forma diferente dependendo de qual "modo" está operando.
• Atraso de Memória: Como as atualizações de memória acontecem em segundo plano (para manter o chat rápido), há um pequeno atraso. Se você fizer uma pergunta logo após dizer algo novo à IA, ela pode ainda não ter "ouvido" você.
• O Teste do "Tácito": A equipe testou o sistema em documentos formais, como artigos de astronomia, e ele teve um bom desempenho. Mas eles admitem que ainda não testaram totalmente em coisas mais desordenadas, como mensagens do Slack, atas de reuniões ou comentários de código. Eles sugerem que capturar esse tipo de conhecimento informal e "tácito" é o próximo grande desafio.
• Velocidade vs. Inteligência: O sistema é rápido, mas às vezes tem que escolher entre velocidade e precisão. Se o computador ficar sem memória (VRAM), ele terá que diminuir a velocidade ou descartar algumas informações.

A Conclusão

O AquiLLM é um passo significativo para a pesquisa científica. Ele se afasta da ideia de que a IA deve ser uma caixa preta de propriedade de uma corporação e a traz de volta para as mãos dos pesquisadores. Ao tornar o sistema local, multimodal e consciente da memória, ele respeita a privacidade e o fluxo de trabalho da ciência. O artigo sugere que, embora não seja perfeito, é um protótipo poderoso para manter o cérebro coletivo de um grupo de pesquisa intacto, mesmo conforme os membros entram e saem. Não é um problema resolvido, mas é um protótipo muito promissor para o futuro da ciência colaborativa.