A virtually nilpotent group whose Green series is not D-finite

1. Declaração do Problema e Contexto

A Série de Green:
O artigo investiga a série de Green (também conhecida como série de crescimento de cogrowth), denotada por $\Gamma(G, S)(z)$, para um grupo $G$ com um multiconjunto finito de geradores $S$. Ela é definida como:
$$\Gamma(G, S)(z) = \sum_{\ell \geq 0} c_\ell z^\ell$$
onde $c_\ell$ é o número de caminhos fechados de comprimento $\ell$ que começam e terminam no elemento identidade $e_G$ no grafo de Cayley de $(G, S)$.

A Hierarquia de Séries:
O autor busca classificar essas séries dentro de uma hierarquia algébrica específica:
$$\text{Racional} \subset \text{Algebraica} \subset \text{Diagonal de Racional} \subset \text{D-finita} \subset \text{D-algebraica}$$

• D-finita (Holonômica): Uma série é D-finita se seus coeficientes satisfazem uma relação de recorrência linear com coeficientes polinomiais.
• Resultados Conhecidos:
  • Racional se e somente se $G$ é finito.
  • Algebraica se $G$ é virtualmente livre.
  • Diagonal de racional se $G$ é virtualmente $F_m \times \mathbb{Z}^n$.
  • Não D-finita para grupos amenos de crescimento superpolinomial (Bell & Mishna).
  • Não D-finita para conjuntos de geradores específicos de $F_2 \times F_2$ e $SL_4(\mathbb{Z})$ (Garrabrant & Pak).

A Questão Aberta:
Para grupos virtualmente nilpotentes, o consenso era incerto. Embora as taxas de crescimento assintótico dos coeficientes frequentemente correspondissem às de séries D-finitas, era desconhecido se a própria série era sempre D-finita. Um resultado anterior de Pak e Soukup mostrou que, para um grupo nilpotente específico $UT_m(\mathbb{Z})$ (com $m \approx 10^8$), ou a série não é uma diagonal de séries racionais, ou nenhum algoritmo existe para computá-la. Eles não provaram que a série era estritamente não-D-finita.

Objetivo:
Fornecer o primeiro exemplo de um grupo virtualmente nilpotente com um conjunto de geradores específico cuja série de Green é não D-finita.

---

2. O Grupo e o Conjunto de Geradores

O artigo foca no grupo $vH$, definido como o produto semidireto $H_3(\mathbb{Z}) \rtimes C_2$.

• Estrutura: $vH = \langle x, y, t \mid [x, [x, y]] = [y, [x, y]] = t^2 = e, txt = y \rangle$.
• Propriedades: É virtualmente 2-estep nilpotente. Foi anteriormente identificado como o primeiro exemplo de um grupo com crescimento geodésico polinomial que não é virtualmente abeliano.
• Conjunto de Geradores: O multiconjunto específico utilizado é $S = \{x, x^{-1}, t, t, t, t, t, t, t, t\}$. Note a multiplicidade do gerador $t$ (oito cópias).

Teorema Principal (Teorema 1):
A série de Green $\Gamma(vH, S)(z)$ é não D-finita.

Corolário:
Como $vH$ se embute em $SL_3(\mathbb{Z})$, segue-se que $SL_3(\mathbb{Z})$ admite um multiconjunto de geradores para o qual a série de Green não é D-finita. Isso estende resultados anteriores conhecidos apenas para $SL_m(\mathbb{Z})$ com $m \geq 4$.

---

3. Metodologia

A estratégia de prova adapta a abordagem usada por Garrabrant e Pak para $F_2 \times F_2$, baseando-se em complexidade de subpalavras e sequências multiplicativas.

A. Redução a Palavras Reduzidas

O autor relaciona primeiro a série de Green $\Gamma(z)$ à série de crescimento de palavras "reduzidas" $R(z)$ (palavras sem retrocesso imediato $xx^{-1}$). Usando uma variação da fórmula de cogrowth de Bartholdi–Grigorchuk, mostra-se que $\Gamma(z)$ é D-finita se e somente se $R(z)$ é D-finita.

B. Decomposição de Caminhos

O conjunto de palavras reduzidas $R$ é particionado em três subconjuntos com base no número de geradores $t$:

1. $R_1$: Palavras com poucos $t$'s (no máximo 4, ou 6 com $t$'s consecutivos). Este conjunto corresponde a uma linguagem livre de contexto e produz uma série algebraica (logo, D-finita).
2. $R_3$: Palavras com muitos $t$'s (pelo menos 8). A contribuição desses termos é divisível por potências altas de 2, tornando-os negligenciáveis módulo potências específicas de 2.
3. $R_2$: Palavras com exatamente seis $t$'s e sem $t$'s consecutivos. Este é o conjunto crítico.

C. Análise Combinatória de $R_2$

Os caminhos em $R_2$ correspondem a formas geométricas específicas no grafo de Cayley do subgrupo de Heisenberg. A contagem desses caminhos reduz-se a resolver um sistema diofantino para inteiros $(a, b, c, d)$:
$$a + b + c + d = n, \quad ab = cd$$
O número de soluções, denotado $|S_n|$, é analisado módulo potências de 2. O autor identifica simetrias (ações do grupo diedral $D_8$) para simplificar a contagem.

D. Conexão com Funções Multiplicativas

A análise revela que o número de soluções $|S_n|$ (especificamente para índices ímpares) está diretamente relacionado a uma função $m(n)$, definida como o maior inteiro tal que $m^2$ divide $n$.
O autor constrói uma série derivada $S(z)$ cujos coeficientes módulo 2 dependem do valor de uma função multiplicativa $f(n)$:
$$f(n) = m\left(\frac{n}{2^{\nu_2(n)}}\right) \pmod 4$$
onde $f(n) \in \{+1, -1\}$.

E. Argumento de Complexidade de Subpalavras

O cerne da prova baseia-se no Teorema 7 (Garrabrant–Pak): Se uma série é D-finita, a complexidade de subpalavras de seus coeficientes módulo 2 deve ser $o(2^n)$.
O autor prova o Teorema 9: Para a função multiplicativa específica $f(n)$ construída acima, a complexidade de subpalavras é máxima ($p_f(n) = 2^n$).

• Prova do Teorema 9: Usa o Teorema Chinês do Resto e a escassez de potências de primos onde $f(q) = -1$ para mostrar que qualquer padrão de $\pm 1$ de comprimento $n$ pode ser realizado por $f(x+i)$ para algum $x$.

Como os coeficientes da série derivada $S(z)$ exibem complexidade de subpalavras máxima, $S(z)$ não pode ser D-finita. Como $S(z)$ é construída a partir de $R(z)$ usando operações que preservam D-finitude (extração de termos pares/ímpares, combinações lineares), a série original $R(z)$ e, consequentemente, $\Gamma(z)$ não podem ser D-finitas.

---

4. Contribuições Chave

1. Resolução do Caso Virtualmente Nilpotente: O artigo fornece o primeiro contraexemplo à conjectura de que as séries de Green de grupos virtualmente nilpotentes são D-finitas.
2. Refinamento de Pak-Soukup: Fortalece o resultado de Pak e Soukup provando que a série é estritamente não D-finita (em vez de apenas não ser uma diagonal de séries racionais ou não computável) para um grupo virtualmente nilpotente.
3. Extensão para $SL_3(\mathbb{Z})$: Ao embutir $vH$ em $SL_3(\mathbb{Z})$, o resultado estende o fenômeno de não-D-finitude para o grupo linear especial em dimensão 3 (anteriormente conhecido apenas para $m \geq 4$).
4. Avance Metodológico: O artigo aplica com sucesso a técnica de "complexidade de subpalavras de sequências multiplicativas" a um cenário nilpotente, superando a dificuldade de que as taxas de crescimento assintótico padrão em grupos nilpotentes geralmente imitam o comportamento D-finito.

---

5. Significado e Direções Futuras

• Impacto Teórico: Este resultado desafia a intuição de que grupos geométricos "bons" (como os nilpotentes) sempre produzem funções geradoras "boas". Destaca que as propriedades aritméticas da estrutura do grupo (especificamente a interação entre o gerador $t$ e o subgrupo de Heisenberg) podem induzir comportamento caótico na série de cogrowth.
• Problemas Abertos:
  • O Grupo de Heisenberg Discreto $H_3(\mathbb{Z})$: O artigo observa que o truque específico de adicionar múltiplas cópias de um gerador ($t$) usado aqui não se aplica imediatamente ao próprio $H_3(\mathbb{Z})$. Estender o resultado para $H_3(\mathbb{Z})$ permanece um desafio aberto e significativo.
  • Frequências Assintóticas: O autor menciona que uma prova alternativa usando densidades assintóticas de números sem fator quadrado dependeria da conjectura não provada de que $\pi^2$ e a constante de Catalan $G$ são linearmente independentes sobre $\mathbb{Q}$.
• Contexto Mais Amplo: O resultado sugere que a fronteira entre séries D-finitas e não-D-finitas na teoria dos grupos é mais complexa do que se pensava anteriormente, particularmente para grupos que estão "perto" de serem abelianos ou nilpotentes.

Em resumo, o artigo de Bodart utiliza uma interação sofisticada entre teoria combinatória dos grupos, teoria dos números (funções multiplicativas) e teoria das linguagens formais para demonstrar que, mesmo no mundo relativamente manso dos grupos virtualmente nilpotentes, as séries de Green podem exibir complexidade máxima.