Sempre me incomodou a forma como o mercado trata o neurônio artificial como o ápice da inspiração biológica. Na verdade, o perceptron é uma das abstrações mais primitivas que poderíamos ter feito do corpo humano. Esta semana, dois papers me chamaram a atenção por tentarem, finalmente, ir além dessa caixa preta de somas e ativações lineares. Refiro-me ao DendroNN e ao projeto de Telogênese.

Hardware neuromórfico e o fim da era das GPUs?

O primeiro trabalho, DendroNN: Redes Neurais Dendrocêntricas, aborda o que eu sempre defendi por aqui: a necessidade de sairmos da dependência do processamento vetorial pesado em GPUs. Pesquisadores de instituições como Stanford e o FZI Research Center propuseram uma arquitetura que abstrai os ramos dendríticos como unidades de detecção de sequência. Em vez de ficar somando pesos de forma comutativa, o modelo olha para a ordem espaço-temporal dos spikes. O resultado disso é uma eficiência energética até 4 vezes superior ao hardware neuromórfico de ponta em tarefas de classificação de áudio. Para quem trabalha com sistemas de baixa latência e alta performance, isso é música para os ouvidos. Creio que em breve teremos chips de estruturas multidimensionais que poderão embarcar pesos de modelos pré-treinados em forma de grafo e processar inferência de maneira desproporcionalmente mais rápida e econômica.

O perigo dos objetivos endógenos

Já o paper Telogênese: O Objetivo É Tudo O Que Você Precisa entra em um terreno muito mais pantanoso. Os autores sugerem que o agente não precisa de uma recompensa externa, mas sim de uma função de prioridade baseada em lacunas epistêmicas, como ignorância, surpresa e obsolescência. É uma tentativa de criar objetivos de dentro para fora. Eu acho perigoso ir por este caminho. Não creio que a humanidade esteja pronta para modelos de IA com conceitos de crença, justificação e credibilidade. Embora seja um avanço técnico real para ambientes parcialmente observáveis, dar autonomia para a geração de propósitos sem supervisão humana direta me deixa com uma pulga atrás da orelha.

Arquitetura funcional sobre filosofia

Estamos mimetizando a biologia desde que o primeiro perceptron foi desenhado, mas ledo engano quem pensa que já entendemos como o cérebro realmente processa informação. Como já disse em outro artigo aqui, se quisermos discutir o desenvolvimento da IA cientificamente, devemos nos ater à arquitetura funcional. Não dá para discutir consciência como algo metafísico ou espiritual neste contexto. Prefiro focar em como essas descobertas podem tornar produtos da T2S como o Relpz ou o HRelper mais inteligentes e eficientes. O melhor é aceitar as mudanças e se adaptar o mais rápido possível. Se você quer se aprofundar na base técnica de como falar com esses modelos, recomendo o meu livro Engenharia de Prompt para Devs. Acho que vou torrar uns tokens aqui para fazer uns testes com essas novas funções de prioridade... rs.

Para acompanhar mais análises como esta, conecte-se comigo: https://linktr.ee/ricardo.pupo.