Do Zero a uma Resposta Fundamentada em Dez Minutos

A maioria das ferramentas de conhecimento faz você merecer a demo com uma tarde de configuração antes de a primeira resposta útil aparecer. A primeira sessão do MonkeyLLM é deliberadamente curta: subir, reivindicar, ingerir, perguntar. Esta é a versão de dez minutos, com o que você deve ver na tela em cada etapa.

O que você está prestes a rodar

O MonkeyLLM é uma floresta de conhecimento auto-hospedada: um grafo interligado de pequenas notas curadas que seus agentes de IA percorrem nó a nó, em vez de um índice vetorial que eles consultam por chunks top-k. A distinção é o produto inteiro, porque recuperação top-k é um único salto por construção e perguntas reais encadeiam saltos; destrinchamos isso em por que multi-hop quebra o RAG. Hoje é puramente prático. Navegue, não recupere (Navigate, don't retrieve).

Tudo roda nas suas máquinas. O engine é Apache-2.0, os apps são AGPL, e seus dados nunca saem da sua infra.

Quatro comandos até uma Station rodando

O deploy é docker compose, quatro comandos no total. Mantemos os comandos exatos em um único lugar para que nunca descolem do código: o quickstart tem a versão curta, o guia de deploy tem as opções, e o passo a passo de self-hosting com Docker explica cada etapa se este é o seu primeiro arquivo compose.

Em hardware, você tem folga. Nosso rig de benchmark é uma única RTX 3060 com 12 GB, e um modelo 12B quantizado cabe inteiro nela. Placas de 8 GB funcionam com quantização mais apertada ou offload para CPU via llama.cpp. Sem GPU nenhuma também funciona: aponte o binding de chat para qualquer endpoint compatível com OpenAI (OpenRouter, um servidor llama.cpp, Ollama) e o resto desta sessão é idêntico.

Quando os containers sobem, a Station serve o console no seu navegador.

Primeiro boot: reivindique sua floresta

Sua primeira visita cai na tela de setup. Você cria a conta de dono aqui, e todo o resto no console (chaves, bindings de modelo, controle de acesso) descende dessa conta. Não há handshake com nuvem nem licença ligando para casa. A floresta é sua desde o primeiro clique.

Ingira uma pasta, acompanhe o job

Aponte um job de ingestão para uma pasta de documentos reais. Cada um vira um nó com um passaporte curado (seu título, resumo e tags: o pequeno rótulo que um agente lê antes de decidir abrir o nó). O resumo obedece a um contrato rígido de sessenta tokens, porque esses passaportes são o que toda caminhada futura vai ler.

A ingestão é onde o MonkeyLLM gasta seu esforço, e o gasto é visível: a tela de Ingestão mostra arquivos, pastas e clipes como um job que você acompanha andando.

Para calibrar: em 100 documentos heterogêneos do mundo real, medimos 1.71 s por documento, com 100% dos resumos passando no contrato de sessenta tokens e zero links quebrados depois.

Pergunte, e veja em que a resposta se apoia

Abra a tela Ask (a capa deste post) e pergunte algo que atravesse documentos. A resposta chega apoiada nos nós que usou: o agente entrou pela busca, leu rótulos, seguiu links, abriu só o que precisava, e a tela mostra esse caminho.

Essa estrutura é o motivo de o mesmo modelo local de 12B que marca 0/11 no nosso benchmark estritamente multi-hop como leitor de RAG top-k clássico marcar 11/11 como navegador de floresta. É um benchmark pequeno, 11 perguntas, e dizemos isso com todas as letras; o corpus, os conjuntos de perguntas e o harness estão commitados, e cada tabela é regenerada com um comando.

Seus dez minutos começam agora

Quatro comandos e uma pasta são tudo o que pedimos. Suba a partir do quickstart, e se a sua primeira resposta fundamentada chegar como a nossa chegou, dê uma estrela para o repo no GitHub ou continue lendo em monkeyllm.com.