openJiuwen, um framework de código aberto suportado pela Huawei, lançou o OmniMem-Lens — uma função de memória multimodal na versão 0.2.0 do seu módulo AgentMemory. Esta função permite que agentes de IA memorizem vídeos longos com base em eventos reais, e não em intervalos de tempo fixos, conforme relatado pela QbitAI em 4 de novembro.
A equipe afirma que a abordagem padrão, que consiste em dividir vídeos longos em segmentos de um minuto e armazenar cada um separadamente, prejudica a memória do agente de duas maneiras. Quando uma cena contínua é dividida entre janelas, o agente recebe apenas metade das evidências, o que contribui para alucinações. Além disso, alguns segundos de ação chave misturados com minutos de material irrelevante podem se perder no ruído, diminuindo a precisão da busca.
A maioria dos métodos de segmentação de eventos também depende apenas de um tipo de dado, fazendo com que ignorem mudanças de tópico se a imagem permanecer estática ou mudanças de cena se ninguém estiver falando. O OmniMem-Lens rastreia ambos os fluxos: o trilho visual marca as mudanças de cena, e o trilho de áudio usa reconhecimento de fala para determinar a mudança de tópico pelo falante, mesmo que a tela não tenha mudado. A verificação cruzada dessas duas fontes permite fazer cortes exatamente nos limites dos eventos reais.
Em um exemplo, onde foi mostrada uma visão geral de produto de duas horas, o mesmo esquema arquitetônico foi exibido por 40 minutos, enquanto o orador abordava três tópicos diferentes. O trilho de áudio os dividiu em três memórias, o que permitiu responder a uma pergunta subsequente sobre métricas de teste de carga.
A memória é armazenada em três níveis: L0 armazena o vídeo original, L1 contém memórias no nível de eventos e L2 contém memórias mais detalhadas no nível de segmentos. Os níveis L1 e L2 são totalmente convertidos em texto e vetores, o que permite integrá-los em stacks de geração existentes com amostragem aumentada e bancos de dados vetoriais principais com alterações mínimas. O trabalho principal de organização de dados é realizado offline. Durante uma consulta, o sistema correlaciona a consulta com L1 e L2, extraindo quadros exatos de L0 somente quando a verificação de detalhes visuais é necessária.
Ao testar o OmniMem-Lens em conjunto com Qwen3-VL-8B contra a resposta direta do Qwen3-VL-8B a partir do vídeo, a precisão de recuperação de informações aumentou em 8% no Video-MME-L e em 6,4% no LVBench. O maior aumento, de 45,7%, foi alcançado no EgoLife-QA, um conjunto de dados de primeira pessoa que registra um dia inteiro de vida cotidiana, onde o corte fixo frequentemente falha. No LVBench, o tempo de resposta em modo online diminuiu de 34,5 segundos para 1,72 segundos, cerca de 20 vezes mais rápido, e a equipe estima uma redução máxima de latência de 97%.
O código-fonte do projeto está disponível no GitCode com um espelho no GitHub sob a licença Apache-2.0. A equipe relata que o openJiuwen WorkSwarm em breve começará a suportar AgentMemory, o que permitirá memorizar e relembrar vídeos trocados em conversas cotidianas durante discussões posteriores.



