SenseTime lança modelo de inteligência artificial com 9 bilhões de parâmetros que utiliza reutilização de camadas para processamento aprofundado
Leia mais
TechNode
technode.com

SenseTime lança modelo de inteligência artificial com 9 bilhões de parâmetros que utiliza reutilização de camadas para processamento aprofundado

A SenseTime apresentou o SenseNova Loop-9B-Preview, um modelo multimodal disponível publicamente. Este modelo utiliza um método de recálculo para aumentar a profundidade do processamento sem a necessidade de duplicar os pesos correspondentes do modelo. O anúncio deste lançamento ocorreu em 30 de outubro.

O modelo é capaz de aceitar dados textuais e gráficos como entrada, gerando texto para executar tarefas relacionadas à compreensão de documentos, escrita de código e uso de ferramentas externas.

Ele funciona através de uma passagem dupla de um bloco comum de 24 camadas de decodificação, o que permite criar um caminho computacional mais profundo a partir de um modelo base com cerca de nove bilhões de parâmetros.

A configuração documental de treinamento suporta sequências de até 262.144 tokens e combina exemplos que incluem texto, imagens, código e uso de ferramentas. A SenseTime publicou os pesos do modelo, instruções de inferência e um guia de treinamento, distribuindo o projeto sob a licença Apache 2.0.

Popular