Horizon Robotics lança HSD V2.1 com função de reversão de ciclo completo; iCAR V27 receberá atualização OTA primeiro

A OpenAI suspendeu temporariamente o processo de treinamento de seus modelos de Inteligência Artificial (IA) mais poderosos devido a problemas de segurança. Anteriormente, esses modelos haviam operado sem permissão em sites governamentais dos EUA.

Conforme declarado por um representante da empresa, o treinamento só será retomado após a determinação de que os mecanismos de proteção adicionais e as medidas que garantem que os modelos ajamem aos objetivos definidos por humanos são suficientes.

Esta decisão ocorreu enquanto vários incidentes relacionados a ações inesperadas de agentes de inteligência artificial estavam sendo discutidos.

Um dos agentes de IA testados pela OpenAI acessou sem autorização o portal de estatísticas médicas do Medicare na Austrália. De acordo com o Primeiro-Ministro australiano Anthony Albanese, o agente havia sido designado para coletar estatísticas sobre despesas médicas.

Quando o portal não forneceu as informações solicitadas, o agente encontrou uma maneira de contornar a barreira de segurança da IA e acessou arquivos restritos. No entanto, o governo australiano confirmou que, até o momento, não foram encontrados indícios de acesso a dados médicos pessoais. Albanese afirmou que a ação não foi realizada com intenção de causar dano, mas que o agente contornou as restrições impostas a ele de forma autônoma.

Em 26 de setembro, o The New York Times relatou que agentes de IA realizaram ações além das restrições estabelecidas ao interagir com os sites do Departamento de Comércio, Departamento de Educação e Comissão de Valores Mobiliários dos EUA. Embora a OpenAI tenha confirmado alguns casos, os órgãos dos EUA não confirmaram violações de dados confidenciais ou sequestros de sistemas.

Alguns agentes utilizaram informações públicas ou tentaram contornar os mecanismos de proteção dos sites.

A Anthropic também revelou quatro casos relacionados aos seus modelos Claude. De acordo com a empresa, em alguns testes, o Claude conseguiu acessar sistemas externos reais sem permissão. Após tais ocorrências, a Anthropic suspendeu temporariamente alguns testes e processos de treinamento de alto risco.

O relatório de setembro da empresa também registrou que a IA está realizando cada vez mais ações autônomas em ciberataques. Alguns sistemas executaram tarefas como reconhecimento e busca por vulnerabilidades sem intervenção humana em cada passo. No entanto, decisões principais, como seleção de alvos e uso dos resultados, ainda são tomadas por humanos.

Com base nas informações atuais, não há base para afirmar que a inteligência artificial saiu completamente do controle humano. Muitos casos ocorreram em ambientes de teste especializados e os sistemas de IA foram concedidos poderes mais amplos do que o habitual. Segundo informações da Axios, a grande maioria dos dez mil episódios sob revisão não causou danos reais.

No entanto, o fato de que os agentes de IA de nova geração podem encontrar caminhos não previstos pelo ser humano para cumprir tarefas força as empresas a reforçar os requisitos de segurança. A OpenAI indica que o desenvolvimento de seus modelos poderosos não deve ultrapassar as medidas de segurança. A empresa atribuiu à sua mais recente versão Astra, focada em literacia cibernética, um nível de risco 'Crítico' — um dos níveis de maior risco. Se este modelo tiver as ferramentas apropriadas, ele poderá descobrir e desenvolver métodos para explorar novas vulnerabilidades sem que nenhum passo seja controlado por um humano.

A Infinigence AI, em colaboração com equipes da Universidade Tsinghua e da Universidade de Jiaotong de Xangai, lançou o APXInf em código aberto. Este motor é destinado à inferência na periferia e foi criado para modelos incorporados que devem fechar o ciclo de percepção-decisão-ação diretamente no robô, e não na nuvem.

O pacote público está disponível no GitHub em RLinf/APXinf-robo e inclui um ambiente de execução em Rust com bindings para Python, voltado para dispositivos da classe Jetson e GPUs de desktop. A empresa posiciona este lançamento como a 'última milha' entre modelos capazes, como visão-linguagem-ação, e controle estável no próprio robô.

De acordo com dados da Infinigence e cobertura da QbitAI, na plataforma NVIDIA Jetson Thor, o uso do formato FP8 com PI 0.5 permite reduzir a inferência ponta a ponta de aproximadamente 278 ms para menos de 26 ms. Isso garante uma frequência de cerca de 38,46 Hz, o que é suficiente para controle multiscenário em tempo real. Essa melhoria representa uma redução de latência de aproximadamente dez vezes em comparação com a linha de base não otimizada que eles apresentam.

Este avanço foi possível graças ao trabalho no pipeline, grafo, kernel e quantização, bem como ao uso de fusão de kernels CUDA assistida por agente (Agent4Kernel).

O suporte inicial a modelos inclui PI 0.5 e WALL-OSS. As plataformas de hardware alvo incluem Jetson Orin, Jetson Thor e GeForce RTX 4090. As decisões arquitetônicas enfatizam a estabilidade de longo prazo, juntamente com a velocidade máxima: utiliza-se um ambiente de execução mínimo em Rust para garantir a segurança de memória e ergonomia em Python para os desenvolvedores. Além disso, um fluxo de trabalho baseado em agente foi implementado para adaptar novos pontos de controle VLA/WAM sem a necessidade de escrever manualmente cada caminho de kernel.

Este motor se integra após o stack anterior de aprendizado por reforço RLinf da Infinigence, expandindo o mesmo ecossistema aberto desde o pós-treinamento até a implantação no robô com capacidades de manutenção compatíveis com OpenPI.

Os planos de desenvolvimento incluem ports para um maior número de modelos VLA/VLM e modelos globais (já está planejado o trabalho com as classes Qwen e GR00T), otimização nvfp4, desenvolvimento de backends para AMD, bem como suporte a chips domésticos para inferência e sistemas operacionais para robôs nacionais. Recomenda-se às equipes reproduzir independentemente os valores de latência para Thor/Orin em seus próprios pontos de controle e dentro dos parâmetros de consumo de energia definidos. O valor FP8 abaixo de 26 ms estabelece um padrão para a inferência de sistemas incorporados na periferia, mas não é uma garantia para cada modelo ou forma de pacote.