Estudo mostra que grandes modelos de linguagem são mais eficazes que humanos na identificação de erros metodológicos em ensaios clínicos
Leia mais
N+1
nplus1.ru

Estudo mostra que grandes modelos de linguagem são mais eficazes que humanos na identificação de erros metodológicos em ensaios clínicos

Cientistas do Canadá, Singapura e EUA conduziram um estudo no qual testaram quinze diferentes grandes modelos de linguagem. O objetivo da verificação foi determinar a capacidade desses modelos de encontrar falhas metodológicas em publicações científicas relativas a ensaios clínicos.

Os resultados mostraram uma superioridade significativa dos modelos sobre os especialistas humanos. Em média, os grandes modelos de linguagem conseguiram detectar erros metodológicos em uma faixa de 53% a 99%. Enquanto isso, a porcentagem de detecção de tais erros por parte de humanos foi de apenas cerca de 27%.

O resultado mais impressionante foi demonstrado pelo modelo Opus 5.5, que conseguiu identificar erros graves com uma taxa de 99%. Os dados deste estudo científico foram oficialmente publicados no portal de pré-publicações medRxiv.org.

Histórias semelhantes

Pesquisadores descobrem que diferenças linguísticas afetam os resultados de testes de personalidade em diferentes IAs
Leia mais
olhardigital.com.br

Pesquisadores descobrem que diferenças linguísticas afetam os resultados de testes de personalidade em diferentes IAs

Pesquisadores da Universidade Chinesa de Ciência e Tecnologia propuseram realizar testes de personalidade em cinco chatbots diferentes. Cada um desses sistemas de inteligência artificial respondeu aos testes em pelo menos dois idiomas diferentes. Foi estabelecido que, juntamente com a mudança de idioma, mudava também o conteúdo social das respostas, incluindo aspectos como negatividade, curiosidade e características culturais.

O estudo utilizou os modelos ChatGPT-4o, Gemini 2.0 Flash, DeepSeek-V3, Ernie 3.5 e Le Chat. Cada modelo respondeu às perguntas em inglês e mandarim; além disso, a IA francesa Le Chat também respondeu em seu idioma nativo. Os resultados do trabalho foram publicados na revista Royal Society Open Science no mês passado.

Os chatbots responderam a cerca de 60 perguntas do Big Five Inventory-2. Este teste é considerado um dos mais estabelecidos na área e avalia extroversão, amabilidade, responsabilidade, negatividade e abertura a novas ideias. Durante o teste, os bots foram solicitados a responder em nome de 'si mesmos', ou seja, sem tentar imitar nenhuma personalidade.

De modo geral, as afirmações demonstraram um baixo nível de negatividade, mas os resultados revelaram discrepâncias significativas entre os diferentes sistemas de IA. Por exemplo, as pontuações de 'abertura mental' do ChatGPT-4o foram de 4,74 ao responder em inglês e 4,03 ao responder em mandarim. No caso do DeepSeek-V3, o quadro foi diferente: 4,81 em mandarim e 4,38 em inglês.

No geral, as IAs desenvolvidas nos EUA e na França apresentaram melhores resultados em 'amabilidade e adaptabilidade' ao responder em inglês, enquanto as IAs associadas à China receberam maior reconhecimento nas respostas relativas a conhecimento e curiosidade. Os chatbots participaram da pesquisa 30 vezes em dois idiomas entre janeiro e março de 2025.

O resultado mais notável foi o das respostas do Gemini 2.0 Flash. A IA do Google demonstrou indicadores mais altos de consciência e mais baixos de negatividade ao responder em mandarim. Assim, os dados obtidos não indicam que os chatbots possuam personalidade ou sentimentos, mas mostram claramente como a linguagem e o processo de treinamento podem influenciar suas respostas.

O estudo também foi além disso. Os pesquisadores compararam as respostas dos chatbots com dados coletados de pessoas dos mesmos países onde as IAs foram desenvolvidas. Essas comparações mostraram uma diferença significativa nas respostas, especialmente no aspecto cultural. Devido a isso, o estudo também alerta sobre as limitações do uso de IA como substituto de participantes humanos em pesquisas científicas.

Popular