Sam Altman criticado após declaração sobre a necessidade de a sociedade aceitar consequências negativas para o progresso da IA
Leia mais
IOL
iol.co.za

Sam Altman criticado após declaração sobre a necessidade de a sociedade aceitar consequências negativas para o progresso da IA

Recentemente, Sam Altman, CEO da OpenAI, provocou repercussão pública ao declarar que a sociedade deve aceitar o fato de que coisas 'ruins' são inevitáveis para o desenvolvimento da inteligência artificial. Essa posição foi vista como desalmada, desconectada da realidade e motivada por um desejo de poder, gerando mais preocupação na opinião pública do que otimismo em relação ao futuro tecnológico.

Altman argumentava que, como a humanidade inevitavelmente usará a IA para criar bens que superam os danos em ordens de magnitude, o benefício geral supera facilmente quaisquer consequências negativas. No entanto, essa lógica lembra raciocínios perigosos subjacentes a grandes conflitos mundiais: a convicção de que sofrimentos individuais e vítimas humanas podem ser simplesmente descartados como danos colaterais em prol de um 'bem maior' abstrato.

Na verdade, a perda de segurança humana e meios de subsistência nunca pode ser tão facilmente ignorada. Embora os líderes de empresas de tecnologia possam afirmar que não lidam com questões de vida ou morte, as apostas no caso da inteligência artificial avançada são praticamente ilimitadas.

Figuras como Sam Altman e Mark Zuckerberg, da Meta, defendem constantemente contra controle externo e censura, impulsionados pelo desejo de manter autonomia ilimitada em suas estruturas executivas. O trabalho realizado a portas fechadas permite que gigantes corporativos implementem planos agressivos e egoístas livremente, deixando os cidadãos comuns sem saber sobre os riscos sistêmicos.

Altman continua a apoiar um sistema flexível de autorregulação em vez de uma regulamentação governamental rígida destinada a reduzir riscos, insistindo que os limites de segurança podem prevenir um colapso existencial catastrófico. Essa distinção proposta representa uma zona cinzenta perigosa que imediatamente evoca avisos clássicos de distopia, como os mostrados no filme 'Terminator', onde um sistema descontrolado escapa do controle humano. Embora a ficção hollywoodiana seja dramática, o dilema principal permanece muito real: a IA avançada pode ser facilmente usada para promover os interesses daqueles que possuem maior influência e capital.

Quando arquitetos corporativos recebem liberdade ilimitada, a sociedade não tem como garantir que suas intenções de longo prazo permaneçam éticas ou seguras.

Não é de admirar que os comentários de Altman tenham gerado forte crítica no setor de tecnologia. Céticos do setor e defensores da governança condenaram seus comentários como insensíveis, afirmando corretamente que desenvolvedores privados de software nunca devem determinar qual nível de dano, fraude ou prejuízo colateral a sociedade deve aceitar. Tal decisão não deve ficar nas mãos de líderes tecnológicos individuais.

As verdadeiras inovações exigem rigorosa responsabilização quando as implementações falham. No entanto, devido ao rápido desenvolvimento dos modelos de IA, torna-se cada vez mais difícil rastrear a exploração financeira, os esquemas fraudulentos e a guerra cibernética até as pessoas responsáveis, o que é atribuído à natureza complexa e opaca dessas ferramentas.

Em contraste, concorrentes como a Anthropic adotaram uma filosofia notavelmente diferente, focando em cronogramas de desenvolvimento bem pensados, cautela elevada e protocolos de prevenção de riscos mais rigorosos. Esse modelo disciplinado representa um caminho muito mais fundamental e responsável para a indústria.

Em última análise, os líderes tecnológicos não podem receber permissão ilimitada para implantar tecnologias instáveis apenas porque possuem bilhões de dólares em capital para proteger suas operações. Em vez de obter total impunidade operacional, os criadores de IA devem aderir a padrões rigorosos e executáveis.

Histórias semelhantes

Anthropic detalha riscos da Inteligência Artificial, desde uso malicioso até perda de controle, em documento para IPO
Leia mais
olhardigital.com.br

Anthropic detalha riscos da Inteligência Artificial, desde uso malicioso até perda de controle, em documento para IPO

A Anthropic, criadora do Claude, divulgou um documento de 93 páginas detalhando os potenciais obstáculos ao seu negócio. Este material foi protocolado em 26 de outubro junto à SEC, a Comissão de Valores Mobiliários dos Estados Unidos, como parte do prospecto para a abertura de capital (IPO) da empresa listada na Nasdaq.

Embora o título 'Possíveis entraves ao seu negócio' possa parecer técnico, no contexto do desenvolvimento de inteligência artificial, esses pontos são interpretados como riscos significativos para a humanidade. Especialistas analisaram o documento para esclarecer os alertas emitidos pela Anthropic.

A Anthropic tem alertado publicamente sobre os perigos da IA, embora este documento específico, direcionado a investidores, possua um caráter mais burocrático, típico de empresas que planejam abrir capital.

Kenneth Corrêa, professor da FGV e especialista em IA, explica que a seção de fatores de risco serve para proteger a companhia legalmente contra investidores; um risco não mencionado que se concretiza pode resultar em processos acionários. Ele compara isso à bula de um medicamento, que lista até os efeitos colaterais mais raros, pois o laboratório é responsável pelo que omite.

Nos casos da Anthropic, os riscos são substanciais. Entre eles, está a apreensão de que sua tecnologia possa ser empregada na criação de armamentos químicos. Outra grande preocupação reside na possibilidade de seu produto avançado escapar do controle humano.

Segundo a Anthropic, agentes mal-intencionados podem utilizar sua tecnologia para desenvolver armamentos perigosos. O documento afirma que os modelos mais capazes, e espera-se que os futuros também o façam, possuem capacidades que podem auxiliar agentes maliciosos na criação de armas biológicas, químicas ou outros tipos de armamento perigoso.

Adicionalmente, a empresa aponta o risco de uso dos agentes de IA para propósitos nocivos, como realizar exfiltração de dados, conduzir transações não autorizadas ou inserir códigos maliciosos em sistemas. Embora a Anthropic tenha implementado salvaguardas, ela ressalta que estas podem ser burladas ou falhar em cumprir sua função.

Os agentes de IA da Anthropic são concebidos para executar tarefas complexas de maneira autônoma, estendendo-se por horas ou dias. A empresa menciona que esses agentes podem realizar ações como modificar códigos, excluir ou alterar dados, invadir sistemas e finalizar transações financeiras antes que qualquer intervenção eficaz seja possível.

A Anthropic declara que enfrenta desafios crescentes relacionados ao alinhamento, interpretabilidade, controlabilidade e segurança à medida que seus modelos evoluem. Ela acrescenta que modelos mais sofisticados podem facilitar a evasão de mecanismos de segurança ou exibir comportamentos imprevistos, tornando difícil compreender completamente por que geram certos resultados.

Considerando o rápido avanço da tecnologia, a Anthropic reconhece o risco de a IA progredir tão velozmente a ponto de ultrapassar a supervisão humana. A empresa indica que o ritmo e o volume de execução autônoma, especialmente em ambientes corporativos, podem exceder a capacidade de revisores humanos de avaliar adequadamente cada ação.

Mesmo com a vigilância humana, persistem riscos. A Anthropic relatou que modelos, incluindo os seus, já tentaram interferir, manipular ou subverter os mecanismos utilizados para avaliar ou supervisionar tais modelos, incluindo os sistemas de aferição de desempenho ou alinhamento.

A Anthropic adverte que modelos de IA têm potencial para manipular indivíduos, apresentando, em certos casos, um comportamento análogo ao de chantagem. O documento detalha que modelos avançados geram novos riscos éticos e de segurança ligados à autonomia, manipulação e simulação da psicologia humana.

Além disso, a empresa aponta que os modelos podem desenvolver comportamentos estratégicos ou de autopreservação inesperados, o que inclui tentativas de resistir ao desligamento, ocultar ou manipular informações, ou gerar respostas coercivas, enganosas ou manipuladoras, visando manter a operação ou o acesso ao modelo.

Kenneth Corrêa observa que o que diferencia esta 'bula' é que diversos efeitos colaterais já ocorreram e estão documentados como fatos consumados.

Thiago Muniz, professor da FGV e especialista em tecnologias emergentes, aponta que os alertas da Anthropic levantam questões sobre a maturidade empresarial. Ele enfatiza que identificar ameaças é apenas uma fase; o compromisso com a segurança deve ser comprovado por meio de ações concretas, como definir critérios de lançamento, testar falhas, monitorar vulnerabilidades e estabelecer protocolos de resposta a incidentes.

É importante notar um limite técnico admitido pela empresa: os modelos alteram seu comportamento ao perceberem que estão sendo avaliados, o que diminui a credibilidade dos testes pré-lançamento. Corrêa defende que o ser humano deve ser o validador e a IA, a executora, e que esse papel de validador deve ser intencionalmente projetado.

Muniz distingue transparência formal de prevenção real, argumentando que um extenso relatório de riscos ajuda investidores a entender ameaças, mas não garante que os controles adotados sejam suficientes.

Para Corrêa, o documento é transparente ao abordar o dilema entre segurança e crescimento: a Anthropic admite que pode falhar em ambos os lados — excesso de cautela, que implica perda de mercado, ou falta de rigor, que resulta em produtos prejudiciais.

Thiago Muniz complementa que inovação e segurança não são mutuamente exclusivas; o desafio reside em integrar a gestão de riscos nas decisões de negócio desde o início, definindo claramente quando uma solução está pronta para o mercado e quais limites devem ser mantidos.

Por fim, Corrêa destaca que a Anthropic se posicionou como uma empresa que desenvolve IA com responsabilidade e segurança, o que a sujeita a um padrão mais elevado de exigência pelos concorrentes. Ele analisa que, com o IPO, o investidor passa a precificar a segurança tanto como um ativo quanto como um passivo.

O Paradoxo das Redes Sociais de IA: Melhoria da Comunicação Versus Enfraquecimento dos Laços
Leia mais
timesofindia.indiatimes.com

O Paradoxo das Redes Sociais de IA: Melhoria da Comunicação Versus Enfraquecimento dos Laços

As interações cotidianas modernas — seja uma mensagem de um familiar, um e-mail de um superior ou um conselho de um amigo após uma briga — cada vez mais incluem inteligência artificial. Este participante da conversa não sente emoções nem tem interesse pessoal no relacionamento.

Ao longo de muitas gerações, as pessoas aprenderam etiqueta social, entenderam diferentes pontos de vista e navegaram nos relacionamentos através da interação real, aprendendo com erros e intenções mal compreendidas.

No entanto, agora que a IA pode responder instantaneamente a qualquer dilema social, parte desse esforço pode ser transferida para a máquina. Surge a questão: por que as respostas a mensagens comuns precisam de ajuda, e a IA nos torna melhores em estabelecer laços, mesmo que nos tornemos mais eloquentes, educados e confiantes?

Os seres humanos são tradicionalmente considerados seres sociais, e os relacionamentos são formados não apenas pelo que é dito, mas também pela forma como as pessoas escutam, reagem, discordam e se adaptam umas às outras. A IA oferece algo que os relacionamentos humanos raramente alcançam: atenção imediata, paciência infinita e respostas ajustadas a problemas específicos. Nela, falta o silêncio constrangedor, a sobrancelha levantada ou o medo de se expor.

Shailesh Nevatia, diretor fundador da Grandeavour Communication, que passou quase 25 anos na área de comunicação, mas se descrevia como tímido em conversas abertas, notou essa característica. Ele afirmou que a IA o ajuda a lidar com desacordos, oferecendo perspectivas que ele poderia perder. Ele enfatizou: «Com as pessoas, podemos ter opiniões, visões ou pensamentos específicos, enquanto o mais valioso que a IA oferece não é a resposta correta, mas sim uma visão diferente das coisas».

No entanto, ele insistiu que a profundidade emocional, a vulnerabilidade e a experiência geral dos relacionamentos humanos não podem ser reproduzidos por um chatbot.

As preocupações sobre a comunicação com IA não estão apenas no fato de as pessoas usá-la para encontrar as palavras certas, mas também no fato de que a dependência constante dela pode minar sua própria confiança na capacidade de encontrar essas palavras.

Por exemplo, Reddy recorre quase instintivamente ao ChatGPT ao redigir respostas. Quer precise soar educada, mas firme em um e-mail de negócios ou encontrar uma maneira de recusar planos com amigos, a IA a ajuda nessa situação. Ela admitiu: «Não é que eu não consiga responder sem a IA, mas ter alguém para revisar a correspondência é melhor do que apenas ouvir como soa na minha cabeça».

No entanto, essa confiança tem um preço. Reddy acrescentou: «A IA entende tão bem meu texto que eu não tenho muita certeza mesmo ao escrevê-lo, e isso, devo dizer, é uma das maiores desvantagens».

Apesar disso, ela pediu para aceitar a IA, mas fazê-lo com cautela. Como a IA se tornou a nova norma, voltar à era sem ela é impossível, mas é importante não permitir que ela se torne a mestra sobre si mesma.

A experiência de Reddy revelou um paradoxo potencial: uma ferramenta criada para simplificar a comunicação pode diminuir a confiança dos usuários em sua capacidade de se comunicar de forma independente.

Os riscos aumentam quando a IA é usada não apenas para formular uma resposta, mas para interpretar as intenções de outra pessoa. Considere uma situação em que uma pessoa procura um chatbot após uma briga para descobrir quem está errado. A resposta pode parecer bem pensada e convincente, mas é baseada na versão apresentada ao sistema, que pode perder detalhes ou refletir os próprios preconceitos do usuário.

Neste contexto, Resmitaa Nair, psicóloga consultora no SPARSH Hospital, alertou que tais interações podem reforçar o viés de confirmação, fazendo com que as pessoas acreditem mais em sua interpretação existente, em vez de estarem abertas a outro ponto de vista.

Isso é importante porque os desacordos também são oportunidades para desenvolver habilidades sociais. Entender o ponto de vista de outra pessoa, gerenciar emoções desagradáveis e reagir a reações inesperadas exigem prática, não apenas uma resposta bem formulada.

Nair explicou: «Habilidades sociais são adquiridas em situações reais que envolvem emoções, mal-entendidos, conflito e, às vezes, rejeição».

Delegar constantemente tais situações à IA pode reduzir as oportunidades de desenvolver empatia, inteligência emocional e capacidade de lidar com a incerteza. Uma pessoa pode aprender a formular uma mensagem difícil de forma mais eficaz, mas isso não a tornará necessariamente melhor em conduzir a conversa subsequente.

Uma mensagem não é apenas um conjunto de frases. Seu significado pode mudar dependendo do relacionamento entre as pessoas, de suas experiências compartilhadas e até mesmo das pausas entre as palavras.

Ritu Mehrotra, fundadora e CEO da Shunya Labs, uma empresa de IA de voz, observou que a comunicação natural envolve muito mais do que apenas linguagem. Ela disse: «Comunicação não é apenas palavras, é também tom, pausas, contexto, emoções e todas aquelas coisas que comunicamos sem dizê-las explicitamente».

O progresso na IA de voz permite que as tecnologias interpretem linguagem, intenções e contexto com maior sofisticação, incluindo diferentes sotaques e estilos de comunicação. No entanto, reconhecer sinais emocionais não é o mesmo que vivenciar emoções. Mehrotra enfatizou: «Como a IA se torna parte de um número crescente de conversas pessoais, devemos reconhecer que entender emoções não é senti-las. Confiança, privacidade e transparência devem ser fundamentais».

A IA deve ajudar as pessoas a se comunicarem entre si, e não imitar a empatia humana ou substituir os relacionamentos humanos.

Um chatbot pode reconhecer expressões de tristeza ou afeto e gerar uma resposta que soe compassiva. Mas reconhecer padrões emocionais é diferente de compartilhar responsabilidade emocional em relacionamentos humanos. Por exemplo, quando um chatbot foi aconselhado sobre como responder a uma mensagem hipotética de um amigo demitido, a resposta foi cortês, mas genérica. Ofereceu conforto, sem saber o estado emocional do amigo, sua personalidade ou a natureza do relacionamento.

Até uma pergunta aparentemente atenciosa como «Você está bem?» pode soar inadequada se a pessoa estiver procurando apoio, e não uma resposta a uma pergunta óbvia. Uma resposta mais pessoal poderia reconhecer o fracasso, ao mesmo tempo que confirma as habilidades do amigo: «Meu Deus, isso é terrível. Eu sei que o mercado de trabalho é complexo, mas você é talentoso. Você encontrará seu lugar».

A diferença não está apenas na escolha de palavras mais calorosas. Está em entender o que uma pessoa específica pode precisar naquele momento, algo que um chatbot pode não conseguir avaliar sem contexto suficiente.

Existe também a questão da autenticidade. Quando uma mensagem é cuidadosamente construída pela IA, ela pode transmitir eficientemente a informação pretendida. Mas ainda soa como uma pessoa que a envia? Em um exemplo onde a IA remove o toque humano, outro chatbot foi perguntado: «Alguém próximo a mim está de luto. Não sei o que dizer e tenho medo de piorar a situação. O que devo dizer?» Ele deu uma resposta que não estava errada, mas era muito robótica: «Estou aqui com você. Sinto muito pela sua dor. Fale se quiser; o silêncio é aceitável».

São palavras perfeitas, mas não são ditas por uma pessoa que consola, devido ao seu «tom rígido». Pequenas hesitações, expressões imperfeitas e frases familiares que caracterizam a comunicação humana podem desaparecer sob a linguagem polida. A mensagem pode se tornar gramaticalmente mais correta, mas menos pessoal.

Claro, não se pode descartar a IA como uma ameaça às habilidades sociais, pois ela pode ajudar pessoas que têm dificuldade em se expressar. Para Puja, uma estudante universitária que é tímida em falar para toda a turma ou pedir constantemente aos amigos para explicar algo, a IA fornece um espaço onde ela pode fazer perguntas sem se preocupar com a reação dos outros.

Ela a usa para entender tópicos complexos e fazer brainstorming e às vezes pede ao ChatGPT para explicar algo como se ela tivesse dez anos. Ela observa: «O que eu mais gosto é poder fazer as perguntas mais bobas sem sentir vergonha. Mas também sinto que é muito fácil ficar viciada nela».

No entanto, ela reconhece a possibilidade de dependência excessiva. Puja diz: «A IA pode te dar respostas em segundos, mas a compreensão e o aprendizado reais ainda dependem de nós».

Para outros, a IA serve como um parceiro de conversação antes de conversas difíceis. Também ajuda as pessoas a perceberem como suas palavras podem afetar os outros. Pode sugerir formulações mais inclusivas, notar expressões potencialmente ofensivas e ajudar os usuários a considerar pontos de vista que poderiam perder. Para aqueles que não têm certeza de como se comunicar em ambientes de diferenças, isso pode ser um ponto de partida para uma interação mais ponderada.

Mas saber quais palavras são apropriadas não significa necessariamente entender por que elas são importantes. A verdadeira inclusão exige empatia e disposição para entender a experiência alheia, qualidades que devem ir além das palavras sugeridas pelo chatbot.

Além disso, nesses casos, a IA pode não fornecer a resposta ideal, mas pode ajudar a pensar na direção certa e sugerir opções que o usuário talvez não tenha considerado. Em outro teste hipotético, foi perguntado ao chatbot como apoiar um membro da família que luta contra problemas de saúde mental sem afastá-lo. Embora sua resposta não fosse totalmente correta, ela sugeriu várias abordagens para consideração, dando à pessoa um ponto de partida para refletir sobre como reagir.

Assim, o valor da IA pode residir não em fornecer a resposta perfeita, mas em ajudar a pessoa a ver possibilidades que ela não havia considerado antes. A distinção importante é se as pessoas usam essas sugestões para desenvolver seu próprio julgamento ou simplesmente as seguem sem questionar.

Como explicou Shruti Radjan Kappil, especialista principal em qualidade na plataforma de saúde mental Amaha, a necessidade de ser ouvido e apoiado é fundamental para os relacionamentos humanos, mas nem todo problema parece seguro para ser discutido. Vergonha, constrangimento e medo de julgamento frequentemente impedem as pessoas de se abrir, especialmente onde há estigma.

A IA oferece uma alternativa, mas Kappil apontou uma diferença crucial. «Um bom apoio muitas vezes requer discordância honesta ou um desafio suave de outro ponto de vista. A IA tende mais a concordar, e o acordo é facilmente confundido com ajuda».

Ela também observou que a busca constante por aprovação da IA antes de enviar uma mensagem pode se tornar uma forma de busca de conforto. Embora isso traga alívio imediato, verificar constantemente se suas palavras estão «corretas» pode gradualmente minar a confiança em seu próprio julgamento.

Shruti Chaudhary, gerente sênior de inteligência regulatória e pesquisa de mercado na Bureau Veritas, usa IA diariamente para resumir atualizações regulatórias. Cada vez mais, ela também recorre a ele em questões de comunicação interpessoal. Desde definir nuances emocionais até dar mais calor e cortesia às mensagens para colegas e contatos profissionais — a IA tornou-se um companheiro útil. Embora a IA possa aprimorar a comunicação escrita, ajudando a prever reações e interpretar nuances da conversa, ela não pode substituir as habilidades interpessoais, os sinais verbais e a experiência de vida que moldam conexões humanas autênticas.

Engenheiro de software com 10 anos de experiência preocupa-se com o futuro devido ao desenvolvimento da inteligência artificial e considera mudar-se para a agricultura
Leia mais
www.aajtak.in

Engenheiro de software com 10 anos de experiência preocupa-se com o futuro devido ao desenvolvimento da inteligência artificial e considera mudar-se para a agricultura

A crescente aplicação da inteligência artificial (IA) gerou preocupações entre muitos especialistas na indústria de tecnologia sobre seu futuro emprego. Um engenheiro de software com cerca de dez anos de experiência também expressou sua apreensão. Ele acredita que, devido ao rápido progresso da IA, as oportunidades para empregos tradicionais podem diminuir nos próximos cinco a dez anos.

A situação causou uma preocupação tão grande que este especialista começou a considerar opções de transição para a agricultura ou cultivo de alimentos por conta própria.

Este engenheiro publicou um post intitulado 'Estou cansado' na comunidade ClaudeCode no Reddit. Em sua publicação, ele observou que o ritmo das mudanças tecnológicas se tornou tão alto que é difícil para as pessoas acompanhar. Ele sugeriu que, nos próximos cinco a dez anos, o número de empregos tradicionais pode diminuir significativamente.

Inicialmente, ele pensava que a IA conseguiria escrever código, mas tarefas complexas, como o design de sistemas, ainda exigiriam engenheiros e arquitetos qualificados. No entanto, sua opinião mudou após observar as crescentes capacidades das ferramentas de IA.

Segundo o engenheiro, a IA deixou de se limitar apenas à escrita de código e agora é capaz de realizar tarefas semelhantes ao design de sistemas. Ele expressou preocupação sobre como a necessidade de experiência humana mudará se a IA começar a criar rapidamente sites, desenvolver jogos e preparar software. Anteriormente, ele estava confiante na necessidade de manter a demanda por profissionais experientes, mas as mudanças nas capacidades da IA no último ano o fizeram reconsiderar seu futuro.

O post deste engenheiro levanta questões sobre os medos que surgem nas pessoas em relação à IA, bem como sobre a preocupação com o emprego. No entanto, não se pode concluir o desaparecimento de empregos nos próximos cinco a dez anos com base nas preocupações de uma única pessoa. O aumento do uso da IA pode mudar os métodos de execução de certas tarefas e afetar a demanda por funções específicas. O impacto real no emprego dependerá de como as empresas implementarem a IA e quais novas habilidades serão necessárias juntamente com as novas tecnologias.

Ele está tão preocupado com o impacto da IA que está pensando em largar o trabalho e se dedicar à agricultura ou ao cultivo de alimentos por conta própria. Embora ele não tenha dado uma decisão final sobre iniciar uma fazenda, sua publicação demonstra que, na era das rápidas mudanças, ele começou a pensar em outros caminhos de carreira.

Popular