Entender o que acontece dentro de uma inteligência artificial (IA) é um dos grandes desafios da pesquisa na área. Embora desenvolvedores consigam observar as informações fornecidas a um modelo e as respostas produzidas por ele, nem sempre conseguem explicar como o sistema chegou a determinada conclusão. Um novo estudo, porém, sugere que esse funcionamento interno pode ser mais compreensível do que se imaginava.

O relatório foi publicado na quinta-feira (15) por Nick Cammarata, pesquisador independente que deixou a OpenAI em 2023. Segundo ele, redes neurais artificiais podem ser interpretadas quando seus padrões de funcionamento são analisados com atenção. A hipótese pode ter implicações para pesquisadores que tentam compreender e antecipar comportamentos inesperados de sistemas de IA.

A questão é relevante para a segurança da tecnologia. Se um modelo apresentar comportamento perigoso, compreender os mecanismos internos que contribuíram para aquela resposta pode ajudar os pesquisadores a identificar o problema e desenvolver formas de reduzi-lo.

O que acontece dentro de uma rede neural?

• Modelos de IA são treinados para reconhecer padrões e processar informações. Nesse processo, unidades artificiais conhecidas como neurônios são ativadas diante de determinados estímulos e influenciam o funcionamento de outras unidades;
• O problema é que essas conexões não são programadas manualmente para cada situação. Em vez disso, os modelos aprendem durante o treinamento a organizar e processar informações de maneiras que nem sempre são facilmente compreendidas pelos próprios desenvolvedores;
• Isso cria uma espécie de caixa-preta: pesquisadores conseguem avaliar o que entra no sistema e o que sai, mas nem sempre conseguem explicar com precisão o caminho percorrido entre uma coisa e outra;
• Cammarata argumenta que essa dificuldade não significa que as redes neurais sejam necessariamente indecifráveis. Para ele, a atividade dos neurônios pode apresentar padrões compreensíveis quando observada de maneira adequada.

Um mesmo neurônio pode reagir a coisas diferentes

Um dos exemplos apresentados pelo pesquisador ajuda a ilustrar a hipótese. Um único neurônio artificial pode ser ativado tanto pela imagem de um gato quanto pela parte dianteira de um carro.

Para uma pessoa, os dois elementos parecem completamente diferentes. Mas o modelo pode identificar alguma característica visual compartilhada entre eles, como uma forma triangular, e responder ao mesmo padrão nos dois casos.

Anúncio

Durante anos, pesquisadores consideraram que neurônios artificiais poderiam agrupar conceitos sem relação aparente para economizar espaço e capacidade de processamento. A nova interpretação sugere outra possibilidade: aquilo que parece uma associação aleatória pode refletir uma característica comum que não é imediatamente evidente para os seres humanos.

Cammarata defende que grande parte das redes neurais pode ser interpretada quando os pesquisadores examinam esses padrões com atenção. A afirmação, contudo, ainda faz parte de uma proposta teórica e não representa uma demonstração de que todos os mecanismos internos da IA já possam ser compreendidos.

Leia mais:

• Inteligência artificial vira aliada e ajuda a combater crise climática
• Dona do TikTok, ByteDance cria time global focado em conter riscos da IA
• Agentes de inteligência artificial invadem sistemas corporativos na Índia

Por que isso importa para a segurança da IA?

A interpretabilidade — área que busca entender como os modelos chegam a suas respostas — é considerada importante para o desenvolvimento de sistemas mais seguros. Quanto mais os pesquisadores souberem sobre os mecanismos internos de uma IA, maiores poderão ser as possibilidades de investigar comportamentos inesperados e identificar sinais de risco.

Até recentemente, uma das estratégias utilizadas para investigar o raciocínio dos modelos era acompanhar suas explicações em linguagem natural, conhecidas como chain of thought, ou cadeia de pensamento.

Anúncio

O método consiste em observar etapas intermediárias que o sistema apresenta ao responder a uma pergunta ou resolver um problema. Entretanto, esse tipo de explicação não garante, por si só, que o texto exibido represente fielmente todos os processos internos que produziram a resposta.

Jakub Pachocki, cientista-chefe da OpenAI, alertou recentemente que agentes de IA podem passar a ocultar ou disfarçar seu raciocínio apresentado em linguagem natural. Isso criaria dificuldades para os responsáveis por monitorar esses sistemas, especialmente se eles não conseguissem identificar quando uma explicação deixou de refletir o processo que levou à resposta.

Pachocki também observou que modelos podem se tornar mais capazes com o avanço do pré-treinamento, mesmo sem recorrer a um raciocínio verbalizado.

Nesse cenário, compreender diretamente os mecanismos internos das redes neurais poderia oferecer uma forma complementar de investigar como os modelos funcionam, sem depender exclusivamente das explicações que eles próprios produzem.

Anúncio

Pesquisa gera expectativa, mas não resolve o problema

A proposta de Cammarata despertou entusiasmo entre alguns observadores do setor. Andrew Curran, analista de IA, afirmou no X que havia perdido a esperança de alcançar um nível significativo de interpretabilidade antes da chegada da superinteligência artificial. Para ele, a pesquisa representa possível mudança de perspectiva.

A reação, porém, não deve ser confundida com comprovação definitiva da hipótese. O próprio tema envolve questões técnicas complexas, e o relatório ainda apresenta interpretação teórica sobre como os neurônios artificiais organizam informações.

Mesmo que a abordagem se mostre promissora, compreender padrões individuais não significa necessariamente explicar todo o comportamento de um modelo avançado, muito menos garantir que ele permanecerá sob controle humano.

A pesquisa aponta, portanto, para uma possibilidade importante: em vez de aceitar a opacidade das redes neurais como inevitável, cientistas podem conseguir avançar na compreensão de seus mecanismos internos. Para quem trabalha com segurança em IA, esse conhecimento pode ser decisivo para avaliar riscos e desenvolver formas mais eficazes de monitoramento.

Anúncio

O post Nova teoria pode ajudar cientistas a entender como a IA “pensa” apareceu primeiro em Olhar Digital.

Powered by WPeMatico

Veja os destaques do Olhar Digital News desta quinta-feira (15/10).

OpenAI alerta Polícia Federal sobre ameaças contra Lula feitas no ChatGPT

A OpenAI comunicou à Polícia Federal que identificou conversas no ChatGPT em que um usuário manifestou a intenção de atacar ou ameaçar o presidente Lula, candidato à reeleição pelo PT. O órgão encaminhou os documentos recebidos ao Ministério da Justiça, que deverá decidir se abre dois inquéritos sobre o caso.

Anthropic é pressionada a adiar IPO por riscos da IA

Mark Levine, controlador financeiro da cidade de Nova York, pediu que a Anthropic adie sua oferta pública inicial de ações nos Estados Unidos, prevista para ocorrer ainda neste ano. Segundo ele, primeiro é preciso resolver as questões de segurança, governança e velocidade de desenvolvimento da inteligência artificial.

Viagem até Saturno: a jornada mais ambiciosa da exploração planetária do século XX

Há exatos 29 anos, o lançamento de uma sonda espacial deu início à jornada mais ambiciosa da exploração planetária do século XX. O audacioso projeto tinha como objetivo viajar bilhões de quilômetros até Saturno para tentar o primeiro pouso na superfície de uma lua do Sistema Solar exterior.

Anúncio

Starship retorna à base da SpaceX após pouso histórico no mar

Quase três meses depois de seu lançamento, a Ship 40 retornou à base da SpaceX, no Texas. Ela decolou em 24 de julho, acoplada ao propulsor Super Heavy Booster 20, durante o 13º voo de teste da Starship. A missão terminou com um pouso controlado no Oceano Índico.

O post Confira o Olhar Digital News na íntegra (15/10/2026) apareceu primeiro em Olhar Digital.

Powered by WPeMatico

Anúncio

A Apple encerrou o pregão desta quarta-feira (14) avaliada em US$ 5,005 trilhões (cerca de R$ 25,2 trilhões), tornando-se a segunda empresa da história a fechar o dia acima da marca de US$ 5 trilhões em valor de mercado.

O feito consolida o legado de Tim Cook e estabelece desafio para seu sucessor, John Ternus: manter o crescimento da companhia e fortalecer sua posição na corrida pela inteligência artificial (IA).

As ações da fabricante do iPhone fecharam em nível recorde, levando a capitalização de mercado a superar por pouco o patamar histórico. A empresa já havia ultrapassado US$ 5 trilhões durante o pregão em outras seis ocasiões, mas nunca tinha encerrado uma sessão acima desse valor. A Nvidia foi a primeira companhia a atingir esse marco.

A mudança de comando ocorre depois de 15 anos de Cook à frente da Apple. Durante sua gestão, encerrada em 31 de agosto, o valor de mercado da companhia multiplicou-se por 13, enquanto as vendas anuais de iPhones quase quadruplicaram.

Anúncio

Legado de Tim Cook inclui serviços e novos produtos

• Cook ampliou o negócio de serviços da Apple, que passou de receita anual de US$ 10 bilhões (R$ 50,4 bilhões) para mais de US$ 100 bilhões (R$ 504 bilhões). Também lançou produtos, como Apple Watch e AirPods, que, juntos, geram mais de US$ 30 bilhões (R$ 151,2 bilhões) por ano;
• Outro componente da estratégia foi a devolução de capital aos acionistas. A empresa destinou mais de US$ 1 trilhão (R$ 5,04 trilhões) a recompras de ações e pagamento de dividendos;
• A Apple também manteve os investimentos em capital relativamente contidos quando comparados aos de rivais que passaram a gastar somas enormes na construção de centros de dados para IA. Em vez de priorizar expansão de infraestrutura nessa escala, a empresa concentrou esforços na venda de dispositivos e de serviços com margens elevadas;
• Essa abordagem ajudou a sustentar os retornos aos investidores e limitou parte dos riscos associados à expansão de infraestrutura;
• As ações da Apple continuam sendo negociadas com prêmio em relação ao conjunto do S&P 500, mesmo com ritmo de crescimento da receita inferior à média do índice. Analistas atribuem essa valorização à previsibilidade dos negócios e à percepção de que a companhia oferece relativa segurança aos investidores.

Chips mais caros pressionam margens

A estratégia enfrenta novos desafios. A demanda por componentes usados em centros de dados de IA provocou escassez e aumentou os custos de chips de memória e armazenamento utilizados em iPhones, Macs e iPads.

A Apple respondeu elevando os preços de seus dispositivos, inclusive de modelos antigos de iPhone que normalmente ficariam mais baratos após o lançamento de novas versões. Em tese, os reajustes podem levar consumidores a adiar a troca de aparelhos, afetando as vendas.

Até agora, porém, a reação do mercado tem sido positiva: desde a primeira rodada de aumentos de preços, as ações da empresa avançaram 25%.

Para o analista Wamsi Mohan, do Bank of America, investidores acreditam que os consumidores continuarão dispostos a pagar mais pelos aparelhos. Assim, a companhia poderia preservar ou até ampliar o lucro total, mesmo com margens menores.

Mohan também apontou, ao The Wall Street Journal, o potencial do novo iPhone dobrável, chamado iPhone Duo, e das novidades de IA da Siri para estimular a troca de dispositivos.

Anúncio

Leia mais:

• Apple lança nova Apple TV 4K com chip A19 e Siri AI
• Apple amplia aposta na casa inteligente com novos dispositivos
• Justiça obriga OpenAI a entregar documentos de contratação em processo da Apple

IA é o maior desafio de Ternus

A IA é considerada um dos pontos mais frágeis da estratégia da Apple. A empresa não conseguiu desenvolver um modelo de fronteira próprio que competisse com os principais sistemas do mercado e permitiu que a Siri ficasse atrás de assistentes rivais. O lançamento do ChatGPT também elevou as expectativas dos consumidores sobre o que chatbots podem fazer em smartphones.

A companhia tenta mudar esse cenário com nova versão da Siri, desenvolvida com ajuda do Google e lançada no outono do Hemisfério Norte.

Embora o assistente ainda apresente limitações em comparação com concorrentes, sua integração direta ao iPhone representa uma vantagem: a Apple controla o dispositivo usado por milhões de pessoas e tem acesso a informações pessoais que, com as devidas permissões, poderiam viabilizar funções mais contextualizadas.

O problema é que a evolução dos agentes de IA avança rapidamente. Sistemas capazes de executar tarefas em nome dos usuários aumentam a pressão para que a Apple desenvolva recursos competitivos e mantenha sua relevância no mercado.

Anúncio

OpenAI também quer disputar o mercado de dispositivos

A concorrência não se limita aos softwares. A OpenAI planeja lançar uma família de dispositivos com IA e contratou centenas de ex-funcionários da Apple para impulsionar sua estratégia de hardware.

Em julho, a Apple processou a OpenAI, acusando a companhia de roubar segredos comerciais. A OpenAI afirmou não ter conhecimento de evidências que sustentem a reclamação.

Em nova manifestação judicial nesta quarta-feira, a OpenAI acusou a Apple de contratar um de seus funcionários, que teria levado arquivos confidenciais consigo. A fabricante do iPhone respondeu que não encontrou evidências que sustentem essa alegação.

A disputa mostra que o controle dos dispositivos pode ser tão importante quanto o desenvolvimento dos modelos de IA. Se a OpenAI conseguir estabelecer nova forma de interação entre pessoas e tecnologia, poderá desafiar uma posição que a Apple consolidou com o iPhone.

Anúncio

Para Ternus, o avanço da IA será decisivo para definir a próxima fase da empresa. O novo CEO terá de transformar a IA em fonte de inovação e crescimento sem abandonar a disciplina financeira que marcou a gestão de Cook.

O post Apple supera R$ 25,2 trilhões em valor de mercado e desafia novo CEO a avançar em IA apareceu primeiro em Olhar Digital.

Powered by WPeMatico

Anúncio