"Dia do Juízo Final das IA jamais vai acontecer", afirma CEO da NVIDIA

Durante uma entrevista ao Joe Rogan Experience, o CEO da NVIDIA, Jensen Huang, foi questionado sobre as capacidades da IA ultrapassarem o limite humano. E o chefe do time vermelho respondeu “isso não vai acontecer”.

As preocupações com o tema ganharem destaque nos últimos anos com a rápida evolução das IAs recentemente. Não apenas no âmbito dos chatbots, mas também na IA generativa, IA de borda, fluxos de trabalho com agentes e inúmeras outras áreas.

Os sistemas de aprendizado de máquina (LLMs) tornaram-se tão avançados que, agora, empresas buscam substituir humanos em diversas funções. Com isso, muitos acreditam que esses aprimoramentos levarão as capacidades da IA “longe demais”, a ponto de substituírem os humanos como a “espécie dominante”.

Notícias Relacionadas:

• NVIDIA restaura suporte ao PhysX nas RTX 50 para jogos populares
• NVIDIA GeForce Now recebe 30 jogos em dezembro – veja!
• NVIDIA começa a encerrar o suporte Game Ready em placas GTX 900 e GTX 10

Próximos da Singularidade?

Durante a entrevista, Jensen afirmou que a Inteligência Artificial irá avançar e poderá criar 90% do conhecimento global. Porém, ele discorda que ocorrerá a singularidade, termo usado para dizer quando uma IA irá ultrapassar a capacidade humana.

É chegando nesta etapa, atualmente só definida a nível teórico, que o ciclo de autoaperfeiçoamento exponencial de uma IA se torna incontrolável. E, a partir dele, como as consequências são imprevisíveis consequências, alguns teóricos estimam que a IA poderá se tornar um risco existencial.

Abaixo, a tradução do trecho completo:

Joe Rogan: Bem, eu não presumo que isso nos prejudicaria, mas o receio seria que perdêssemos o controle e deixássemos de ser a espécie dominante do planeta. Essa coisa que criamos seria… engraçado?

Jensen: Não, eu simplesmente acho que isso não vai acontecer. Acho extremamente improvável. Acredito ser possível criar uma máquina que imite a inteligência humana e tenha a capacidade de compreender informações, entender instruções, decompor problemas, resolvê-los e executar tarefas.

Acredito nisso plenamente. No futuro, daqui a alguns anos, talvez dois ou três, provavelmente 90% do conhecimento mundial será gerado por IA.

Preocupações reais

As preocupações com a possibilidade de uma singularidade existem. Um dos exemplos mais recentes de IA que parecia autoconsciente foi quando o modelo de IA Claude Opus 4 ameaçou expor os casos extraconjugais de um engenheiro fictício, fazendo isso para evitar ser desligado.

Porém, mesmo isso pode ser simplesmente acerto probabilístico, dado que as IAs generativas funcionam com probabilidade. Para que uma IA seja consciente, seria necessário consistência nas ações e não basta, sequer, um número alto de resultados do tipo.

Tomando a expressão de Jensen, não bastaria 90% das IAs fazerem isso para evitarem ser desligadas. Seria necessário um comportamento na faixa de 100% (o que significaria uma consistência muito maior do que os testes hoje mostram).

Inclusive, quando questionado sobre o incidente em questão, o CEO da NVIDIA afirmou que o modelo “provavelmente” aprendeu a ação a partir de um “trecho de texto”, possivelmente um “romance”, e que isso é um exemplo de falta de consciência.

Evidente que, numa perspectiva mais ampla, argumenta-se que, à medida que os Modelos de Aprendizagem Baseados em Aprendizagem (LLMs) se tornam cada vez mais sofisticados e adaptáveis o contexto, seu comportamento pode parecer autoconsciente.

Especialmente quando sistemas como os modelos da Anthropic parecem assumir ações autoconscientes em cenários específicos.

Outras consequências

Recentemente, a especulação de que o mercado das IAs está numa bolha tem aumentado. E a NVIDIA seria uma das empresas mais afetadas caso a bolha estourasse. Muito tem se discutido sobre a IA e a AGI, mas também se sabe que os custos (e os lucros) ainda são parte importante da equação.

Neste sentido, é possível supor que algumas das falas de Jensen são para fortalecer a posição do time verde. Afinal, a empresa registrou um lucro 65% e ele ganhou R$ 23 bilhões.

E mesmo a sua afirmação de que a China vai vencer a corrida da IA pode se relacionar ao tópico, ainda que ele admita que a transição será dolorosa. Afinal, as sanções americanas abriram espaço para o crescimento da Huawei, o que fez a NVIDIA perder até 50% do mercado de IA na China.

Fonte: Joe Rogan Experience.