Uma empresa com apenas 12 funcionários captou US$ 1 bilhão em investimentos. O nome por trás do projeto é Yann LeCun, fundador da AMI Labs (Advanced Machine Intelligence Labs) e ex-cientista-chefe de IA da Meta, que deixou o cargo no final do ano passado. O que chama atenção, no entanto, não é apenas o volume financeiro captado — é a aposta: LeCun acredita que os grandes modelos de linguagem (LLMs), tecnologia que domina o setor atualmente, não são o caminho para resultados duradouros e significativos em inteligência artificial.
Pesquisa de longo prazo, sem produto imediato
A AMI Labs se define como uma organização de pesquisa, sem previsão de lançar um produto comercializável nos próximos cinco anos. Em vez de desenvolver modelos generalizados e de grande escala treinados em vastas quantidades de texto extraído da internet, a empresa concentra esforços em sistemas compostos por módulos especializados e independentes, cada um treinado para um propósito específico.
A arquitetura proposta por LeCun prevê os seguintes componentes:
- Modelo de mundo: específico para o domínio de atuação da IA, que pode ser setorial ou voltado para uma função determinada;
- Ator: responsável por sugerir as próximas ações com base em aprendizado por reforço clássico;
- Crítico: analisa as opções geradas pelo modelo de mundo, considerando a memória de curto prazo, e avalia as ações propostas com base em regras pré-definidas;
- Sistema de percepção: adaptado ao tipo de dado que a IA precisa processar — vídeo, áudio, texto ou imagem — utilizando, por exemplo, algoritmos de reconhecimento visual por aprendizado profundo;
- Memória de curto prazo;
- Configurador: responsável por coordenar o fluxo de informações entre todos os módulos acima.
Nesse modelo, cada instância de IA receberia dados direcionados exclusivamente ao seu ambiente e finalidade. A relevância de cada módulo pode ser ajustada conforme o contexto: o módulo crítico, por exemplo, teria peso maior em sistemas que lidam com informações sensíveis, enquanto o sistema de percepção seria prioritário em aplicações que demandam reação rápida a eventos do mundo real.
Contraste com os LLMs atuais
Os grandes modelos de linguagem — base de ferramentas como o ChatGPT — são treinados como generalistas, produzindo respostas com base nas informações que absorveram. Suas saídas são refinadas por engenharia de prompt via camadas de software ou por modelos de raciocínio, técnica em que respostas intermediárias são realimentadas ao sistema antes de o usuário ver o resultado final.
Esse processo torna o treinamento e a operação dos LLMs cada vez mais custosos a cada nova geração. Empresas como Anthropic, Meta, OpenAI e Google têm consumido recursos crescentes a cada iteração, e apenas grandes corporações conseguem sustentar financeiramente esse modelo operando no prejuízo.
Custo menor e possível execução local
Os módulos compactos propostos pela AMI Labs poderiam funcionar com uma fração do poder de processamento exigido pelos LLMs convencionais — e até diretamente nos próprios dispositivos dos usuários. Enquanto modelos como o ChatGPT operam com centenas de bilhões de parâmetros, modelos especializados, que não precisam ser generalistas, necessitariam de apenas algumas centenas de milhões de parâmetros.
Somada à tendência de queda nos custos de computação, essa característica abre espaço para uma IA local, mais barata e, segundo a proposta, intrinsecamente mais precisa.
A estratégia da AMI Labs parte, em parte, da convicção de LeCun de que os grandes modelos de linguagem não têm capacidade de evoluir o suficiente para cumprir as promessas ambiciosas feitas por seus criadores. A empresa apresenta aos investidores uma arquitetura alternativa à norma vigente, com a promessa de viabilidade técnica e financeira em um horizonte próximo.
Siga o Ensinando a Vencer e receba nossos conteúdos em primeira mão.
