Como uma rede neural aprende: do perceptron a bilhões de pesos

Com pressa para a prática? As lições 4–5 são sobre o que está por baixo do capô da IA. Você pode dar uma olhada rápida e voltar depois: a parte prática começa na lição 9. E cada aprofundamento opcional nestas duas lições fica em um bloco "Por baixo do capô (opcional)" bem no final — o conteúdo principal sem eles é curto.

A ideia de "rede neural" tem quase 70 anos. O perceptron de Rosenblatt da lição um incorporava a mesma ideia — aprender com exemplos. Mas como treinar redes com muitas camadas veio depois, e a escala cresceu por um fator de bilhões desde então. Vamos desvendar a ideia.

Uma analogia: um iniciante na cesta de basquete

Imagine alguém arremessando uma bola na cesta pela primeira vez. Primeiro arremesso — bem longe. O cérebro anota: muito forte, mire à esquerda. Segundo — mais perto. Ajusta. No milésimo arremesso, a bola entra quase sempre. Ninguém lhes deu "a fórmula para um arremesso perfeito" — ela se formou a partir do feedback. Uma rede neural aprende exatamente assim.

O ciclo de treinamento: quatro passos

1. Prever. Você mostra um exemplo ao modelo (uma foto, um trecho de texto) e ele dá uma resposta. No início do treinamento, é basicamente aleatório.
2. Comparar. A resposta é verificada em relação à correta. A diferença é o erro, e você pode quantificá-lo.
3. Ajustar. Dentro da rede, há bilhões de "botões" numéricos, chamados pesos. Um algoritmo especial ajusta cada um um pouquinho para que o erro diminua. Um pouquinho é a parte fundamental: movimentos bruscos quebram o que já foi aprendido.
4. Repetir. Próximo exemplo. Bilhões de vezes.

Quando você ouve "um modelo de 70 bilhões de parâmetros", essa é a contagem desses botões de peso. Só não confunda um parâmetro com um neurônio: um parâmetro é a força de uma conexão (mais próximo de uma sinapse no cérebro), não o "neurônio" em si. Para uma ideia muito aproximada de escala: o cérebro humano tem ~86 bilhões de neurônios e trilhões de conexões entre eles — então, mesmo um modelo enorme é, em contagem de conexões, incomparavelmente mais simples que um cérebro.

Por que isso custa milhões

Bilhões de exemplos × bilhões de pesos × milhares de passagens = uma quantidade monstruosa de computação. Grandes modelos treinam por meses em dezenas de milhares de GPUs, as contas chegam a dezenas de milhões de dólares, e os data centers consomem tanta energia quanto uma cidade pequena. Agora fica claro por que o avanço esperou pelos anos 2010: tanta potência simplesmente não existia antes. E por que apenas um punhado de empresas constrói grandes modelos — enquanto todos os usam.

Três formas de treinar (você as encontrará em todo artigo de IA)

• Supervisionado: exemplos que vêm com as respostas ("isto é um gato", "isto é spam") — como nossa analogia da cesta. A maioria dos modelos aplicados aprende assim.
• Não supervisionado: o modelo busca estrutura nos dados sem dicas — agrupando clientes por comportamento por conta própria, por exemplo.
• Por Reforço: aprendizagem através de uma recompensa pelo resultado — é assim que o AlphaGo, jogando milhões de partidas contra si mesmo, encontrou movimentos que nenhum humano conhecia. E é assim que os chatbots de hoje recebem seu polimento final, a partir de avaliações humanas das respostas — por isso são educados e seguem instruções.

O filtro de spam, de ponta a ponta (o ciclo completo em um minuto)

Pegue um exemplo familiar e execute o ciclo: o filtro recebe um e-mail → ele prevê "spam, probabilidade 0.3" → a resposta correta era "spam" → o erro é grande → os pesos ligados às palavras "prêmio" e "grátis" e ao endereço de remetente estranho são ajustados um pouco para cima → o próximo e-mail semelhante pontua 0.7. Um bilhão de e-mails depois, o filtro captura 99% do spam. Ninguém escreveu uma regra dizendo "a palavra 'prêmio' é suspeita" — essa regra surgiu dos exemplos. Agora você pode ver esse processo por trás de cada recurso de IA.

Duas consequências que explicam muito

1. Um modelo só sabe o que estava nos dados. O treinamento terminou, o conhecimento congelou. A data após a qual o modelo "não viu" nada é chamada de corte de conhecimento. Notícias de ontem, documentos privados da sua empresa, preços de hoje — nada disso existe para o modelo até que você mostre separadamente (carregando um arquivo ou permitindo que ele pesquise na web).

2. Qualidade dos dados = qualidade do modelo. Treine com texto cheio de erros e você terá erros. Se os dados penderam para um lado, o modelo herda essa inclinação. Lembre-se de "lixo entra, lixo sai": isso se reflete em suas próprias solicitações à IA (seus prompts) e ao trabalhar com bots de IA.

Você pode complementar o treinamento?

Sim — e mais barato do que treinar do zero: pegue um modelo pronto e ensine-o mais com seus próprios exemplos (fine-tuning), ou simplesmente entregue o conhecimento de que ele precisa diretamente em sua solicitação. A segunda forma é o prompting, e você ficará bom nisso neste curso.

Por baixo do capô (opcional): por que "neural"

O que segue é um aprofundamento opcional para os curiosos. Não mudará como você trabalha com IA na prática, então sinta-se à vontade para pular direto para a próxima lição.

O nome "rede neural" não é uma metáfora — é tirado diretamente da biologia. Um neurônio no cérebro se conecta a milhares de outros neurônios, e cada conexão tem sua própria força: uma sólida, outra quase inexistente. Funciona de forma simples: ele coleta os sinais de tudo a que está conectado, multiplica cada um pela força dessa conexão, soma tudo — e se a soma ultrapassar um limiar, ele "dispara" um sinal pela cadeia. (O limiar é como um interruptor: pressione-o muito suavemente e a luz não acende.)

Um neurônio artificial copia esse esquema. E a força de cada conexão é exatamente o peso — o botão numérico do ciclo de treinamento acima. Treinar uma rede = ajustar a força das conexões, assim como seu cérebro fortalece as conexões de que precisa quando você aprende uma nova habilidade. É daí que vem o "neural".

Depois disso, os caminhos divergem: um cérebro aprende com alguns exemplos e funciona com 20 watts (menos que a lâmpada da sua geladeira), enquanto redes neurais precisam de milhões de exemplos e megawatts. Então, "neural" é sobre de onde veio a inspiração, não um "cérebro eletrônico": copiamos o diagrama de fiação do cérebro, não a forma como ele pensa.