Resumo
- Google lançou duas novas configurações dos seus chips para IA: TPU 8tx e TPU 8i Max.
- O TPU 8tx é projetado para processamento de informações sensíveis com computação confidencial, enquanto o TPU 8i Max dobra a capacidade computacional e a memória.
- A oitava geração de TPUs agora inclui quatro configurações: TPU 8t, TPU 8i, TPU 8tx e TPU 8i Max.
O Google anunciou nesta segunda-feira (09/11) duas novas configurações de suas TPUs (Tensor Processing Units), chips desenvolvidos pela própria empresa para dar suporte à tarefas de IA. Os lançamentos adicionam dois modelos a oitava geração do hardware, apresentada inicialmente em abril.
O TPU 8tx é voltado ao processamento de informações sensíveis, enquanto o TPU 8i Max aumenta a quantidade de memória e poder computacional disponível para modelos que trabalham com grandes volumes de dados.
As duas outras configurações lançadas mais cedo neste ano são o TPU 8t, voltado principalmente ao treinamento de grandes modelos, e o TPU 8i, direcionado à execução deles.
TPUs 8tx e 8i Max
Dados armazenados ou enviados pela internet normalmente podem permanecer criptografados, mas precisam ser acessados pela memória do computador durante o processamento. É nessa etapa que está o diferencial do TPU 8tx, a chamada computação confidencial.
O chip usa a mesma base do TPU 8t, mas acrescenta mecanismos que isolam os dados e os pesos dos modelos enquanto estão sendo processados. A ideia é que essas unidades marquem presença em hardwares de quem trabalha com informações sigilosas, como governos e outras organizações.
O TPU 8i Max, por outro lado, dobra a capacidade computacional do 8i convencional, além da quantidade de SRAM e a largura de banda da memória HBM. Para isso, o chip encapsula dois TPU 8i.
A memória mais rápida é importante para modelos que precisam consultar grandes quantidades de dados continuamente. A empresa cita como exemplos agentes de IA trabalhando sobre bases extensas de código — não significa que o modelo se tornará mais “inteligente”, mas que terá mais vantagem na transferência de dados entre a memória e o processador.
Oitava geração agora tem quatro configurações
Com os lançamentos, a família passa a se dividir entre:
- TPU 8t: treinamento de grandes modelos
- TPU 8i: inferência e execução com baixa latência
- TPU 8tx: processamento de dados confidenciais
- TPU 8i Max: modelos com alta demanda de memória
As TPUs são desenvolvidas há mias de uma década pelo Google e são usadas internamente em serviços de IA da companhia, como o Gemini. Nos últimos anos, porém, o hardware também ganhou importância como produto do Google Cloud.
A expansão do hardware vem acompanhada de uma tentativa de facilitar o uso das TPUs por desenvolvedores acostumados a outras plataformas.