A sigla TOPS passou a aparecer com frequência nas fichas técnicas de processadores de fabricantes como Intel, AMD, Qualcomm e Nvidia. Ela é usada como principal argumento de marketing para indicar o quão preparado um dispositivo está para tarefas de inteligência artificial.

TOPS significa Trillions of Operations Per Second, ou trilhões de operações por segundo. Trata-se de uma medida teórica do desempenho bruto de um processador em cálculos de aprendizado de máquina. Um pico de 40 TOPS indica a capacidade, em teoria, de executar até 40 trilhões de operações numéricas simples por segundo, em geral multiplicações e acúmulos.

Precisão muda o resultado

O número depende do formato de precisão usado pelo chip, como INT8, INT4 ou ponto flutuante FP16. Operações de menor precisão consomem menos energia e banda de memória. Por isso, a maioria dos fabricantes divulga seus valores com base no padrão INT8, comum em inferência de IA sem perda perceptível de qualidade.

Em notebooks e PCs mais recentes, o total costuma ser dividido entre três componentes: a NPU, uma unidade projetada para tarefas de IA em segundo plano com baixo consumo; a iGPU, o gráfico integrado; e a CPU. A soma dessas partes forma o chamado TOPS da plataforma, embora um aplicativo raramente use todos os núcleos ao mesmo tempo.

Placas de vídeo e data centers

No mercado doméstico, as placas de vídeo dedicadas continuam com o maior desempenho bruto. Modelos de entrada e intermediários passam facilmente das centenas de TOPS, e as de topo de linha ultrapassam 1.000 TOPS. A contrapartida é o consumo elevado de energia.

Em data centers, que treinam e hospedam grandes modelos, os aceleradores para servidores atingem escalas bem maiores. A fonte cita famílias como NVIDIA RTX Pro e AMD Instinct, projetadas para distribuir cálculos entre milhares de nós interconectados. Nesse ambiente, o foco é outro, e a métrica de TOPS não deve ser comparada diretamente com a de dispositivos de consumo.

Ao comparar fichas técnicas, o número isolado pouco diz. É preciso verificar o formato de precisão considerado, se o valor é da plataforma inteira ou de um único componente e qual é a aplicação real do equipamento.