{"id":1496,"date":"2025-04-18T15:24:42","date_gmt":"2025-04-18T15:24:42","guid":{"rendered":"https:\/\/mugnos-it.com\/?p=1496"},"modified":"2025-06-03T00:54:24","modified_gmt":"2025-06-03T00:54:24","slug":"como-os-gigantes-da-tecnologia-lidam-com-a-latencia-the-tail-at-scale","status":"publish","type":"post","link":"https:\/\/mugnos-it.com\/pt\/como-os-gigantes-da-tecnologia-lidam-com-a-latencia-the-tail-at-scale\/","title":{"rendered":"Como os gigantes da tecnologia lidam com a lat\u00eancia? The Tail at Scale"},"content":{"rendered":"
\n\t\t\t\t
\n\t\t\t\t\t
\n\t\t\t\t
\n\t\t\t\t
\n\t\t\t\t\t\t\t\t\t\n

<\/p>\n\n\n\n

Voc\u00ea j\u00e1 percebeu como alguns sistemas s\u00e3o incrivelmente r\u00e1pidos, enquanto outros travam no pior momento? Em escala global, um pequeno aumento de responde, mesmo que em milissegundos, pode significar milh\u00f5es em perdas.
<\/p>\n\n\n\n

O Google foi uma das milhares de empresa que tamb\u00e9m enfrentou esse problema e encontrou um caminho: reduzir a “Tail Latency”<\/strong> \u2013 ou seja, otimizar os piores casos de resposta nos sistemas distribu\u00eddos.<\/p>\n\n\n\n

Mas antes de falarmos do como, voc\u00ea sabe o que \u00e9 Tail Latency ? Tail Latency<\/strong> \u00e9 a lat\u00eancia dos piores casos em um sistema distribu\u00eddo, geralmente medida em percentis como p99<\/strong> (tempo de resposta m\u00e1ximo para 99% das requisi\u00e7\u00f5es). Mesmo que a mediana (p50) seja baixa, requisi\u00e7\u00f5es no p99 ou p99.9 podem ser muito mais lentas, impactando a experi\u00eancia do usu\u00e1rio. Em escala, esse problema se agrava, pois sistemas distribu\u00eddos lidam com m\u00faltiplos componentes, e basta um deles apresentar alta lat\u00eancia para degradar a resposta final.<\/p>\n\n\n\n

Eu entendo que em alguns casos parece muito pouco, mas imagine empresas lidando com 5.000 usu\u00e1rios simult\u00e2neos<\/strong> realizando uma compra ao mesmo tempo. Se a lat\u00eancia no p99<\/strong> for alta, isso significa que pelo menos 50 transa\u00e7\u00f5es<\/strong> ter\u00e3o tempos de resposta muito acima do esperado e, em alguns casos, podem at\u00e9 resultar em timeouts<\/strong>. Agora, escale isso para milh\u00f5es de requisi\u00e7\u00f5es e o impacto pode ser enorme, afetando convers\u00f5es, experi\u00eancia do usu\u00e1rio e at\u00e9 a receita do neg\u00f3cio.<\/p>\n\n\n\n

No artigo “The Tail at Scale”<\/a><\/strong>, Jeffrey Dean e Luiz Andr\u00e9 Barroso explicam como empresas lidam com esse desafio usando estrat\u00e9gias como:
<\/p>\n\n\n\n

\u2705 Hedged Requests (Redund\u00e2ncia Inteligente)<\/strong> \u2013 Disparar m\u00faltiplas c\u00f3pias da mesma requisi\u00e7\u00e3o garantindo que a resposta mais r\u00e1pida seja utilizada e as outras sejam ignoradas.
<\/p>\n\n\n\n

\u2705 Balanceamento de Carga Adaptativo<\/strong> \u2013 Distribuir requisi\u00e7\u00f5es de forma inteligente, direcionando o tr\u00e1fego para servidores menos sobrecarregados e evitando gargalos que aumentam a lat\u00eancia.
<\/p>\n\n\n\n

\u2705 Prioriza\u00e7\u00e3o e Degrada\u00e7\u00e3o Graciosa<\/strong> \u2013 Ajustar a ordem de execu\u00e7\u00e3o das requisi\u00e7\u00f5es para otimizar a experi\u00eancia do usu\u00e1rio, garantindo que opera\u00e7\u00f5es cr\u00edticas sejam processadas primeiro e, em casos extremos, degradando servi\u00e7os n\u00e3o essenciais para manter a estabilidade do sistema.
<\/p>\n\n\n\n

No artigo, eles mostram que o uso de hedged requests<\/strong> no sistema de busca do Google<\/strong> reduziu a tail latency em at\u00e9 40%<\/strong>, diminuindo o tempo de resposta das requisi\u00e7\u00f5es mais lentas de 1 segundo para cerca de 500-600 ms<\/strong>
<\/p>\n\n\n\n

Se voc\u00ea quer entender como aplicar isso nos seus projetos, vale a leitura a leitura do artigo.<\/p>\n\n\n\n

Aproveitando, Se voc\u00ea curte conte\u00fados como esse e quer aprender os padr\u00f5es e as pr\u00e1ticas para criar e manter sistemas escal\u00e1veis, resilientes e modernos, ao mesmo tempo que se torna uma autoridade no assunto, te convido a fazer parte da Comunidade de Arquitetura Descomplicada (CaD). <\/strong>Saiba mais em https:\/\/mugnos-it.com\/cad\/<\/a><\/p>\n\n\n\n

Abra\u00e7os,<\/p>\n\n\n\n

Douglas Mugnos<\/p>\n\n\n\n

<\/p>\n\t\t\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t

\n\t\t\t\t\t
\n\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t
\n\t\t\t\t\t
\n\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t<\/div>","protected":false},"excerpt":{"rendered":"

Voc\u00ea j\u00e1 percebeu como alguns sistemas s\u00e3o incrivelmente r\u00e1pidos, enquanto outros travam no pior momento? Em escala global, um pequeno aumento de responde, mesmo que em milissegundos, pode significar milh\u00f5es em perdas. O Google foi uma das milhares de empresa que tamb\u00e9m enfrentou esse problema e encontrou um caminho: reduzir a “Tail Latency” \u2013 ou […]<\/p>","protected":false},"author":3,"featured_media":1915,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_monsterinsights_skip_tracking":false,"_monsterinsights_sitenote_active":false,"_monsterinsights_sitenote_note":"","_monsterinsights_sitenote_category":0,"_jetpack_memberships_contains_paid_content":false,"footnotes":""},"categories":[1],"tags":[],"class_list":["post-1496","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-uncategorized"],"aioseo_notices":[],"jetpack_featured_media_url":"https:\/\/mugnos-it.com\/wp-content\/uploads\/2025\/04\/01.-The-Tail-at-scale.png","jetpack_sharing_enabled":true,"_links":{"self":[{"href":"https:\/\/mugnos-it.com\/pt\/wp-json\/wp\/v2\/posts\/1496","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/mugnos-it.com\/pt\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/mugnos-it.com\/pt\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/mugnos-it.com\/pt\/wp-json\/wp\/v2\/users\/3"}],"replies":[{"embeddable":true,"href":"https:\/\/mugnos-it.com\/pt\/wp-json\/wp\/v2\/comments?post=1496"}],"version-history":[{"count":14,"href":"https:\/\/mugnos-it.com\/pt\/wp-json\/wp\/v2\/posts\/1496\/revisions"}],"predecessor-version":[{"id":2073,"href":"https:\/\/mugnos-it.com\/pt\/wp-json\/wp\/v2\/posts\/1496\/revisions\/2073"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/mugnos-it.com\/pt\/wp-json\/wp\/v2\/media\/1915"}],"wp:attachment":[{"href":"https:\/\/mugnos-it.com\/pt\/wp-json\/wp\/v2\/media?parent=1496"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/mugnos-it.com\/pt\/wp-json\/wp\/v2\/categories?post=1496"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/mugnos-it.com\/pt\/wp-json\/wp\/v2\/tags?post=1496"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}