Apresentamos um novo limitador de taxa para melhorar o desempenho
Na Transloadit, buscamos evitar qualquer limitação ao uso dos nossos clientes. Por isso, até agora só tínhamos um limitador de taxa, que limita a 250 por minuto o número de requisições para criar uma Assembly. Isso funcionou razoavelmente bem ao longo dos anos, já que, na prática, só limita o uso indevido do sistema. 250 novas Assemblies por minuto é bastante coisa.
No entanto, padrões de uso mais recentes mostraram que esse limite, por si só, não garante um sistema com bom desempenho para todos os nossos clientes o tempo todo. Embora as pessoas geralmente fiquem bem abaixo do limite de 250 novas Assemblies por minuto, o tamanho de cada uma dessas Assemblies pode ser enorme. Além disso, quando são executadas, essas Assemblies permanecem nos nossos servidores por muitos minutos ou, em alguns casos raros, até horas. Isso resulta em uma carga elevada nos nossos servidores, Assemblies e Jobs de codificação na fila e longos tempos de espera para outras pessoas com uso regular. Precisávamos tomar uma providência.
Por isso, hoje apresentamos um novo limitador de taxa que limita o uso a 250 Assemblies em execução simultânea. Para falar com toda a franqueza, esse limitador de taxa já está em produção há 6 semanas. Durante esse período, monitoramos de perto quem seria afetado por ele e em quais situações específicas. Com base nessa análise cuidadosa, concluímos que 250 é um bom valor padrão para todos os clientes. Os clientes que se aproximavam desse limite com frequência já tiveram um limite maior implementado nas suas contas. Isso deve garantir que ninguém perceba qualquer impacto negativo no uso da Transloadit em decorrência dessa mudança. Em vez disso, todos devem agora poder aproveitar um sistema com melhor desempenho, sabendo que outros clientes já não podem esgotar os recursos ao sobrecarregar nossos servidores de forma desproporcional.
Nesse meio-tempo, também adicionamos suporte ao limitador de taxa aos nossos SDK para Node e SDK para Ruby, que implementam novas tentativas automáticas para requisições limitadas pelo limitador de taxa. Outros SDKs receberão esse suporte em breve. Se você atinge o limite com frequência ao executar tarefas em lote no backend, sugerimos que use um desses SDKs. Se, por outro lado, você atinge o limite porque seus usuários fazem muitos uploads, isso é, claro, uso regular. Nesse caso, teremos prazer em aumentar o limite da sua conta.