Transloadit、1500台へのスケール拡大でエンコードを高速化
エンコードはサーバーに大きな負荷をかけます。この事業を始めたときから、お客様が処理を依頼するのは簡単でも、私たちがそれを処理するのははるかに大変だとわかっていました。エンコード処理の依頼が急増する度合いは大きく変動し、予算にも限りがあるため、この事業にキューはつきものです。
そうではないと言う人がいたら、大規模に運用していないか、赤字を出しているかのどちらかです。
急増する負荷とキュー
Transloadit のアップロード機能を組み込み、エンドユーザーが自分のサイトにアバターをアップロードできるようにしている方もいます。別のお客様の 500本の動画ライブラリを iPad での表示向けに最適化しているからといって、アバターのリサイズに四時間も待たせるわけにはいきません。
そのため、キューそのものと、さまざまなユースケースに及ぼす影響を最小限に抑える必要があります。
その影響に対処するために、私たちは処理を区別するアルゴリズムを作りました。アバターのアップロードやリサイズのようにリアルタイムに感じられる必要がある処理と、既存メディアの大量変換のように多少時間がかかってもよい処理を区別します。
三秒で終わるはずの処理でさらに四時間待たされるのは致命的ですが、四時間かかる処理で三秒余分に待つのは問題ありません。優先順位が重要なのです。
もちろん、4時間を十分間に短縮できれば、さらによいはずです。
キューそのものに対処するために、スケーリングが必要だとわかっていました。先ほど述べたように、エンコードの負荷は非常に不規則になることがあります。長いキューを速やかに解消するには、非常に大きな基本処理能力が必要です。
残念ながら、その処理能力が必要なのはピーク時だけです。それ以外の 90%の時間は、データセンターで使われないまま価値を失ってしまいます。このモデルで収益を上げるのは極めて困難です。
そこに登場したのが Amazon でした。
Amazon のクラウド
Amazon も、クリスマスセール期間中にトラフィックが極端に急増するという、同じような問題を抱えていました。もちろん利用者を断るわけにはいかず、急増に対応するために必要なだけサーバーに投資しなければなりませんでした。
しかし、それ以外の時期には、この高価な設備は収益を生んでいませんでした。
この頃、Amazon の IT 部門は、プラットフォームの保守性を高めるために仮想化を活用する方法を検討していました。データセンターに足を運ばずに、ほとんどのサーバーを再インストールできるだけでも大きな利点でした。それ以前に Jeff Bezos は、Amazon 社内で構築するサービスはすべて、他社でも簡単に使えるように設計すべきだというメモを出していました。
その後、Amazon は仮想化管理ツールを世界に公開し、余剰の処理能力を貸し出せるようになりました。これにより、クリスマス以外の時期に遊休状態になるサーバーからも収益を得られるようになったのです。
こうしてクラウドが誕生しました 🐣。少なくとも、私なりに簡略化するとこんな話です 😄。でたらめだと思った方は、twitter で教えてください。この壮大な物語を修正します。
Transloadit ❤️ Amazon
前述のとおり、私たちには負荷の急増に対応するだけの処理能力を確保する資金がありませんでした。投資家を説得して資金を出してもらえたかもしれませんが、ほとんどの時間マシンが何もしていない状態で利益を出すのは、極めて困難です。
ところが、Transloadit のアイデアを思いついた頃、Amazon のクラウドサービス AWS がベータ版を卒業したばかりで、サーバーの処理能力を時間単位で借りられるようになっていました。さらに API のおかげで、トラフィックの増加に合わせて自動で借りるソフトウェアも書けました。
このように、私たちが存在できるのは Amazon のおかげです。
見えない上限
Amazon のクラウドに期待していた私たちは、もはや限界はないと考えていました。「処理能力は無制限!」「本当に必要なときだけ!」。初めて高性能なマシンで稼働したときの喜びは、今でも覚えています。
ついに高性能な 8コアマシンで稼働中です!
— transloadit(🤖 Transloadit)2010年7月5日しかし、見えない上限がありました。六台のマシンを起動しようとしたところ、エラーが発生しました。調べてみると、次のような制限があったのです。
AWS アカウントを作成すると、AWS はリージョンごとにインスタンスの上限を設定します。
私たちの上限は五台に設定されており、そのとき抱えていたキューの解消には延々と時間がかかりました。
Amazon とのやり取りは常によいもので、初期には私たちの認知度を高める支援 までしてくれました。すぐに問い合わせると、Amazon もすぐに対応し、新たに最大 20台という「インスタンス上限」を認めてくれました。
取り組みを認めてもらい、見えない上限を突破できたことが、とてもうれしかったです 😄。
それ以来、インスタンス上限を引き上げるために、さらに何度か Amazon に連絡する必要がありました。直近では 2013年11月5日に、主要データセンターでの上限を 500台に引き上げてもらいました。
スケーリングのパターン
最近、再びトラフィックが増え、次のようなパターンが見られるようになりました。
グラフを見ると、エンコード処理がキューに投入されるにつれてマシンが増えています。しかし 500台に達すると線は横ばいになり、5 TB のキューの処理は、私たちが望むほど速く進みません。
普段なら Amazon にメールを一通送るだけなのですが、今回は次のような返答でした。
この規模の上限引き上げには、サービスチームと連携して承認を得る必要があります。既存のインフラの安全性を維持しながら、ご要望にお応えできるようにするためです。
Amazon には約 450,000台の物理サーバーがあると推定されています。その規模から見れば、私たちはまだ小さな存在です。それでも、今回の申請に対して追加のリソース計画が必要だったという事実には胸が躍りました。
ですから、今日、次のようなメールが届いて、さらに興奮している気持ちもわかっていただけると思います。
EU(アイルランド)および米国東部(バージニア北部)リージョンの EC2 インスタンス上限引き上げ申請について、承認と処理が完了しましたのでお知らせします。反映されて利用可能になるまで、最大 15分かかる場合があります。
この新しいインスタンス上限により、米国で 1000台、EU で 500台までマシンを増やせるようになりました。つまり、処理能力をこれまでの倍以上に拡大できます。
すでに 1500台で稼働しているという意味ではありません。それでも、今日からこれだけの拡張余地が得られたことは、私たちにとって大きな前進です。この余力を活用できれば、最近ますます頻繁に見られる複数テラバイト規模のエンコードキューを、速やかに解消する大きな助けになります。
お客様にとっては、エンコード時間が短くなり、大量の HD 動画のインポートでも、小さなアバターのように扱えるということです! 😉
