SendGridの累計送信通数が3兆通に到達(2020年5月)

この記事は Scale by Design: 3T Emails and Growing の抄訳です。

Twilio SendGridのミッションは、世界で最も信頼できるコミュニケーションプラットフォームを提供することです。その取り組みの中で、2020年5月、新たなマイルストーンを達成しました。処理したメールが通算3兆通を突破したのです。

今回は、この快挙の共有とともに、これだけ巨大なシステムをどのように設計したのか、そしてTwilio SendGridが送信者の規模を問わず確実にどうメールを配信しているのかについてご紹介します。

でもその前に、今回のようなマイルストーンがやってくるタイミングがどんどん早まっていることを示す驚異的な数値をご覧ください。

• 1兆通に到達するまでに要した日数：2,956日
• そこから2兆通に到達するまでに要した日数：682日
• さらにそこから3兆通に到達するまでに要した日数：464日

このような大量のトランザクションを処理するシステムを大規模に構築・運用するには、設計、計画、検証、細部への注意、負荷テスト、インフラの調整など、さまざまな対応が必要です。当社のエンジニアは、この規模でシステムが確実に動作するとともに、99.99％という稼働率を実現し、TFA（Time to First Attempt／Twilio SendGridが送信リクエストを受けてから、メールボックスプロバイダに最初に送信を試みるまでの時間）の中央値1.9秒という短い処理時間を維持するために、懸命に取り組んできました。

設計によるスケール拡大

2016年のブラックフライデーとサイバーマンデーのピーク時には、当時記録的だった通数をシステムがうまく処理できるようエンジニアが手をかけて対応しなくてはなりませんでした。これは、チームにとっては過酷な週末の作業でした。

それ以降、システムのスケール拡大を実現するために投資をしてきましたが、その効果は明らかです。2019年の感謝祭では、ピーク時に1時間あたり3億1500万通のメールを処理した上でシステムは完璧に機能していたため、アラートはほぼゼロに近い状態でした。

現在、平日は1日20億通以上のメールを処理しており30億通を突破する日もあります。20億通を下回った最後の平日（クリスマスと元旦を除く）は2019年7月5日でした。ちなみに、2018年1月6日には、1日に10億通を超えていました。

Twilio SendGridが処理するメールの通数は、2016年のブラックフライデー以降、前年比70%増となっています。これまでに経験したことのない成長に耐えられるよう、私たちは信頼性が高く、スケーラブルなメールインフラストラクチャを意識して構築することにしました。大量のメールを処理するために、人手による微調整や介入に頼るのではなく、システムとして処理できるようにしたのです。

スケール拡大は大量送信者のためだけではない

Twilio SendGridはあらゆる規模の送信者をサポートしているため、公平なキューイングは常に重要な課題でした。大量送信者のリクエストを処理するのに手一杯になって、小規模な送信者のリクエストを処理できなくなってしまうようなことは許容できません。公平なキューイングは、私たちのメールパイプラインの重要な原則の一つなのです。当社のプルベースのアーキテクチャの中核にあるSendGrid Schedulerは、すべてのお客様のメールの処理時間を最小化するとともに、公平に処理するよう設計されています。これにより、スループットを最大化しています。

障害に備えた設計

もう一つの大きな強みは、データセンタ戦略です。Twilio SendGridは、すべてのメールを米国内の3つのデータセンタ（東海岸、中西部、西海岸）で処理しています。データセンタを3つ持つことにより、極めて高い可用性を実現しています。1つは常に待機しており、他の2つのデータセンタで何らかの障害が発生しても、3つ目のデータセンタがすぐにトラフィックを処理できるようになっています。回線が切断されたり、サーバはもちろんのことラック単位で故障したりしても、3つのデータセンタがいつでもトラフィックを処理できるよう準備しているため、お客様が気づくことなく、大規模な障害に対処できます。

ダイレクト接続

自社のデータセンタを運営することにより、他の多くのESPにはないもう一つのメリットをお客様に提供しています。それは、お客様とメールボックスプロバイダ両方をダイレクト接続できることです。当社は大量のメールを短時間に送信しているため、通常はISPにしか提供されていないアクセス方法が利用できるのです。

今年はAWSとYahoo!（米yahoo.com）とのダイレクト接続を構築しました。これにより、AWSから利用するお客様の信頼性が向上し、より低いレイテンシで当社のサービスにアクセスできるようになります。一方、Yahoo!の場合、受信トレイに届く可能性が高まります。ダイレクト接続を介してメールボックスにアクセスすることができるため、ネットワークやインフラに障害が発生した場合でも、他のESP同様インターネット経由のアクセスに切り替わります。これにより、極めて高い信頼性が得られるだけでなく、すべてのお客様に低レイテンシと高スループットを提供できるようになりました。

次のマイルストーンは？

私たちは、今後も大規模かつ継続的な成長を見込んでいます。通算4兆通の送信と1日50億通の送信をする日も見えてきており、3兆通から4兆通に至る日数はもっと短くなるでしょう。これらのマイルストーンに向けて、レイテンシを低くし、送信に関するより良い知見を提供するとともに、すべてのお客様に最高の体験を提供できるよう、スケールさせ続けていきます。

さらに今後は、SendGridチーム、Twilioチームが密に連携し、規模を拡大しながら、お客様にさらなる価値を提供していきます。