ディスカッション (9件)
Amazonが構築する大規模データセンターネットワークにおいて、フラットネットワーク構成がどのように運用されているかについての技術的知見です。高密度な接続性とスケーラビリティを両立させるためのアーキテクチャ設計について解説しています。
いやー、James Hamiltonのブログ投稿、最高だね!(追記:具体的な詳細を知りたいなら、ブログで紹介されてるArxivの論文はここ https://arxiv.org/pdf/2604.15261 (https://arxiv.org/pdf/2604.15261) だし、amazon.scienceのリンクにはもう少し高レベルな視点での詳細が載ってるよ https://www.amazon.science/blog/how-flat-is-replacing-fat-in... (https://www.amazon.science/blog/how-flat-is-replacing-fat-in-aws-data-center-networks) )
結果は驚異的だった。従来のファットツリーネットワークと比較して、RNG(Resilient Network Graphs)はルーター数を69%削減し、スループットを33%向上させ、ネットワーク電力を40%カットし、運用コストを27%削減した。2026年初頭には、RNGが世界中のAmazonデータセンターの新しい標準設計になった。
ケーブル接続については、ShuffleBoxというパッシブな光デバイスが開発された。内部配線とランダム化されたShuffleBox間ケーブル接続の組み合わせにより、真のランダムグラフのように振る舞う「準ランダム」グラフが生成される。
これってかなり凄くない?ネットワークのランダムなレイアウトが、平均してより良い特性を持つなんて…
ただ、パフォーマンスのロングテール部分がすごく気になる。最悪のケースはどうなるんだろう?逆に、より良いケースはあるのかな?Closネットワークの均一性は素晴らしいけど、多くの負荷は均一性を必要としていない。もしRNGベースのネットワークに不均一性があるなら、それが役立つのか、あるいは逆に悪影響を及ぼすような運用特性があるのかもしれない。
インターネットの仕組みとそんなに変わらないよね。IXピアリングスイッチのような制御はあるし、社会的・経済的要因もあるけど、全体としてはかなりランダムだ。
これ読んでて面白いと思ったのは、これが基本的には https://socketcluster.io/ (https://socketcluster.io/) のスケーラビリティの原理と同じだからだ。利用可能なブローカー間でチャンネルをシャーディングするのは疑似ランダムなんだよ。決定論的であるためにハッシュ関数を使ってるけど、分散結果はランダムに見える。利用可能なノード間で負荷を均等に分散させる方法として、これが自分が見つけられた最良の手法だった。これが「恥ずかしいほどの並列性(embarrassingly parallel)」設計の鍵なんだ。
これをデータセンターレベルでやってるっていうのが面白いね。
6分でわかる解説動画、これいいよ:https://youtube.com/watch?v=yDoRYRRPOA0 (https://youtube.com/watch?v=yDoRYRRPOA0)
こういうランダム化・半ランダム化ネットワークの論文、いつも好きだな。もしこれが気に入ったなら、あまり知られていないけど楽しめるかもしれない論文を貼っておくよ。https://repositorio.unican.es/xmlui/handle/10902/23594 (https://repositorio.unican.es/xmlui/handle/10902/23594)
これの面白い結果の一つは、(初めて!)無制限のAWSエグレスが可能になったことだね。
安くはないし us-east-1 限定だけど、少なくともAWS Interconnect経由なら今は可能だ:https://aws.amazon.com/interconnect/lastmile/pricing/ (https://aws.amazon.com/interconnect/lastmile/pricing/)
運用コストの削減はすごいな、信じられないレベルだ(27倍?)。どこからそんな削減効果が生まれるのか、何か分かる人いる?
情報が足りてない気がする(ここで言う「データセンターネットワーク」とは何を指しているのか、など)。理解が追いつかないのはそのせいかも。これって、従来のラックやコロケーションのパラダイムの外にあって、ハイパースケーラーに関係する話なんじゃないかな。