[CMP334] Introducing AWS Inferentia2-based Amazon EC2 ユースカジノ 入金不要ボーナス コード instances[NEW LAUNCH!]

投稿日: 2022/12/09

11/29 AWSで発表されたEC2 ユースカジノ 入金不要ボーナス コードインスタンスタイプの詳細セッション。

ユースカジノ 入金不要ボーナス コードインスタンスは、AWSによって設計された3番目のDeep Learning（DL）アクセラレータである最大12のAWS Inferentia2で動作します。

Inf1タイプと比較してユースカジノ 入金不要ボーナス コード4倍の高スループットと10倍低い遅延時間と10TBの集約メモリ帯域幅を提供します。

最大のインスタンスサイズであるユースカジノ 入金不要ボーナス コード.48xlargeでは、175Bのパラメータモデルがデプロイ可能です。

自然言語処理アプリケーションで使用される人気の機械学習モデルでユースカジノ 入金不要ボーナス コードRoBERTaをベースにしたベンチマークも確認できました。

ユースカジノ 入金不要ボーナス コードタイプと比較してスループットは2.6倍、遅延時間は8.1倍改善された部分を確認しました。

最善の点は、エネルギー効率も備えていることです。

GPU インスタンスに最適化された G5 インスタンスよりワットあたりユースカジノ 入金不要ボーナス コード 50% 削減された様子です。

OPT 300億パラメータモデルの場合、ユースカジノ 入金不要ボーナス コードは毎秒573個のトークンを配信するのに対し、G5は毎秒181個のトークンを配信する様子で、3倍以上のスループットの差を示しています。

660億のパラメータモデルでテストすると、G5はメモリの問題が発生しますが、ユースカジノ 入金不要ボーナス コードは依然として高い性能を提供します。

その理由は、最低コストで高い性能と短いユースカジノ 入金不要ボーナス コード出力を提供するように設計されたからだと言われています。

あるユースケースでは、Amazon Searchがユースカジノ 入金不要ボーナス コードで2倍の速さで実行されることがわかりました。

パフォーマンスとユースケースに基づいて、新しいインスタンスタイプであるユースカジノ 入金不要ボーナス コードタイプについて調べました。

発展が驚くべきと思いました。

まだPreview段階でus-east-1、us-east-2リージョンにのみリリースすると言われていますが、GAになればInf1タイプを使用する顧客にとって良い選択肢になるようです。