ECS on EC2でGPUとCPUの簡易ベンチマークを測定してみた | DevelopersIO

ECS on EC2でGPUとCPUの簡易ベンチマークを測定してみた | DevelopersIO

Trainiumを使って学習した大規模言語モデルをECS on EC2でInferentiaにデプロイしてみた
https://dev.classmethod.jp/articles/deploy-llm-ecs-on-ec2-inferentia/

#dev_classmethod #LLM #AWS_Inferentia #ECS_on_EC2 #Amazon_ECS

Trainiumを使って学習した大規模言語モデルをECS on EC2でInferentiaにデプロイしてみた | DevelopersIO

Trainiumを使って学習した大規模言語モデルをECS on EC2でInferentiaにデプロイしてみた | DevelopersIO

ECS コンテナインスタンスで利用可能な CPU とメモリを確認する方法を教えてください
https://dev.classmethod.jp/articles/tsnote-ecs-cpu-and-memory-available-to-container-instances/

#dev_classmethod #AWS #Amazon_ECS #ECS_on_EC2

ECS コンテナインスタンスで利用可能な CPU とメモリを確認する方法を教えてください | DevelopersIO

困っていた内容 ECS on EC2 で、コンテナを実行しています。 リソース割り当てのため、利用中のコンテナインスタンスでコンテナに利用可能な CPU とメモリを確認したいです。確認方法を教えてください。 どう対応すればいいの? コンテナインスタンスの「リソース」セクションを確認してください。 コンテナインスタンスで利用可能な CPU とメモリはインスタンスタイプに依存します。 また、メモリに関してはオーバーヘッドがあり、インスタンスタイプとして公開されているメモリより多少少ない値となります。 実際に利用可能な CPU とメモリは、コンテナインスタンスの「リソース」セクションから確認できます。 やってみた Amazon ECS コンソールの「クラスター」からインスタンスが含まれるクラスターを選択します。 「インフラストラクチャ」タブを選択します。 「コンテナインスタンス」セクションから確認したいコンテナインスタンスをクリックします。 「リソース」セクションから確認できます。 なお「登録済み」はコンテナインスタンス登録時の値で、「利用可能」はコンテナに未割り当ての値です。 AWS CLIの場合 list-container-instancesコマンドでコンテナインスタンス ID を取得して、describe-container-instancesを実行します。 参考資料 詳解: Amazon ECS による CPU とメモリのリソース管理 | Amazon Web Services ブログ ベースラインとして、ECS は EC2 コンテナインスタンスが利用できる各 vCPU を 1024 ユニットと見なします。つまり、8 個の vCPU を持つ EC2 ホストは、8 × 1024 = 8192 CPU ユニットが利用可能です。 コンテナインスタンスモメリ管理 – Amazon Elastic Container Service プラットフォームのメモリオーバーヘッドとシステムカーネルが占めるメモリのため、この数値は、Amazon EC2 インスタンスとして公開されているインストール済みメモリ量とは異なります。例えば、m4.large インスタンスには 8 GiB のメモリがインストールされています。しかし、これはコンテナインスタンスが登録されたときに、タスクに使用できるメモリが正確に 8192 MiB に変換されるとは限りません。 Amazon ECS の CPU 割り当てについて理解する | AWS re:Post Amazon ECS のタスクにメモリを割り当てる | AWS re:Post

クラスメソッド発「やってみた」系技術メディア | DevelopersIO

最新の ECS に最適化された AMI を取得する方法を教えてください
https://dev.classmethod.jp/articles/tsnote-ecs-get-the-latest-stable-ecs-optimized-ami/

#dev_classmethod #Amazon_ECS #AWS #ECS_on_EC2 #AMI

最新の ECS に最適化された AMI を取得する方法を教えてください | DevelopersIO

困っていた内容 ECS on EC2 で、コンテナを実行しています。 コンテナインスタンスに ECS に最適化された AMI を使用していますが、最新版の AMI に更新したいです。 最新の ECS に最適化された AM …

クラスメソッド発「やってみた」系技術メディア | DevelopersIO
JenkinsをTerraformで構築してみた(ECS on EC2 + Amazon FSx for NetApp ONTAP) | DevelopersIO

ゲームソリューション部の えがわ です。 本日はJenkinsの実行環境をTerraformで構築してみました。 構成 リソース コンピューティングリソースはECS on EC2、ストレージはAmazon FSx for …

クラスメソッド発「やってみた」系技術メディア | DevelopersIO

ECS on EC2でECS Execがエラーになるときはネットワークモードを確認しよう
https://dev.classmethod.jp/articles/ecs-on-ec2-ecs-exec-networkmode/

#dev_classmethod #ECS_on_EC2 #ECS_Exec

ECS on EC2でECS Execがエラーになるときはネットワークモードを確認しよう | DevelopersIO

ゲームソリューション部の えがわ です。 ECS on EC2環境をTerraformで構築していますが、ECS Execがエラーとなり接続できませんでした。 原因の特定に時間がかかってしまったので、備忘録として残してお …

クラスメソッド発「やってみた」系技術メディア | DevelopersIO