EC2 Image BuilderでAMIの自動作成を試してみる
102{icon} {views} TerraformとYAMLファイルで定義したイメージレシピを用い、Amazon Linux 2023にPyTorchをインストールしたカスタムAMIを自動的にビルドする手順を解説。I […]...
PyTorchモデルをONNXやOpenVINOなどで最適化する実験
1.1k{icon} {views} Lambda上でのモデル推論で発生するコールドスタートを短縮するために、PyTorchモデルのさまざまな保存・最適化手法をEC2で比較した。結果、モデル変換が有力で、ONNXかOpe […]...
Terraformで最新のLinuxのAMIを取得するためのコード
470{icon} {views} Terraformを使ってAmazon Linux 2023とUbuntu 24.04の最新AMIを取得する際のフィルター設定例をまとめてみました。 はじめに TerraformでEC […]...
CloudWatch MetricsによるEC2のディスク使用率の集計とDashboardの可視化を試す
389{icon} {views} EC2でCloudWatch Agentをインストールし、ディスク使用率をCloudWatch Metricsに送信して可視化しました。Terraformでインフラをコード化し、標準メ […]...
Amazon Data Lifecycle Managerによるバックアップ自動化を試す
139{icon} {views} Amazon Data Lifecycle Manager(DLM)を使用して、タグ付けしたEBSボリュームのスナップショットをTerraformで毎時自動取得する手順を解説します。 […]...
LLaMA.cpp+(cu)BLASのCPU/GPUのスループット検証(AWS編)
920{icon} {views} AWSのEC2環境でのLLaMA.cppのスループットをCPU,GPUインスタンスで比較してみました。結論としてはGPUのほうが良さそうということですが、インスタンスあたりのコストを考 […]...