PyTorchモデルをONNXやOpenVINOなどで最適化する実験
2.5k{icon} {views} Lambda上でのモデル推論で発生するコールドスタートを短縮するために、PyTorchモデルのさまざまな保存・最適化手法をEC2で比較した。結果、モデル変換が有力で、ONNXかOpe […]...
X-RayでLambdaに注釈やカスタムメタデータを付与する
200{icon} {views} Lambda関数にX-Rayを導入し、注釈やカスタムメタデータを付与して環境変数や実行時間を記録する方法をまとめています。boto3を使ったトレースログの取得コード例も含め、実際のJS […]...
API Gatewayのモック統合でHTMLページを表示
307{icon} {views} API GatewayだけでHTMLページをホストする方法を、Terraformのモック統合で実践する手順を紹介しています。 文字化けを防ぐために、Content-TypeヘッダーやH […]...
CodeBuildで作る、LambdaにEFSをマウントしてPyTorchをロード
316{icon} {views} Lambda上でPyTorchなどの大容量ライブラリを扱うため、EFSを活用して依存関係を配置する方法を解説します。CodeBuildを使ったライブラリのインストール自動化やTerra […]...
Terraformで最新のLinuxのAMIを取得するためのコード
1.2k{icon} {views} Terraformを使ってAmazon Linux 2023とUbuntu 24.04の最新AMIを取得する際のフィルター設定例をまとめてみました。 はじめに TerraformでE […]...
CloudWatch MetricsによるEC2のディスク使用率の集計とDashboardの可視化を試す
983{icon} {views} EC2でCloudWatch Agentをインストールし、ディスク使用率をCloudWatch Metricsに送信して可視化しました。Terraformでインフラをコード化し、標準メ […]...
DynamoDBのScanIndexForwardで昇順/降順ソートでクエリ
2.4k{icon} {views} DynamoDBでソートキーの昇順・降順を簡単に切り替えるために、ScanIndexForwardオプションを使う方法をTerraformとPythonのサンプルコードで検証してみま […]...
DynamoDBのグローバルテーブルを試す
220{icon} {views} Terraformを使ったDynamoDBグローバルテーブルで、複数リージョンへの自動同期を実装する方法を紹介します。例えば、東京とバージニア間でのリアルタイムなデータレプリケーション […]...
論文まとめ:Visual Autoregressive Modeling: Scalable Image Generation via Next-Scale Prediction
670{icon} {views} タイトル:Visual Autoregressive Modeling: Scalable Image Generation via Next-Scale Prediction 著者: […]...
LambdaのX-Rayを試す
431{icon} {views} LambdaでOpenAI APIを呼び出しつつ、AWS X-RayによるトレーシングをTerraformで設定する方法を解説しています。レイヤーとしてOpenAIとX-Ray SDK […]...