カテゴリー: AWS

PyTorchモデルをONNXやOpenVINOなどで最適化する実験

829{icon} {views} Lambda上でのモデル推論で発生するコールドスタートを短縮するために、PyTorchモデルのさまざまな保存・最適化手法をEC2で比較した。結果、モデル変換が有力で、ONNXかOpen […]...

X-RayでLambdaに注釈やカスタムメタデータを付与する

48{icon} {views} Lambda関数にX-Rayを導入し、注釈やカスタムメタデータを付与して環境変数や実行時間を記録する方法をまとめています。boto3を使ったトレースログの取得コード例も含め、実際のJSO […]...

API Gatewayのモック統合でHTMLページを表示

111{icon} {views} API GatewayだけでHTMLページをホストする方法を、Terraformのモック統合で実践する手順を紹介しています。 文字化けを防ぐために、Content-TypeヘッダーやH […]...

DynamoDBのグローバルテーブルを試す

85{icon} {views} Terraformを使ったDynamoDBグローバルテーブルで、複数リージョンへの自動同期を実装する方法を紹介します。例えば、東京とバージニア間でのリアルタイムなデータレプリケーションも […]...

LambdaのX-Rayを試す

140{icon} {views} LambdaでOpenAI APIを呼び出しつつ、AWS X-RayによるトレーシングをTerraformで設定する方法を解説しています。レイヤーとしてOpenAIとX-Ray SDK […]...