タグ: Lambda

PyTorchモデルをONNXやOpenVINOなどで最適化する実験

292{icon} {views} Lambda上でのモデル推論で発生するコールドスタートを短縮するために、PyTorchモデルのさまざまな保存・最適化手法をEC2で比較した。結果、モデル変換が有力で、ONNXかOpen […]...

X-RayでLambdaに注釈やカスタムメタデータを付与する

21{icon} {views} Lambda関数にX-Rayを導入し、注釈やカスタムメタデータを付与して環境変数や実行時間を記録する方法をまとめています。boto3を使ったトレースログの取得コード例も含め、実際のJSO […]...

LambdaのX-Rayを試す

47{icon} {views} LambdaでOpenAI APIを呼び出しつつ、AWS X-RayによるトレーシングをTerraformで設定する方法を解説しています。レイヤーとしてOpenAIとX-Ray SDKを […]...

API Gatewayのカナリアリリースを試す

64{icon} {views} Terraformを使用してAPI Gatewayのカナリアリリースを実装し、ステージ変数を活用してトラフィックを動的に異なるLambda関数へルーティングする方法を解説します。これによ […]...