ECSコンテナ内へ手軽にSSH接続できるECS Execを試してみた
7{icon} {views} FargateのタスクロールにSession Manager用のポリシーを付与し、enable_execute_commandを有効化するだけでコンテナ内部へのSSH接続が可能になる。AW […]...
AppSyncによるGraphQLのAPIを試す
4{icon} {views} TerraformでAppSyncを構築し、HTTPSとWebSocketを組み合わせてリアルタイム通信ができるGraphQL APIを作成する手順をまとめてみました。Pythonからミュ […]...
GPT-4oのファインチューニングで画像に対する「ボケて」を学習
100{icon} {views} 画像とテキストの組み合わせで「ボケて」を学習させるため、GPT-4oをファインチューニングしてみた。じわじわくる系の面白さは学習できたものの、OpenAIのコンプライアンスが厳しく、多 […]...
S3 Object Lambdaを試す
12{icon} {views} TerraformとAWSのS3 Object Lambdaを連携させることで、S3バケットのオブジェクトを動的に加工しながら取得する仕組みを構築します。JSONデータのnameキーをL […]...
DockerベースLambdaとSnapStartで比較するコールドスタート最適化
20{icon} {views} DockerベースのLambdaとソースベースのLambdaでのコールドスタートを比較し、SnapStartを使った短縮効果を詳しく検証してみました。モデルのサイズやCPU命令セットの制 […]...
PyTorchモデルをONNXやOpenVINOなどで最適化する実験
181{icon} {views} Lambda上でのモデル推論で発生するコールドスタートを短縮するために、PyTorchモデルのさまざまな保存・最適化手法をEC2で比較した。結果、モデル変換が有力で、ONNXかOpen […]...