LLaMA.cpp+(cu)BLASのCPU/GPUのスループット検証（AWS編）
169{icon} {views} AWSのEC2環境でのLLaMA.cppのスループットをCPU,GPUインスタンスで比較してみました。結論としてはGPUのほうが良さそうということですが、インスタンスあたりのコストを考 […]...
HMAC（メッセージ認証）をAWS Lambdaで動かしたときのスループットを確かめる
98{icon} {views} API Gatewayなどに対してLambdaで認証をかける場合に、SHAベースのHMAC（メッセージ認証）のスループットを調べてみました。Lambdaのスペックを変えながら、ペイロード […]...
docker-composeを使ってLambda用のAWSプロファイルを切り替える
311{icon} {views} Dockerを使ってLambdaをデプロイします。ローカルではAWSの名前付きプロファイルを使って、コードに変更を加えずに、AWSにデプロイする場合は工夫が必要になります。docker […]...