GradioとStreamlitのアプリをnginxでサブディレクトリにルーティングさせる
850{icon} {views} 1つのドメイン直下にサブディレクトリを作り、複数のGradio、Streamlitのアプリを配置するパターンをコンテナベースで実装してみます。nginxによるリバースプロキシを使います […]...
Mini-GPT4をDockerで動かしてバッチ処理する
686{icon} {views} Mini-GPT4というマルチモーダルLLMをDockerを使ってバッチ処理をしてみました。係数を部分的にDockerイメージに組み込んだり、使用するLLMを切り替えられるようにちょっ […]...
Chrome Driverとバイナリーのバージョンを一致させるためのDockerfileの書き方
2k{icon} {views} Seleniumでスクレイピングするには、Chrome Driveとバイナリーの両方が必要になりますが、両者のバージョンの一貫性をDockerfile内で保つことにややハマったので自分な […]...
docker-composeを使ってLambda用のAWSプロファイルを切り替える
1.5k{icon} {views} Dockerを使ってLambdaをデプロイします。ローカルではAWSの名前付きプロファイルを使って、コードに変更を加えずに、AWSにデプロイする場合は工夫が必要になります。docke […]...
Jupyter Lab上からChatGPTを使える「Jupyter AI」をDockerから利用する
1.2k{icon} {views} Jupyter Lab上から簡単にChatGPTを使える「Jupyter AI」をカスタムDockerで動かしてみました。使用するライブラリに応じてオリジナルな開発環境を自在に構築す […]...
Kohya版のLoRAをDockerで訓練する
3.5k{icon} {views} LoRAのデファクトスタンダードとなりつつあるKohya版のLoRA学習スクリプトをDockerで動かしてみました。Diffusersとの連携も可能で、Diffusersオフィシャル […]...
DockerでGPU版ONNXを使ってみる
2.7k{icon} {views} DockerでGPU版をONNXを動かしてみました。比較的に簡単に動かせたので、いろいろ便利だと思います。YOLOXを例に検証します。 概要 ONNXRuntimeのGPU版をDoc […]...
FastAPI+MessagePackで画像とメタデータを一緒にPOSTする
1.4k{icon} {views} FastAPIで画像とメタデータ(テキストやリストなど)を一緒に、1つのオブジェクトとしてPOSTする方法を解説します。MessagePackで全部丸々固めてしまうやり方で、サクッと […]...
Windows11+WSL2でGPUのPyTorchを最低限動かすためのオレオレDockerfile
3.5k{icon} {views} Windows11+WSL2でGPU対応のPyTorchのDockerイメージを1から作る方法を紹介します。CUDAとCuDNNはDockerhubで公開されているnvidiaのイメ […]...
Windows11でWSL2+nvidia-dockerでPyTorchを動かすのがすごすぎた
30.1k{icon} {views} Windows11にはWSL2があり、Linux環境からGPUありのPyTorchを動かすことが可能です。WSL2経由のほうがWindowsネイティブよりも訓練速度が倍になります。 […]...