CLIPに対していろいろ条件を変えてLoRAを訓練してみた（PyTorch Lightning）
1k{icon} {views} CLIPに対してLoRAを適用して、いろいろ条件を変えて画像分類モデルを訓練した。Few-shotやパラメーター数に対しては従来のファインチューニングと同じだが、rとαとバランスを考慮す […]...
transformersのTrainerでCLIPにLoRAを適用して訓練する
637{icon} {views} HuggingFaceの提供しているpeftを使うと、LoRAが簡単に訓練できますが、transformersのTrainerベースでの訓練であり、画像分類でどうやるのかがよくわかりま […]...