こしあん
2019-02-08

[Python]OpenCVで画像を歪ませる方法

Pocket
LINEで送る


PythonでOpenCVを使い画像を歪ませる方法を考えます。アフィン変換というちょっと直感的に理解しにくいことをしますが、慣れればそこまで難しくはありません。ディープラーニングのData Augmentationにも使えます。

OpenCVでのアフィン変換のイメージ

アフィン変換というと、まず画像の回転を思いつきますが、回転はアフィン変換のほんの一例です。回転がアフィン変換でできるというだけであって、アフィン変換=回転ではありません。最初に回転で覚えるとよりややこしくなります。

OpenCVのアフィン変換では元の画像のある3点がどのように移動したか(難しい言葉で言うのなら写像の)定義により、変換(の行列)が規定されます。こっちのほうが本質的なアフィン変換の定義に近いと思います。

例えば始めに青い色のような三角形(3点)があったとしましょう。座標系はピクセルの座標系に合わせて(縦,横)としています。例えばもし、「(0,3)の点が(-1,2)に、(3,0)の点が(2,-1)に移動するように変換したらどうか?」というのがアフィン変換のポイントです。(0,0)も動かすことはできますが、今はわかりやすくするため動かしません。

もし3点の移動先を結べば、新たな三角形が描画できます。この三角形上に、元の対応する三角形上のピクセルを投影すれば画像を歪ませることができます。アフィン変換のアルゴリズムってこんな感じではないのでしょうか。

なら回転はどうかというと、「(0,0)の点は固定して、移動先の2点のそれぞれの(0,0)からの辺の長さがおなじになるという縛りをおいたアフィン変換」と考えることができます。これはつまり、移動先の三角形が元の三角形と同じ形である(回転角だけ違う)という状態になります。この縛りを満たす点の集合はなにかというと、有名な回転行列の式が出てくるということではないでしょうか。

なぜアフィン変換=回転ではないかというと、例えば先程の三角形の例で(0,0)を固定して、(0,3)→(0,6)、(3,0)→(6,0)という変換すればこれは2倍の拡大操作になるからです。アフィン変換とは回転だけでなく、拡大・縮小・移動といったもっと広い操作を定義することができます。たいていこのような拡大操作は別の関数があるので、わざわざアフィン変換を使う必要がないよということだけです。

画像の基準に起点にランダムに歪ませる方法

すべての平面の画像は以下のように2×2の座標で考えることができます。

縦横に比例(拡大)させれば任意の解像度になりますからね。(0,0)=左上、(0,2)=左下、(1,1)=中心、(2,0)=右上、(2,2)=右下としましょう。今、左上、左下、右上の三角形を考えることにしましょう。

この三角形の角座標に対して0~1の乱数を付与することを考えます(乱数でなくても決定的に与えてもいいです)。つまり以下のような写像を考えます。

この写像定義より、アフィン変換を用いると画像を歪ませることができます。コードで書くと次のとおりです。

import cv2
import matplotlib.pyplot as plt
import numpy as np

def shear_image(base_image, shear_range):
    assert shear_range >= 0.0 and shear_range <= 1.0
    h = base_image.shape[0] // 2
    w = base_image.shape[1] // 2
    randoms = np.random.uniform(1.0-shear_range, 1.0+shear_range, (3,2)).astype(np.float32) #32ビット変数にする
    coefs = np.array([[-1,-1],[1,-1],[1,1]], np.float32)
    centers = np.array([[h,w]], np.float32)
    origin = centers + centers * coefs
    dest = centers + centers * coefs * randoms
    affine_matrix = cv2.getAffineTransform(origin, dest)
    return cv2.warpAffine(base_image, affine_matrix, (base_image.shape[1], base_image.shape[0]))

ただし乱数はfloat32型で与えるようにしてください。デフォルトだと64ビット変数になりエラーになるので注意してください(詳しくはこちらの記事)

実行してみます。

image = cv2.imread("cats.jpg")[:,:,::-1]
for i in range(20):
    sheared = shear_image(image, 0.2)
    plt.clf()
    plt.imshow(sheared)
    plt.show()

いい感じですね。これData Augmentationに使えるのではないでしょうか。なんかランダムに動かすと、猫が立体的に見えるというか、いろんな角度から見ているようで猫が動いているような錯覚を覚えます。早速使ってみようと思います。

Related Posts

PyTorchでDCGANやってみた PyTorchでDCGANをやってみました。MNISTとCIFAR-10、STL-10を動かしてみましたがかなり簡単にできました。訓練時間もそこまで長くはないので結構手軽に遊べます。 はじめに PyTorchでDCGANやってみました。コードはほとんどこの記事のコピペです。MNISTとCIFA...
TensorFlowでもラプラシアンピラミッドを作る... 以前作ったPyTorchのラプラシアンピラミッドをTensorFlow2.0に移植しました。何かと便利なラプラシアンピラミッドをつかってみよう。 環境 TensorFlow2.0 CPUの動作で確認しましたが、一応TPUでも動くように配慮はしました。 PyTorchの元記事 コード Co...
Kerasで転移学習用にレイヤー名とそのインデックスを調べる方法... Kerasで転移学習をするときに、学習済みモデルのレイヤーの名前と、そのインデックス(何番目にあるかということ)の対応を知りたいことがあります。その方法を解説します。 転移学習とは 転移学習とは、ImageNetなど何百万もの大量の画像で事前学習させたモデルを使い、それを「特徴量検出器」として...
PyTorchでSliced Wasserstein Distance (SWD)を実装した... PyTorchでSliced Wasserstein Distance (SWD)を実装してみました。オリジナルの実装はNumpyですが、これはPyTorchで実装しているので、GPU上で計算することができます。本来はGANの生成画像を評価するためのものですが、画像の分布不一致を見るためにも使うこ...
TensorFlow/Kerasでの分散共分散行列・相関行列、テンソル主成分分析の実装... TensorFlowでは分散共分散行列や主成分分析用の関数が用意されていません。訓練を一切せずにTensorFlowとKeras関数だけを使って、分散共分散行列、相関行列、主成分分析を実装します。最終的にはカテゴリー別のテンソル主成分分析を作れるようにします。 何らかの論文でこれらのテクニックを...
Pocket
LINEで送る
Delicious にシェア

Add a Comment

メールアドレスが公開されることはありません。 * が付いている欄は必須項目です