こしあん
2019-02-08

[Python]OpenCVで画像を歪ませる方法


PythonでOpenCVを使い画像を歪ませる方法を考えます。アフィン変換というちょっと直感的に理解しにくいことをしますが、慣れればそこまで難しくはありません。ディープラーニングのData Augmentationにも使えます。

OpenCVでのアフィン変換のイメージ

アフィン変換というと、まず画像の回転を思いつきますが、回転はアフィン変換のほんの一例です。回転がアフィン変換でできるというだけであって、アフィン変換=回転ではありません。最初に回転で覚えるとよりややこしくなります。

OpenCVのアフィン変換では元の画像のある3点がどのように移動したか(難しい言葉で言うのなら写像の)定義により、変換(の行列)が規定されます。こっちのほうが本質的なアフィン変換の定義に近いと思います。

例えば始めに青い色のような三角形(3点)があったとしましょう。座標系はピクセルの座標系に合わせて(縦,横)としています。例えばもし、「(0,3)の点が(-1,2)に、(3,0)の点が(2,-1)に移動するように変換したらどうか?」というのがアフィン変換のポイントです。(0,0)も動かすことはできますが、今はわかりやすくするため動かしません。

もし3点の移動先を結べば、新たな三角形が描画できます。この三角形上に、元の対応する三角形上のピクセルを投影すれば画像を歪ませることができます。アフィン変換のアルゴリズムってこんな感じではないのでしょうか。

なら回転はどうかというと、「(0,0)の点は固定して、移動先の2点のそれぞれの(0,0)からの辺の長さがおなじになるという縛りをおいたアフィン変換」と考えることができます。これはつまり、移動先の三角形が元の三角形と同じ形である(回転角だけ違う)という状態になります。この縛りを満たす点の集合はなにかというと、有名な回転行列の式が出てくるということではないでしょうか。

なぜアフィン変換=回転ではないかというと、例えば先程の三角形の例で(0,0)を固定して、(0,3)→(0,6)、(3,0)→(6,0)という変換すればこれは2倍の拡大操作になるからです。アフィン変換とは回転だけでなく、拡大・縮小・移動といったもっと広い操作を定義することができます。たいていこのような拡大操作は別の関数があるので、わざわざアフィン変換を使う必要がないよということだけです。

画像の基準に起点にランダムに歪ませる方法

すべての平面の画像は以下のように2×2の座標で考えることができます。

縦横に比例(拡大)させれば任意の解像度になりますからね。(0,0)=左上、(0,2)=左下、(1,1)=中心、(2,0)=右上、(2,2)=右下としましょう。今、左上、左下、右上の三角形を考えることにしましょう。

この三角形の角座標に対して0~1の乱数を付与することを考えます(乱数でなくても決定的に与えてもいいです)。つまり以下のような写像を考えます。

この写像定義より、アフィン変換を用いると画像を歪ませることができます。コードで書くと次のとおりです。

import cv2
import matplotlib.pyplot as plt
import numpy as np

def shear_image(base_image, shear_range):
    assert shear_range >= 0.0 and shear_range <= 1.0
    h = base_image.shape[0] // 2
    w = base_image.shape[1] // 2
    randoms = np.random.uniform(1.0-shear_range, 1.0+shear_range, (3,2)).astype(np.float32) #32ビット変数にする
    coefs = np.array([[-1,-1],[1,-1],[1,1]], np.float32)
    centers = np.array([[h,w]], np.float32)
    origin = centers + centers * coefs
    dest = centers + centers * coefs * randoms
    affine_matrix = cv2.getAffineTransform(origin, dest)
    return cv2.warpAffine(base_image, affine_matrix, (base_image.shape[1], base_image.shape[0]))

ただし乱数はfloat32型で与えるようにしてください。デフォルトだと64ビット変数になりエラーになるので注意してください(詳しくはこちらの記事)

実行してみます。

image = cv2.imread("cats.jpg")[:,:,::-1]
for i in range(20):
    sheared = shear_image(image, 0.2)
    plt.clf()
    plt.imshow(sheared)
    plt.show()

いい感じですね。これData Augmentationに使えるのではないでしょうか。なんかランダムに動かすと、猫が立体的に見えるというか、いろんな角度から見ているようで猫が動いているような錯覚を覚えます。早速使ってみようと思います。

Related Posts

PCA Color Augmentationを拡張してTensorFlow/Keras向けに実装した... PCA Color AugmentationはAlexNetの論文に示された画像向けのData Augmentationですが、画像用だけではなく、テンソルの固有値分解をすることで構造化データに対しても使えるようにしてみました。これの解説と効果を書きます。 リポジトリ こちら https://...
Kerasでランドマーク検出用の損失関数を作る上でのポイント... ランドマーク検出やオブジェクト検出では、yに最初に物体やランドマークが存在する確率をおいて、それ以降に座標を配置するというようなデータ構造を取ります。その場合、カスタム損失関数を定義する必要が出てきますが、どのように定義するれば良いでしょうか。それを見ていきます。 Kerasの損失関数 分類問...
PandasのDataFrameでグループ別にサンプルをN個抜き出す方法... 「PandasでGroupbyでグルーピングしたはいんだけど、そこからグループ別にサンプルを1個、2個…と抜き出す、SQLでよくやるやつってどうやるんだっけ?」ということが気になったので、調べました。ちゃんとした方法があります。 例題 今、中国地方と四国地方の県と面積をDataFrameにして...
TensorFlow/Kerasでの分散共分散行列・相関行列、テンソル主成分分析の実装... TensorFlowでは分散共分散行列や主成分分析用の関数が用意されていません。訓練を一切せずにTensorFlowとKeras関数だけを使って、分散共分散行列、相関行列、主成分分析を実装します。最終的にはカテゴリー別のテンソル主成分分析を作れるようにします。 何らかの論文でこれらのテクニックを...
PyTorchでサイズの異なる画像を読み込む方法... 実際の画像判定では、MNISTやCIFARのようにサイズが完全に整形されたデータはなかなか少ないです。例えばサイズが横幅は一定でも縦幅が異なっていたりするケースがあります。訓練画像間でサイズが異なる場合、そのまま読み込みするとエラーになります。その解決法を示します。 transforms.Ra...

Add a Comment

メールアドレスが公開されることはありません。 * が付いている欄は必須項目です