[Python]OpenCVで画像を歪ませる方法

---

PythonでOpenCVを使い画像を歪ませる方法を考えます。アフィン変換というちょっと直感的に理解しにくいことをしますが、慣れればそこまで難しくはありません。ディープラーニングのData Augmentationにも使えます。

OpenCVでのアフィン変換のイメージ

アフィン変換というと、まず画像の回転を思いつきますが、回転はアフィン変換のほんの一例です。回転がアフィン変換でできるというだけであって、アフィン変換＝回転ではありません。最初に回転で覚えるとよりややこしくなります。

OpenCVのアフィン変換では元の画像のある3点がどのように移動したか（難しい言葉で言うのなら写像の）定義により、変換（の行列）が規定されます。こっちのほうが本質的なアフィン変換の定義に近いと思います。

例えば始めに青い色のような三角形（3点）があったとしましょう。座標系はピクセルの座標系に合わせて（縦,横）としています。例えばもし、「(0,3)の点が(-1,2)に、(3,0)の点が(2,-1)に移動するように変換したらどうか？」というのがアフィン変換のポイントです。(0,0)も動かすことはできますが、今はわかりやすくするため動かしません。

もし3点の移動先を結べば、新たな三角形が描画できます。この三角形上に、元の対応する三角形上のピクセルを投影すれば画像を歪ませることができます。アフィン変換のアルゴリズムってこんな感じではないのでしょうか。

なら回転はどうかというと、「(0,0)の点は固定して、移動先の2点のそれぞれの(0,0)からの辺の長さがおなじになるという縛りをおいたアフィン変換」と考えることができます。これはつまり、移動先の三角形が元の三角形と同じ形である（回転角だけ違う）という状態になります。この縛りを満たす点の集合はなにかというと、有名な回転行列の式が出てくるということではないでしょうか。

なぜアフィン変換＝回転ではないかというと、例えば先程の三角形の例で(0,0)を固定して、(0,3)→(0,6)、(3,0)→(6,0)という変換すればこれは2倍の拡大操作になるからです。アフィン変換とは回転だけでなく、拡大・縮小・移動といったもっと広い操作を定義することができます。たいていこのような拡大操作は別の関数があるので、わざわざアフィン変換を使う必要がないよということだけです。

画像の基準に起点にランダムに歪ませる方法

すべての平面の画像は以下のように2×2の座標で考えることができます。

縦横に比例（拡大）させれば任意の解像度になりますからね。(0,0)＝左上、(0,2)＝左下、(1,1)＝中心、(2,0)＝右上、(2,2)＝右下としましょう。今、左上、左下、右上の三角形を考えることにしましょう。

この三角形の角座標に対して0～1の乱数を付与することを考えます（乱数でなくても決定的に与えてもいいです）。つまり以下のような写像を考えます。

この写像定義より、アフィン変換を用いると画像を歪ませることができます。コードで書くと次のとおりです。

import cv2
import matplotlib.pyplot as plt
import numpy as np

def shear_image(base_image, shear_range):
    assert shear_range >= 0.0 and shear_range <= 1.0
    h = base_image.shape[0] // 2
    w = base_image.shape[1] // 2
    randoms = np.random.uniform(1.0-shear_range, 1.0+shear_range, (3,2)).astype(np.float32) #32ビット変数にする
    coefs = np.array([[-1,-1],[1,-1],[1,1]], np.float32)
    centers = np.array([[h,w]], np.float32)
    origin = centers + centers * coefs
    dest = centers + centers * coefs * randoms
    affine_matrix = cv2.getAffineTransform(origin, dest)
    return cv2.warpAffine(base_image, affine_matrix, (base_image.shape[1], base_image.shape[0]))

ただし乱数はfloat32型で与えるようにしてください。デフォルトだと64ビット変数になりエラーになるので注意してください（詳しくはこちらの記事）。

実行してみます。

image = cv2.imread("cats.jpg")[:,:,::-1]
for i in range(20):
    sheared = shear_image(image, 0.2)
    plt.clf()
    plt.imshow(sheared)
    plt.show()

いい感じですね。これData Augmentationに使えるのではないでしょうか。なんかランダムに動かすと、猫が立体的に見えるというか、いろんな角度から見ているようで猫が動いているような錯覚を覚えます。早速使ってみようと思います。

---

---

Shikoan's ML Blogの中の人が運営しているサークル「じゅ～しぃ～すくりぷと」の本のご案内

---