Variational Adversarial Active Learning (VAAL) を読んだのでメモ

Variational Adversarial Active Learning (VAAL)というActive Learningの一手法の論文を読んでみたので、メモします。

手法について

VAALは以下のように、画像から特徴量を抽出するVAE(変分オートエンコーダー)と
VAEから得られた特徴量を使って、ラベルがついたデータかラベルがついていないデータかを識別するDiscriminatorからなります。

VAEはβ-変分オートエンコーダを用いていて、以下の式を用いてエンコーダー、デコーダーを学習します。

次に、敵対的な学習をします。
つまり、VAEのエンコーダーはDiscriminatorをだませるように、一方でDiscriminatorは得られた特徴量がラベル付きかそうではないかを識別するように学習します。

データをエンコーダーに通してDiscriminatorに入力して、ラベルなしと判断したもので、
最も確信度が低いものをサンプリングし、ラベル付けをします。

ぱっと思った欠点を書いておきます。