kmp-KM

Generative adversarial networks (GAN) - соперничающие нейронные сети

Есть две нейронных сети. Первая сеть, порождающая, обозначим ее как функцию y_G=G(z), на вход она принимает некое значение z, а на выходе выдает значение y_G. Вторая сеть, различающая, и мы ее обозначим как функцию y_D=D(х), то есть на входе — x, на выходе — y_D.
Порождающая сеть должна научиться генерировать такие образцы y_G, что различающая сеть D не сможет их отличить от неких настоящих, эталонных образцов. А различающая сеть, наоборот, должна научиться отличать эти сгенерированные образцы от настоящих.
Изначально сети не знают ничего, поэтому их надо обучить на основе набора обучающих данных — (X_i, Y_i). На вход сети последовательно подаются X_i и рассчитываются y_i=N(X_i). Затем по разнице между Y_i (реальное значение) и y_i (результат работы сети) перерассчитываются коэффициенты сети и так по кругу.
На каждом шаге обучения вычисляется значение функции потерь (loss function), по градиенту которой потом пересчитываются коэффициенты сети. А вот функция потерь уже учитывает отличие Y_i от y_i.

Вместо минимизации функции потерь в ходе обучения сети можно решать другую оптимизационную задачу - максимизации функции успеха. И это используется в GAN.
Обучение первой, порождающей, сети заключается в максимизации функционала D(G(z)). То есть эта сеть стремится максимизировать не свой результат, а результат работы второй, различающей, сети.
Порождающая сеть должна научиться для любого значения, поданного на ее вход, сгенерировать на выходе такое значение, подав которое на вход различающей сети, получим максимальное значение на ее выходе (а это означает, что порождающая сеть порождает правильные образцы).

Порождающая сеть будет учиться по градиенту результата работы различающей сети.
Обучение различающей сети заключается в максимизации функционала D(x)(1 — D(G(z))). Она должна выдавать 1 для эталонных образцов и 0 для образцов, сгенерированных порождающей сетью. Причем сеть ничего не знает о том, что ей подано на вход: эталон или подделка. На каждом шаге обучения различающей сети один раз рассчитывается результат работы порождающей сети и два раза — результат работы различающей сети: в первый раз ей на вход подается эталонный образец, а во второй — результат порождающей сети.
Обе сети связаны в неразрывный круг взаимного обучения. И чтобы вся эта конструкция работала нам нужны эталонные образцы — набор обучающих данных(X_i). Заметьте, что Y_i здесь не нужны. Хотя, понятно, что на самом деле по умолчанию подразумевается, что каждому X_i соответствует Y_i=1.
В процессе обучения на вход порождающей сети на каждом шаге подаются какие-то значения, например, совершенно случайные числа (или совсем даже неслучайные числа — рецепты для управляемой генерации). А на вход различающей сети на каждом шаге подается очередной эталонный образец и очередной результат работы порождающей сети.
В результате порождающая сеть должна научиться генерировать образцы как можно более близкие к эталонным. А различающая сеть должна научиться отличать эталонные образцы от порожденных.