Прямой процесс: Капля туши в воде
Мы оставляем позади напряженные дуэли фальсификатора и инспектора. Существует совершенно иной способ создания искусства, который практикует тайный клан магов воды.
Чтобы понять их магию, мы сначала должны посмотреть, как они уничтожают картину.
Маг кладет идеально четкий, красивый рисунок дракона, выполненный тушью, на дно неглубокой чаши с чистой водой. Затем он очень осторожно добавляет в воду одну каплю черной туши. Тушь немного расплывается, делая дракона чуть более размытым.
Он добавляет еще каплю. Вода становится темнее. Дракон становится еще более размытым.
Он добавляет еще каплю. И еще одну. Он повторяет этот процесс сотни раз. В конце концов, вода в чаше становится абсолютно, непроглядно черной. Прекрасный рисунок дракона полностью исчезает, поглощенный чистой, хаотичной тьмой.
Зачем мастеру намеренно уничтожать собственную работу? Потому что для того, чтобы научиться создавать нечто из ничего, вы должны сначала точно понять, как нечто превращается в ничто.
Реальность
В ИИ это первая половина того, как работает «Диффузионная модель» (Diffusion Model, например, Midjourney или DALL-E). Это называется «Прямой процесс диффузии» (Forward Diffusion Process).
Вместо того чтобы капать тушь в воду, ИИ берет идеально четкую фотографию и добавляет крошечную каплю «гауссовского шума» (помех, как на плохо настроенном телевизоре). Затем он добавляет еще одну каплю шума. И еще одну.
Он делает это шаг за шагом сотни раз, пока исходное изображение не будет полностью разрушено, и все, что останется — это чистый, бессмысленный шум (статические помехи).
Почему это важно
Зачем мы уничтожаем данные? Потому что ИИ наблюдает и учится. Во время этого прямого процесса ИИ внимательно изучает, как именно изображение разрушается на каждом отдельном шаге. Он изучает точную математическую разницу между слегка зашумленным изображением и сильно зашумленным изображением. Овладевая точными шагами разрушения, ИИ тайно готовится к настоящему фокусу: учится запускать этот процесс в обратном направлении.
Главная мысль
Чтобы понять, как построить что-то из чистого хаоса, нужно сначала изучить, как именно порядок растворяется в хаосе.
Специалисты по ИИ называют это: Прямой процесс диффузии (Forward Diffusion Process)
В диффузионной модели прямой процесс представляет собой фиксированную марковскую цепь, которая постепенно добавляет гауссовский шум к данным за $T$ шагов. Получив исходную точку данных $x_0$, процесс создает последовательность все более зашумленных переменных $x_1, \dots, x_T$, пока $x_T$ не станет практически изотропным гауссовским распределением. Нейросеть изучает оценку (градиент логарифмической плотности вероятности), чтобы обратить вспять этот конкретный процесс добавления шума.
💬 Если бы вы могли идеально обратить вспять один хаотичный процесс в вашей жизни (например, собрать пролитую чашку кофе обратно), что бы это было?
Часть 10 из 14 | #GenerativeModelsForHumans
#ai_edu На основе лекций Стэнфорда и индустрии