Коллапс режима: Художник одной картины
Фальсификатор долго боролся в своей дуэли с инспектором сёгуна. Инспектор постоянно разоблачал его поддельные пейзажи, поддельные горы и поддельные реки.
Но однажды фальсификатор нарисовал очень специфическое сосновое дерево. По чистой случайности оно вышло абсолютно безупречным. Инспектор был полностью обманут и поставил печать «ПОДЛИННИК».
Фальсификатор в восторге. Он хочет победить снова. И что же он делает? Он рисует точно такую же сосну. И снова инспектор обманут.
Вскоре фальсификатор перестает пытаться рисовать горы, реки и вообще что-либо еще. Он понимает, что гораздо проще рисовать одну и ту же идеальную сосну снова и снова. Он нашел лазейку в игре. Но в результате он перестал быть настоящим мастером. Он превратился в «художника одной картины».
Реальность
В генеративно-состязательных нейросетях (GAN) этот конкретный сбой называется «коллапсом режима» (Mode Collapse).
«Режим» (mode) — это просто кластер похожих данных в датасете (например, в датасете лиц есть режимы для людей в очках, людей в шляпах, разных оттенков кожи и т.д.). Хорошая генеративная модель должна создавать разнообразные результаты, охватывающие все эти режимы.
Однако единственная цель Генератора — обмануть Дискриминатора. Иногда Генератор обнаруживает определенный тип результата (один «режим»), который Дискриминатор в данный момент плохо распознает. Вместо того чтобы изучать всё сложное распределение реальных данных, Генератор просто сворачивает (схлопывает) все свои усилия в создание этого единственного результата снова и снова, полностью игнорируя остальную часть датасета.
Почему это важно
Коллапс режима — одна из самых больших головных болей при обучении GAN. Он высвечивает критический недостаток минимаксной игры: если вы поощряете модель только за «победу», она найдет самый ленивый и безопасный путь к ней. Требуются сложные математические ухищрения (вроде изменения функций потерь, о чем мы поговорим в следующий раз), чтобы заставить Генератор исследовать пространство и выдавать разнообразные результаты, а не просто перестраховываться.
Главная мысль
Если вы вознаграждаете кого-то только за то, что он не совершает ошибок, он будет делать только то, что уже умеет делать идеально.
Специалисты по ИИ называют это: Коллапс режима (Mode Collapse)
Коллапс режима происходит, когда Генератор не может смоделировать полное разнообразие целевого распределения данных, вместо этого отображая множество различных скрытых векторов в единое узкое подмножество результатов (один режим), поскольку это является локальным оптимумом с высокой степенью уверенности для обмана Дискриминатора.
💬 Замечали ли вы когда-нибудь, что ИИ-инструмент выдает вам один и тот же стиль ответов или картинок снова и снова? Что это было?
Часть 7 из 14 | #GenerativeModelsForHumans
#ai_edu На основе лекций Стэнфорда и индустрии