Generar modelo

Una introducción más detallada al modelo GAN de red generativa, compartiendo el conocimiento del aprendizaje no supervisado, modelos generativos, clasificación de modelos y redes clásicas. Espero que este mapa cerebral le resulte útil.

Edited at 2023-07-27 22:53:43

PlotWizard

Generar modelo

PlotWizard

Recommended to you
Outline

Difusión estable
- 2
e7qw4qya@bccto.cc
procesamiento de imágenes digitales por visión por computadora
- 2
e7qw4qya@bccto.cc
Explicación detallada del proceso de funcionamiento de la red neuronal.
- 14
e7qw4qya@bccto.cc
Red neuronal convolucional (CNN)
- 2
e7qw4qya@bccto.cc
red neuronal completamente conectada
- 3
e7qw4qya@bccto.cc
red neuronal convolucional
- 1
e7qw4qya@bccto.cc
Tipos y aplicaciones comunes de modelos de redes neuronales.
- 3
e7qw4qya@bccto.cc
Redes neuronales y redes neuronales recurrentes de aprendizaje profundo
- 6
e7qw4qya@bccto.cc
Redes neuronales y redes neuronales convolucionales de aprendizaje profundo
- 8
e7qw4qya@bccto.cc
La base de las redes neuronales y el aprendizaje profundo.
- 2
e7qw4qya@bccto.cc

Generar modelo

aprendizaje sin supervisión

datos

sin etiqueta

Bajo coste de adquisición

Objetivo

Encuentre patrones o estructuras ocultas en los datos.

ejemplo

agrupamiento

k-significa

Reducción de dimensionalidad

Análisis de componentes principales

Aprendizaje de funciones

codificación automática

estimación de densidad

Generar modelo

Dado un conjunto de entrenamiento, genere nuevas muestras con la misma distribución que el conjunto de entrenamiento.

Problemas centrales en el aprendizaje no supervisado

estimación de densidad

Ideas típicas

Mostrar estimación de densidad

Definir y resolver para Px

Estimación de densidad implícita

Aprenda el modelo P sin definición explícita

Clasificación de modelos

PíxelRNN/CNN

Utilice el criterio de la cadena para convertir la probabilidad de generación de la imagen x en el producto de las probabilidades de generación de cada píxel

Es muy complejo, por lo que se necesita una red neuronal para modelarlo.

Características

ventaja

La función de probabilidad se puede calcular exactamente

El rendimiento del modelo se puede evaluar eficazmente utilizando el valor de la función de probabilidad.

defecto

La generación de secuencias es lenta.

Autocodificador variacional (VAE)

La codificación automática utiliza la reconstrucción para entrenar características de baja dimensión para representar

Codificador variacional VAE

ficticio

La entrada z es un vector y obedece a la distribución normal.

Cada dimensión de z representa un atributo

Características

ventaja

Una forma importante de generar modelos.

Se puede calcular q(z|x), y esta representación de características se puede utilizar en muchas otras tareas.

defecto

El límite inferior de la función de máxima verosimilitud funciona eficazmente, pero el modelo en sí no es tan fácil de evaluar como PixelCNN.

Produce muestras borrosas y de menor calidad en comparación con las GAN

GAN genera modelos adversarios

pregunta

Esperamos tomar muestras de nuevos datos de la distribución de la muestra de entrenamiento, pero esta distribución no solo es de alta dimensión sino también muy compleja, lo que dificulta su implementación directa.

resolver

Muestreo de una distribución simple, como la distribución uniforme; luego aprenda un mapeo para transformarla en la distribución de muestra de entrenamiento.

composición

Generar red

Se espera generar imágenes lo más realistas posible y así engañar al discriminador.

red discriminatoria

Espero poder distinguir con precisión entre imágenes reales y falsas.

Entrenamiento conjunto utilizando el método minimax.

Completar alternativamente

Discriminado

Constructor

Visualización

Deje que las pseudomuestras generadas se acerquen a la distribución de las muestras reales tanto como sea posible, de modo que el discriminador pueda estar en un estado indistinguible entre verdadero y falso.

red clásica

Red Adversaria Generativa Convolucional DCGAN

El estado es estable durante el proceso de entrenamiento, logrando efectivamente la generación de imágenes de alta calidad.

Reglas (empíricas)

Utilice convoluciones en lugar de agrupar capas

Eliminar capa completamente conectada

Usar normalización por lotes

Utilice la función de activación adecuada

La red de generación usa ReLU y la capa de salida usa Tanh.

El discriminador usa LeaklyReLU

Problema de optimización de GAN LSGAN, WGAN

pregunta

Cuando las muestras generadas y las muestras reales no se superponen, la divergencia JS siempre es log2

Función objetivo LSGAN

Cambie la función sigmod a una función de regresión lineal

WGAN

medida de distancia

Distancia de la topadora

Haz que la red entrene en la dirección deseada.

GAN condicional

pregunta

Existe un problema de etiqueta para muchos. Los resultados de salida de las redes neuronales tradicionales están lo más cerca posible de cada resultado de entrenamiento, lo que hace que las imágenes generadas sean muy borrosas e incluso indistinguibles.

Se espera que el contenido de salida sea diverso y pueda controlarse.

función objetiva

Plan de IMPLEMENTACION

cGAN

SGAN

ACGAN (uso común)

función objetiva

Lc es la pérdida de clasificación, Ls es la pérdida de discriminación verdadera y falsa

infoGAN

Controlar las variables ocultas para que tengan definiciones físicas claras.

texto a imagen

PilaGAN

imagen a imagen

iGAN

Pix2Pix

cicloGAN

StarGAN

Una red genera cinco estilos.