Referencia: Optimizadores
Una referencia que cubre los optimizadores de redes neuronales desde GD hasta AdamW, con programación de la tasa de aprendizaje, árboles de decisión y guía práctica para cada arquitectura.
Aprendizaje Profundo
¿Por qué mi modelo no aprende? Guía amigable para diagnosticar callejones sin salida en el deep learning
Aprende una lista de verificación práctica de 4 pasos para diagnosticar modelos de deep learning estancados: sobreajustar un lote, revisar los gradientes, escalar los datos y hacer un barrido de las tasas de aprendizaje.
Atención de múltiples cabezas y codificación posicional: Dándole al Transformer un sentido de dirección
Descubre cómo la codificación posicional le otorga a los Transformers noción del orden de las palabras y la atención de múltiples cabezas rastrea múltiples patrones a la vez en esta guía práctica.
El mecanismo de atención, finalmente explicado (sin álgebra matricial)
Comprende el mecanismo de atención que impulsa todos los modelos de lenguaje modernos: consultas, claves, valores y softmax explicados con analogías y código Python.
LSTMs y GRUs: Dándole memoria a las redes
Aprende cómo las LSTMs y GRUs usan memoria con compuertas para superar el gradiente desvaneciente, reteniendo señales tempranas a lo largo de secuencias largas para lograr mejores predicciones de secuencias.
Por qué las computadoras ven mejor con las CNN: una guía intuitiva para el reconocimiento de imágenes
Aprende por qué las CNN superan a las redes densas en el reconocimiento de imágenes utilizando filtros deslizantes, pesos compartidos y pooling para detectar patrones espaciales de manera eficiente.
Retropropagación intuitiva: cómo las redes aprenden de sus errores
Aprende cómo funciona la retropropagación de forma intuitiva, sin necesidad de cálculo. Descubre cómo las redes neuronales asignan la culpa a los pesos mediante la regla de la cadena y aprenden de sus errores.