Библиотека · CC BY-SA 4.0

Приключения Алисы в Странедифференцируемых чудес

Alice's Adventures in a Differentiable Wonderland, Volume I: A Tour of the Land

Иллюстрация к книге

Выберите версию

Один и тот же текст на каждом уровне, на всех языках и во всех оформлениях, что здесь есть. Выберите, потом слушайте или скачивайте.

Слушать и смотреть

Тот же плеер, который продукт даёт для вашей книги: голос, рисунки по мере того, как они рисуются, текст.

Современный учебник о том, как на самом деле устроены нейросети: от тензоров и градиентов до трансформеров. Глава 6 показывает, как программа сама находит свои градиенты: автоматическое дифференцирование, обратный проход, на котором обучается любая модель.

Это пробная часть: 1 из 13 (главы).

Из лекций

Cuatro cajas en fila unidas por flechas, cada una con un pequeño mando encima para sus pesos y una etiqueta de pendiente debajo, y al final la multiplicación de las cuatro etiquetas da la pendiente del conjunto.
Un programa que conoce sus propias pendientes

Una cadena de primitivas

La respuesta del libro empieza por mirar el modelo como un programa. Cuando el programa se ejecuta, realiza una cadena de operaciones pequeñas y sencillas, cada una alimentando a la siguiente; el libro llama primitiva a cada una, y grafo computacional a toda la cadena tal como se ejecutó.

Una cadena de tres cajas que se ejecutan de izquierda a derecha; bajo cada caja aparece una página, y cada caja nueva envía flechas de actualización a todas las páginas anteriores; una pequeña cuadrícula por otra muestra el producto costoso.
Un número al final, y el camino lento hacia delante

Modo directo: un cuaderno

Ahora, el primer camino: el modo directo. Imagínelo como recorrer la cadena en el sentido en que funciona el programa, llevando un cuaderno.

Una cadena de cuatro pasos termina en un punto de error; una tira corta de cuatro casillas sale del error y se mueve a la izquierda de paso en paso, dejando una etiqueta de pendiente bajo cada paso.
Recorrer la cadena hacia atrás

Llevar una fila hacia atrás

La observación clave del libro es que la cadena termina en un número, el error total. Así que, si empieza la multiplicación por ese extremo, lo que lleva nunca es una tabla entera, solo una fila de números, y una fila por una tabla es barato y da otra fila.

A la izquierda, un gran bloque de tres dimensiones tachado junto a una cuadrícula plana construida con una columna corta y una fila corta de números; a la derecha, una fila de números pasa por un interruptor en forma de rampa, con las posiciones negativas puestas a cero y las demás sin cambios.
Cada pieza aprende a responder hacia atrás

Respuestas baratas, dos ejemplos

Dos ejemplos muestran por qué las respuestas son tanto más baratas que las tablas. Para la pieza más común de una red, multiplicar la entrada por una tabla de pesos, la tabla completa de pendientes respecto de los pesos sería un enorme bloque de números de tres dimensiones.

Tres cajas de resultado en cadena, cada una con una pequeña etiqueta que apunta hacia atrás a la operación que la produjo y un hueco de pendiente vacío; una flecha vuelve desde el error y llena los huecos de dos de ellas, dejando una vacía.
Cómo lo hacen las bibliotecas, y por qué ganó la ReLU

Resultados que recuerdan

Los modelos de estilo de objetos, la forma habitual de escribir en PyTorch, necesitan un paso más. Una opción es sacar los pesos del objeto del modelo y llamarlo como una función simple a la que se entregan esos pesos.

Tres cajas, cada una una manera distinta de escribir la ReLU, todas con la entrada cero, dan pendientes 0, 1 y 0,5; después, un pequeño grafo ramificado cuyos pasos se numeran en orden antes del recorrido hacia atrás.
La esquina de la rampa

La misma función, pendientes distintas

El libro añade una advertencia. Para curvas que se doblan en los dos sentidos, los subgradientes pueden no existir, y los matemáticos usan en su lugar una versión local, más flexible.

Как это сделано

Примеры для: a curious adult with school maths who uses AI apps every day; add one modern instance per idea, such as how a chat assistant or a phone's photo app is trained

Источник

Лекции пересказывают с английского оригинала книгу arXiv 2404.17625 (version 3, 2025), автор — Симоне Скардапане; книга вышла под открытой лицензией, которая разрешает пересказ и перевод. Пересказ, рисунки и голос сделаны ИИ и сверены с книгой второй моделью. Как используется ИИ.

Лекции — переработка оригинала и распространяются под той же лицензией: их можно свободно распространять и перерабатывать с указанием автора и ссылкой на эту страницу: CC BY-SA 4.0

Ваша трудная книга — так же

Загрузите учебник или любую сложную книгу. Первые пять минут бесплатно.

Загрузить книгу