Library · CC BY-SA 4.0

Alice's Adventures in aDifferentiable Wonderland

Alice's Adventures in a Differentiable Wonderland, Volume I: A Tour of the Land

Cover illustration of the book

Choose your version

The same text, told at every level, in every language and look shown here. Pick, then listen or download.

Listen and watch

The same player the product gives for your own book: the voice, the drawings as they are drawn, the text.

A modern textbook on how neural networks really work, from tensors and gradients to transformers. The first three chapters lay the ground: what the book is about, the linear algebra and calculus a network runs on, gradient descent, and what a dataset and a loss function are.

This is a sample: 3 of 13 chapters.

From the lectures

Una caja con muchas perillas recibe una foto y devuelve «gato»; tras una respuesta errónea una flecha gira una perilla; debajo, una foto se convierte en una cuadrícula de números rotulada «tensor».
Una receta sencilla, llevada a gran escala

Aprender es buscar

Mirar bajo el capó empieza con una idea: aprender es buscar. Usted escribe un programa con un número enorme de perillas ajustables, llamadas parámetros, y las gira hasta que el programa se comporta bien.

Una matriz de 2 por 3 de filas por una matriz de 3 por 2 de columnas da una tabla de 2 por 2, cada celda el producto escalar de una fila con una columna.
Flechas que se reconocen entre sí

Muchos productos escalares a la vez

Una tabla de números, una matriz, puede leerse como una pila de tales vectores, uno por fila, y el libro llama a esto un lote de datos. Multiplicar matrices no es entonces más que calcular muchos productos escalares a la vez, cada fila de una contra cada columna de la otra, en una sola operación.

Desde un punto, una flecha de gradiente que apunta cuesta arriba y tres flechas de paso unitario: a lo largo de ella con pendiente completa, en ángulo recto con pendiente 0, y en diagonal con una pendiente parcial.
Cómo crecen los costes y hacia dónde es cuesta arriba

Todas las pendientes de una flecha

Párese en un césped en pendiente o en una rampa y dé un pasito en varias direcciones: recto hacia arriba, de lado, en diagonal. Debería sentir la subida más empinada en una dirección, ninguna subida en ángulo recto con ella, y subidas parciales entre medias.

A la izquierda, una curva con forma de cuenco donde las canicas de ambos lados acaban en el mismo fondo; a la derecha, una curva llena de baches donde cada canica se asienta en el hueco más cercano.
Bajando la cuesta en la niebla

Cuenco contra huevera

¿Dónde termina la caminata? Se detiene donde el suelo es plano, un punto estacionario, pero el suelo plano puede ser el fondo de un valle, la cima de una colina, o una silla de montar como un paso de montaña que cae hacia un lado y sube hacia el otro.

Una tabla de consulta puntúa perfecto en sus propios ejemplos; dos barras muestran una pérdida de entrenamiento casi nula y una pérdida de prueba alta, con la brecha entre ellas marcada.
Una puntuación que bajar, y un examen que no ha visto

Memorizado contra aprendido

Luego viene una trampa. La pérdida media en los ejemplos de entrenamiento siempre puede hacerse perfecta con un truco: una tabla de consulta que guarda cada ejemplo y responde con él, y da algo por defecto para cualquier otra cosa.

Las características de un cliente en una columna, cada una multiplicada por un peso y sumadas en una predicción, que es o un número o una clase.
Muchos modelos posibles, y el más simple

El bloque más simple

El capítulo 4 construye ahora el bloque más simple de todos, el modelo lineal, del que el libro dice que todo modelo diferenciable es una variación ingeniosa.

How it was made

Examples for: a curious adult with school maths who uses AI apps every day; add one modern instance per idea, such as how a chat assistant or a phone's photo app is trained

The source

The lectures retell the English text of arXiv 2404.17625 (version 3, 2025) by Simone Scardapane, published under an open licence that allows retelling and translation. The retelling, the drawings and the voice are made by AI and checked against the book by a second model. How AI is used.

The lectures adapt the original and are released under the same licence, free to share and adapt with credit to the author and a link to this page: CC BY-SA 4.0

Your own hard book, the same way

Upload a textbook or any difficult book. The first five minutes are free.

Upload a book