Alice's Adventures in a Differentiable Wonderland, Volume I: A Tour of the Land
The same text, told at every level, in every language and look shown here. Pick, then listen or download.
The same player the product gives for your own book: the voice, the drawings as they are drawn, the text.
A modern textbook on how neural networks really work, from tensors and gradients to transformers. Chapter 6 shows how a program finds its own gradients: automatic differentiation, the reverse walk behind every trained model.
This is a sample: 1 of 13 chapters.
El libro supone una sola cosa de cada primitiva: que conocemos sus tasas locales, reunidas en dos tablas llamadas jacobianos. El jacobiano de entrada dice cómo se mueve cada número de salida cuando se empuja cada número de entrada, así que tiene una fila por salida y una columna por entrada.
La segunda forma es la que aprendió en el instituto. Tome una función pequeña: a por el seno de un número, más b por el número por su seno.
El libro escribe entera la tasa de la puntuación final respecto de los pesos de un paso, en algún punto del medio de la cadena. Es un producto largo. Primero viene una fila de unos, que representa la suma final: cada número del último resultado cuenta una vez en la puntuación.
Así que un paso hacia atrás no son más que dos llamadas. Llame al producto vector-jacobiano de los pesos con el adjunto, y salen las tasas de la puntuación respecto de los pesos de ese paso.
En una biblioteca funcional como JAX todo es una función, y la diferenciación también. Un producto vector-jacobiano se convierte en una función que fabrica funciones.
La respuesta más cuidadosa usa el abanico que acaba de dibujar. Para una función que se curva hacia arriba, una función convexa, un subgradiente en un punto es la pendiente de una recta que pasa por ese punto y queda por debajo de toda la función en todas partes.
Examples for: a curious adult with school maths who uses AI apps every day; add one modern instance per idea, such as how a chat assistant or a phone's photo app is trained
The lectures retell the English text of arXiv 2404.17625 (version 3, 2025) by Simone Scardapane, published under an open licence that allows retelling and translation. The retelling, the drawings and the voice are made by AI and checked against the book by a second model. How AI is used.
The lectures adapt the original and are released under the same licence, free to share and adapt with credit to the author and a link to this page: CC BY-SA 4.0
Upload a textbook or any difficult book. The first five minutes are free.
Upload a book