Alice's Adventures in a Differentiable Wonderland, Volume I: A Tour of the Land
The same text, told at every level, in every language and look shown here. Pick, then listen or download.
The same player the product gives for your own book: the voice, the drawings as they are drawn, the text.
A modern textbook on how neural networks really work, from tensors and gradients to transformers. The first three chapters lay the ground: what the book is about, the linear algebra and calculus a network runs on, gradient descent, and what a dataset and a loss function are.
This is a sample: 3 of 13 chapters.
Третья часть книги, «Вниз по кроличьей норе», продолжает наше исследование дифференцируемых моделей, рассматривая альтернативные конструкции для множеств, прежде всего слои внимания и модели-трансформеры в главах 10 и 11, графы в главе 12 и, наконец, рекуррентные слои для временных последовательностей в главе 13.
У векторов есть собственная алгебра, которую мы называем векторным пространством, в том смысле, что любые два вектора 𝐱 и 𝐲 одной формы можно линейно скомбинировать, 𝐳 = a𝐱 + b𝐲, получив третий вектор, где zᵢ = axᵢ + byᵢ.
Геометрически производную можно понимать как наклон касательной, проходящей через точку, или, что равносильно, как лучшее приближение первого порядка самой функции в этой точке, как показано на рисунке F.2.1.
Эту идею можно обобщить понятием выпуклости функции. Определений выпуклости много; мы выбираем приведённое ниже для простоты изложения.
Дообучение особенно упрощается благодаря большим открытым репозиториям в сети. Дообучать можно весь набор параметров исходной модели или только меньшее подмножество либо небольшое число дополнительных параметров: это называется параметрически эффективным дообучением, PEFT.
Всю красоту этой конструкции портит то, что апостериорное распределение в общем случае невозможно вычислить в замкнутом виде, кроме очень специальных выборов априорного распределения и правдоподобия.
Examples for: a curious adult with school maths who uses AI apps every day; add one modern instance per idea, such as how a chat assistant or a phone's photo app is trained
The lectures retell the English text of arXiv 2404.17625 (version 3, 2025) by Simone Scardapane, published under an open licence that allows retelling and translation. The retelling, the drawings and the voice are made by AI and checked against the book by a second model. How AI is used.
The lectures adapt the original and are released under the same licence, free to share and adapt with credit to the author and a link to this page: CC BY-SA 4.0
Upload a textbook or any difficult book. The first five minutes are free.
Upload a book