
Nudge the Knob, Listen
Take a radio with a single tuning knob and an unfamiliar station you want to find. Turn the knob a little and listen: is the music clearer or noisier than a moment ago?
Alice's Adventures in a Differentiable Wonderland, Volume I: A Tour of the Land

Один и тот же текст на каждом уровне, на всех языках и во всех оформлениях, что здесь есть. Выберите, потом слушайте или скачивайте.
Тот же плеер, который продукт даёт для вашей книги: голос, рисунки по мере того, как они рисуются, текст.
Современный учебник о том, как на самом деле устроены нейросети: от тензоров и градиентов до трансформеров. Первые три главы закладывают основу: о чём книга, линейная алгебра и анализ, на которых работает сеть, градиентный спуск, что такое набор данных и функция потерь.
Это пробная часть: 3 из 13 (главы).

Take a radio with a single tuning knob and an unfamiliar station you want to find. Turn the knob a little and listen: is the music clearer or noisier than a moment ago?

The most important vector operation in the whole book is the dot product, also called the inner product. You multiply the two vectors entry by entry and add up everything you got, so the result is a single number, not a vector.

Draw a smooth curve that dips down and then climbs again, like a shallow valley, and choose a point on its slope. Lay a ruler so that it just touches the curve at that point without cutting through it.

Now the main event: finding the lowest point of a function, its minimum. The book assumes the function gives a single number and that the input may wander anywhere.

The chapter's figure adds a picture worth keeping. A trained model transforms its input step by step, and the inner versions of the data it produces often have a meaningful geometry: images with similar meaning land at nearby points in an inner space.

Predicting one single answer makes sense when, for each input, almost all of the probability sits on one value. The book relaxes that: instead of one answer, the model's outputs set the knobs of a whole probability distribution over the possible answers.
Примеры для: a curious adult with school maths who uses AI apps every day; add one modern instance per idea, such as how a chat assistant or a phone's photo app is trained
Лекции пересказывают с английского оригинала книгу arXiv 2404.17625 (version 3, 2025), автор — Симоне Скардапане; книга вышла под открытой лицензией, которая разрешает пересказ и перевод. Пересказ, рисунки и голос сделаны ИИ и сверены с книгой второй моделью. Как используется ИИ.
Лекции — переработка оригинала и распространяются под той же лицензией: их можно свободно распространять и перерабатывать с указанием автора и ссылкой на эту страницу: CC BY-SA 4.0
Загрузите учебник или любую сложную книгу. Первые пять минут бесплатно.
Загрузить книгу