Alice's Adventures in a Differentiable Wonderland, Volume I: A Tour of the Land
Один и тот же текст на каждом уровне, на всех языках и во всех оформлениях, что здесь есть. Выберите, потом слушайте или скачивайте.
Тот же плеер, который продукт даёт для вашей книги: голос, рисунки по мере того, как они рисуются, текст.
Современный учебник о том, как на самом деле устроены нейросети: от тензоров и градиентов до трансформеров. Первые три главы закладывают основу: о чём книга, линейная алгебра и анализ, на которых работает сеть, градиентный спуск, что такое набор данных и функция потерь.
Это пробная часть: 3 из 13 (главы).
Первая часть книги, названная «Компас и стрелка», главы со второй по шестую, и выстраивает именно этот механизм. Взгляд на сеть как на цепочку дифференцируемых блоков ставит два вопроса, и второй рисунок книги их иллюстрирует. Первый: какие виды данных могут входить и выходить?
Большинство моделей в книге построены из очень простых ингредиентов: сумм, умножений и нескольких изогнутых функций, таких как экспонента, синусы и косинусы и квадратные корни. У векторов, тензоров с одним направлением, своя арифметика, которую математики называют векторным пространством.
Для второго вида книга даёт обобщённое скалярное произведение. Возьмите два тензора одной формы с тремя направлениями, перемножьте их позиция за позицией и сложите каждое произведение. Это не что иное, как обычное скалярное произведение двух тензоров, развёрнутых в длинные списки.
Теперь к градиентному спуску. Допустим, мы хотим найти вход, при котором функция многих чисел как можно меньше, её минимум.
Открывающий рисунок главы заглядывает вперёд, к чему-то замечательному. Дифференцируемая модель преобразует свой вход шаг за шагом операциями линейной алгебры.
Как обучают такую модель? Поскольку примеры предполагаются независимыми и взятыми из одного распределения, вероятность, которую модель назначает всему набору данных, — это произведение вероятностей, которые она назначает истинному выходу каждого примера.
Примеры для: a curious adult with school maths who uses AI apps every day; add one modern instance per idea, such as how a chat assistant or a phone's photo app is trained
Лекции пересказывают с английского оригинала книгу arXiv 2404.17625 (version 3, 2025), автор — Симоне Скардапане; книга вышла под открытой лицензией, которая разрешает пересказ и перевод. Пересказ, рисунки и голос сделаны ИИ и сверены с книгой второй моделью. Как используется ИИ.
Лекции — переработка оригинала и распространяются под той же лицензией: их можно свободно распространять и перерабатывать с указанием автора и ссылкой на эту страницу: CC BY-SA 4.0
Загрузите учебник или любую сложную книгу. Первые пять минут бесплатно.
Загрузить книгу