Несколько деталей, масштаб без предела
Подкрутите ручку, послушайте
Возьмите радио с одной ручкой настройки и незнакомую станцию, которую вы хотите найти. Чуть поверните ручку и послушайте: музыка стала чище или шумнее, чем секунду назад?
Библиотека · CC BY-SA 4.0
Приключения Алисы в Странедифференцируемых чудес
Alice's Adventures in a Differentiable Wonderland, Volume I: A Tour of the Land
Выберите версию
Один и тот же текст на каждом уровне, на всех языках и во всех оформлениях, что здесь есть. Выберите, потом слушайте или скачивайте.
Уровень1 · Как в книге2 · Формулы с объяснением3 · Формулы словами4 · Идеи и примеры5 · Общая картина
ГолосМужской · Charon
Слушать и смотреть
Тот же плеер, который продукт даёт для вашей книги: голос, рисунки по мере того, как они рисуются, текст.
Современный учебник о том, как на самом деле устроены нейросети: от тензоров и градиентов до трансформеров. Первые три главы закладывают основу: о чём книга, линейная алгебра и анализ, на которых работает сеть, градиентный спуск, что такое набор данных и функция потерь.
Это пробная часть: 3 из 13 (главы).
Из лекций
Стрелки, которые смотрят в одну сторону
Косинусное сходство
Самая важная операция над векторами во всей книге — скалярное произведение, его ещё называют внутренним произведением. Вы перемножаете два вектора элемент к элементу и складываете всё, что получилось, так что результат — одно число, а не вектор.
Рецепт из букв и наклон кривой
Наклон касательной
Нарисуйте гладкую кривую, которая опускается, а потом снова поднимается, как пологая долина, и выберите точку на её склоне. Положите линейку так, чтобы она лишь касалась кривой в этой точке, не пересекая её.
Спуск с горы в тумане
Шаг за шагом ко дну
Теперь главное событие: поиск самой низкой точки функции, её минимума. Книга предполагает, что функция даёт одно число и что вход может блуждать где угодно.
От учебного кода к настоящим данным
Похожее лежит рядом
Рисунок главы добавляет картину, которую стоит запомнить. Обученная модель преобразует свой вход шаг за шагом, и внутренние версии данных, которые она создаёт, часто имеют осмысленную геометрию: изображения с похожим смыслом попадают в близкие точки внутреннего пространства.
Запоминание — не обучение
Ответы как распределения
Предсказывать один единственный ответ имеет смысл, когда для каждого входа почти вся вероятность сидит на одном значении. Книга ослабляет это: вместо одного ответа выходы модели задают ручки целого распределения вероятностей над возможными ответами.
Как это сделано
- Уровень 4 · Идеи на примерах
- Демонстратор
- Графика тушью · обычно
- вопросами
- ссылками на книгу
- разобранными примерами
- Голос: Charon (Gemini)
- Язык лекций русского
Примеры для: a curious adult with school maths who uses AI apps every day; add one modern instance per idea, such as how a chat assistant or a phone's photo app is trained
Источник
Лекции пересказывают с английского оригинала книгу arXiv 2404.17625 (version 3, 2025), автор — Симоне Скардапане; книга вышла под открытой лицензией, которая разрешает пересказ и перевод. Пересказ, рисунки и голос сделаны ИИ и сверены с книгой второй моделью. Как используется ИИ.
Лекции — переработка оригинала и распространяются под той же лицензией: их можно свободно распространять и перерабатывать с указанием автора и ссылкой на эту страницу: CC BY-SA 4.0
Ваша трудная книга — так же
Загрузите учебник или любую сложную книгу. Первые пять минут бесплатно.
Загрузить книгу