Lecturized
RU
Библиотека · CC BY-SA 4.0

Погружение вглубокое обучение

Астон Чжан, Закари Липтон, Му Ли, Александр Смола · 2023 · пересказ с английского оригинала

Dive into Deep Learning

Иллюстрация к книге

Выберите версию

Один и тот же текст на каждом уровне, на всех языках и во всех оформлениях, что здесь есть. Выберите, потом слушайте или скачивайте.

ЯзыкАнглийскийРусскийИспанский
Уровень1 · Как в книге2 · Формулы с объяснением3 · Формулы словами4 · Идеи и примеры5 · Общая картина
ГолосМужской · Charon
РисункиГрафика тушьюБелым по чёрному

Слушать и смотреть

Тот же плеер, который продукт даёт для вашей книги: голос, рисунки по мере того, как они рисуются, текст.

Открытый учебник, по которому учатся в сотнях университетских курсов о нейросетях. Первая глава объясняет, что значит для программы учиться на данных: модели, функции потерь, оптимизация, виды задач обучения и как глубокое обучение пришло к успеху.

Это пробная часть: 1 из 23 (главы).

Из лекций

Una onda sonora con puntos de muestra, la etiqueta 44 000 muestras por segundo y una flecha hacia una caja de sí o no con un signo de interrogación que pregunta por la regla.
Un ejemplo motivador

Del audio en bruto a sí o no

Imagine que solo tiene que escribir un programa que responda a una palabra de activación como «Alexa», «OK Google» o «Hey Siri». Intente programarlo usted solo en una habitación, sin nada más que un ordenador y un editor de código, como se ilustra en la figura.

Un gráfico del rendimiento frente a la cantidad de datos: un método tradicional se estanca pronto y un modelo profundo empieza más abajo y sigue subiendo hasta superarlo; luego un cubo con la etiqueta entra basura y una flecha hacia sale basura.
Componentes clave

Más datos, modelos mayores

En general, cuantos más datos tenemos, más fácil es nuestro trabajo. Con más datos, podemos entrenar modelos más potentes y depender menos de suposiciones previas. El paso de datos (relativamente) pequeños a grandes datos ha contribuido en gran medida al éxito del aprendizaje profundo moderno.

Los ejemplos etiquetados entran en un algoritmo de aprendizaje supervisado, que devuelve un modelo aprendido; una entrada nueva entra en el modelo y sale una predicción.
Algoritmos de optimización y aprendizaje supervisado

De datos etiquetados a un modelo

De manera informal, el proceso de aprendizaje es más o menos así. Primero, se toma una gran colección de ejemplos cuyas características se conocen y se elige de ella un subconjunto aleatorio, obteniendo para cada uno su etiqueta real.

Dos usuarios, un aficionado a la ciencia ficción y otro a la comedia, cada uno con una lista distinta de películas recomendadas; una valoración con estrellas y un botón de saltar como tipos de opinión.
Etiquetado, búsqueda y sistemas de recomendación

La misma tienda, usuarios distintos

Los sistemas de recomendación son otro planteamiento de problema relacionado con la búsqueda y la ordenación. Los problemas se parecen en que el objetivo es mostrar un conjunto de elementos relevantes para el usuario.

Una caja de agente y una caja de entorno en un bucle: la acción va del agente al entorno, la observación y la recompensa vuelven; la regla del agente es la política.
Interacción con un entorno y aprendizaje por refuerzo

El bucle del aprendizaje por refuerzo

A continuación describimos brevemente el aprendizaje por refuerzo, un marco rico para plantear problemas de aprendizaje en los que un agente interactúa con un entorno.

Una cuadrícula de pequeñas cajas de GPU con 32 imágenes cada una, y la suma 1024 × 32 ≈ 32 000 imágenes por paso; el tiempo de entrenamiento baja de días a minutos.
El camino hacia el aprendizaje profundo

Muchas GPU, un gran lote

En muchos casos, una sola GPU no basta para procesar las grandes cantidades de datos disponibles para el entrenamiento. En la última década, la capacidad de construir algoritmos de entrenamiento paralelos y distribuidos ha mejorado mucho.

Как это сделано

Примеры для: a curious adult with school maths who uses ChatGPT and phone apps; add one modern instance per idea, such as a chatbot, a spam filter, a recommendation feed or a voice assistant

Источник

Лекции пересказывают с английского оригинала книгу d2l.ai (Cambridge University Press, 2023), GitHub d2l-ai/d2l-en, автор — Астон Чжан, Закари Липтон, Му Ли, Александр Смола; книга вышла под открытой лицензией, которая разрешает пересказ и перевод. Пересказ, рисунки и голос сделаны ИИ и сверены с книгой второй моделью. Как используется ИИ.

Лекции — переработка оригинала и распространяются под той же лицензией: их можно свободно распространять и перерабатывать с указанием автора и ссылкой на эту страницу: CC BY-SA 4.0

Ваша трудная книга — так же

Загрузите учебник или любую сложную книгу. Первые пять минут бесплатно.

Загрузить книгу