Больше примеров производных

24 сентября 2026

Зачем это нужно: одного-двух примеров недостаточно, чтобы увидеть общий паттерн — что у каждой функции своя формула наклона. «Производные: что такое наклон функции» объяснила саму идею на $f (a) = 3 a$ (наклон-константа) и $f (a) = a^{2}$ (наклон меняется от точки к точке); если это незнакомо — начни оттуда. Здесь — ещё два примера, которые закрепляют паттерн и понадобятся дальше при разборе вычислительных графов.

Напомним: численная производная ( $f^{'} (a)$ ) — это подвинуть вход функции на крошечный $ε$ посмотреть, на сколько сдвинулся выход, и поделить одно на другое; формула наклона даёт тот же ответ мгновенно, без замера.

Кубическая функция, $f (a) = a^{3}$ производная $f^{'} (a) = 3 a^{2}$ Проверка при $a = 1, 2, 5$

$a = 1$ формула даёт $3 \cdot 1^{2} = 3$ численно (та же процедура с $ε = 10^{- 6}$ ) выходит $3.0000030$
$a = 2$ формула даёт $3 \cdot 4 = 12$ численно $12.0000060$
$a = 5$ формула даёт $3 \cdot 25 = 75$ численно $75.0000150$

Натуральный логарифм, $f (a) = \ln (a)$ производная $f^{'} (a) = 1 / a$ Тот же логарифм, что встречался в кросс-энтропии из «Бинарной классификации» — там он мерил штраф, здесь у него просто есть свой наклон. Проверка при $a = 1, 2, 5$

$a = 1$ формула $1 / 1 = 1$ численно $0.9999995$
$a = 2$ формула $1 / 2 = 0.5$ численно $0.4999999$
$a = 5$ формула $1 / 5 = 0.2$ численно $0.1999999800$

Совпадения не случайны — это одна из причин, почему математики выводят такие формулы раз и навсегда, а не гоняют численный замер на каждом шаге. Заметь общий паттерн, который повторяется во всех четырёх примерах (этой статьи и предыдущей — «Производные: что такое наклон функции»): у каждой функции — своя формула наклона, и эта формула может как быть постоянной ( $f (a) = 3 a$ ), так и зависеть от точки ( $a^{2}$ $a^{3}$ $\ln (a)$ ). Backprop, который мы разберём в следующих статьях, — это способ быстро посчитать нужные наклоны для сложной цепочки функций, не гоняя численный замер по всей нейросети на каждом шаге.

Мини-квиз: пользуясь формулой $3 a^{2}$ чему равен наклон $f (a) = a^{3}$ в точке $a = 10$

Ответ

3 \cdot 10^{2} = 3 \cdot 100 = 300

Формула наклона сразу выдаёт ответ в любой точке — без численного замера.

Что дальше

Дальше нейросеть — не одна функция, а цепочка из многих: чтобы посчитать производную такой цепочки, удобно сперва нарисовать её как схему. Это тема «Вычислительного графа».