Словарик и методы
Краткие расшифровки и частые ловушки.
| Запись | Что означает |
|---|---|
| shape | Размеры массива, например (360, 64). |
| axis=0 | Операция вдоль строк: сворачиваем объекты и сохраняем признаки. |
| axis=-1 | Последнее измерение, обычно классы или нейроны. |
| keepdims=True | Не удалять суммированное измерение, удобно для broadcasting. |
| broadcasting | Автоматическое повторение совместимого массива, например bias для всех строк. |
| @ | Матричное умножение. |
| * | Умножение поэлементно. |
| .T | Транспонирование матрицы. |
| np.eye(K)[y] | Создать one-hot метки классов. |
| argmax(axis=1) | Номер максимального класса для каждой строки. |
| random_seed | Начальное состояние генератора случайности. |
| learning_rate | Размер шага изменения весов. |
| fit / transform | Выучить параметры преобразования / применить уже выученные. |
| macro-F1 | Среднее F1 по классам с одинаковым весом каждого класса. |
| log loss | Штраф за низкую вероятность правильного класса. |
| Якобиан | Матрица производных каждого выхода по каждому входу. |
| batch | Набор объектов одного шага; в нашей сети вся учебная выборка. |
| Логиты | Неограниченные числовые оценки перед Softmax. |
Проверь себя
Что такое модель в переменной?
Объект NeuralNetwork, внутри список слоёв с массивами обучаемых весов и сдвигов.
Зачем два метода forward?
NeuralNetwork.forward проходит все слои. Layer.forward обрабатывает только один слой.
Где проверка производных?
После четырёх классов находится блок «Проверки формул и обратного прохода»: PyTorch и численные разности для целой сети.