Кава

Основи глибокого навчання від BAIR

кави

У Caffe, як і в більшості машинного навчання, навчання зумовлене втрата функція (також відома як помилка, вартість, або об'єктивний функція). Функція збитків визначає мету навчання шляхом зіставлення параметрів параметрів (тобто поточних ваг мережі) у скалярне значення, що вказує на "несправність" цих параметрів параметрів. Отже, мета навчання полягає в тому, щоб знайти такий ваговий коефіцієнт, який мінімізує функцію втрат.






Втрати в Caffe обчислюються за прямим проходженням мережі. Кожен шар приймає набір вхідних (нижніх) крапок і виробляє набір вихідних (верхніх) крапок. Деякі виходи цих шарів можуть бути використані у функції втрат. Типовим вибором функції втрат для завдань класифікації "один на один" є функція SoftmaxWithLoss, яка використовується у визначенні мережі наступним чином, наприклад:

У функції SoftmaxWithLoss верхня крапка - це скаляр (порожня фігура), який в середньому визначає втрати (обчислені з передбачуваних міток перед і фактичних міток міток) протягом усієї міні-партії.






Втрата ваги

Для мереж із декількома шарами, що призводять до втрат (наприклад, мережа, яка одночасно класифікує вхідні дані за допомогою шару SoftmaxWithLoss і реконструює його за допомогою шару EuclideanLoss), ваги втрат можуть використовуватися для визначення їх відносної важливості.

За домовленістю, типи шарів Caffe із суфіксом Loss сприяють функції втрат, але інші шари, як вважається, використовуються виключно для проміжних обчислень. Однак будь-який шар можна використовувати як втрату, додавши поле loss_weight: до визначення шару для кожної верхньої крапки, що створюється шаром. Шари з суфіксом Loss мають неявну втрату_ваги: ​​1 для першої верхньої крапки (і втрату_ваги: ​​0 для будь-яких додаткових вершин); інші шари мають неявну втрату: 0 для всіх верхніх s. Отже, наведений вище шар SoftmaxWithLoss можна рівнозначно записати як:

Однак будь-якому шару, здатному здійснювати зворотне розповсюдження, може бути присвоєно ненульову вагу втрат, що дозволяє, наприклад, регулювати активації, що виробляються деякими проміжними рівнями мережі, якщо це бажано. Для не-одиночних виходів із пов'язаною ненульовою втратою втрата обчислюється просто шляхом підсумовування всіх записів BLOB.

Тоді остаточна втрата в Caffe обчислюється шляхом підсумовування загальної зваженої втрати по мережі, як у наступному псевдокоді: