Какими алгоритмами обучения можно воспользоваться, с нестандартной функцией ошибки, которые на прямую не используют выходы обьучающих данных?
Я только погружаюсь в вопрос, заранее извиняюсь за нубство.
В моей задачи есть очень большой объем входных данных но нет готовых правильных выходных, максимум - приблизительные, моя задача состоит в классификации этих данных, но не на какие то абстрактные классы, которые может выделить самостоятельная сеть-классификатор а на нечто другое. Правильные (с точки зрения моей задачи) классы я могу определить с помощью достаточно тяжелой функции, использующей большой объем данных и готовую нейронную сеть (много раз), эту функцию можно использовать как функцию ошибки, в итоге мне нужна минимизация ее возвращаемого значения.
В качестве подзадачи мне потребуется отдельная сеть, которая смогла бы 'сделать прогноз', какие данные вообще попадают под мою классификацию, но данные для нее можно будет подготовить на уже готовой сети (те данные для которых моя функция возвращает ошибку выше порога).
Если бы задача была простой, и нейронная сеть содержала бы десятки-сотню весов, я бы использовал классические алгоритмы многомерной оптимизации, вычисляя производные и матрицы якобиана, они используют выходные данные только чтобы оценить ошибку. Ну у меня задача априори сложная и зашумлена ошибочными данными (заранее отделить шум от полезных данных - нельзя, данных ОЧЕНЬ много, сотни гигабайт)
Возможно я что то не понимаю, и все алгоритмы обучения не используют выходные данные для самого обучения, а только в функции ошибки, тогда я смогу в самом алгоритме просто подставлять предыдущее или текущее 'лучшее' значение нейронной сети для использования в функции ошибки.
Я тоже не профессионал, но попробовал бы в данном случае генетический алгоритм - отбирать лучшего из пачки, немного мутировать, не забывая об исследователях, и дальше.
Простой
