Как сделать нейросетку для генетического 2D алгоритма?

Question

[ildarin]

На экране есть от 2ух до N объектов 2D с x,y. У одного из них - "внутри" нейросетка с (например) 10 входными нейронами и 2мя выходными (угол и скорость движения). Отсеиваются приспособленные к задаче (например, убежать от других объектов или догнать).
Как подать значения x,y неизвестного заранее количества объектов N на 10 входных?

Детали вопроса

В общем сабж - есть неизвестное N количество объектов на 2D плоскости, у объектов есть x,y. Нужно подать данные об объектах на вход нейросети (допустим, фидфорвард). Сами данные ок, нормализовали, однако как поступить с неизвестным количество N? Вижу несколько вариантов, но чот они какие-то стремные... Варианты:
1. padding, делаем Max входных, забиваем пустые нулями.
2. Собираем данные в некий фиксированный усредненный вектор (теряем детали входных значений). Снижение размерности.
3. Лучами. По принципу глаз - есть "глаза" - лучи, M штук, при пересечении подаем на вход параметры пересекшего.
4. Квадратами - делим плоскость на квадраты, попавших в квадрат - усредняем по значениям или типа того.
5. Разбивка по времени. Но я тут чот не совсем догнал, чел пишет чото про Tensorflow Timedistributed Wrapper.

Comments

[freeExec]

Я вопрос так и не понял. Ну подавай свои ху с цикле от 0 до Н.

[ildarin]

freeExec, и чо будет? N=2, входов 10
Входов 10: i1, i2..,i10. Данных 4: x1,y1,x2,y2.
При N=1000, аналогично, но данных 2000, а входов 10? Куда подавать x500 и y500, на i3 i4?

[freeExec]

ildarin, всё равно не догоняю. Входов 10, а данных 4, зачем нужны лишние вода?

[ildarin]

freeExec, а какая тогда должна быть модель сетки? Какие сетки предполагают неопределенное количество входных данных?

[freeExec]

ildarin, никакие, входы и выходы фиксированы всегда.

[ildarin]

freeExec, нейросетка одна и та же. А количество данных на вход меняется в процессе выполнения. Первые 100 поколений - 2 точки на вход. Потом - 200 точек. Потом - случайное. И т.д.
Это я к примеру.
Т.е. нейросетка дает потомков. Структура самой нейронки в целом - не меняется. Разве что генетически могут появляться новые ребра в графе переходов перцептронов. Или пропадать имеющиеся. Но среда может меняться. То там 5 точек, то 100.
Представь, что нейронка живая клетка. Она может съесть другую или родить новую. И новая должна уметь реагировать на любое количество других клеток.
Теоретически, поколениями может даже количество входов измениться у потомков.

[freeExec]

ildarin, делаешь всегда 100 входов, подаёшь туда нули. Впрочем чего-то путного из этого не выйдет, если обучения по этим входам нету. Но для игры наверное пойдёт.

[ildarin]

freeExec, под катом подробное описание вопроса. Padding - это второй вариант решения, забивать нолями. Работать будет, но избыточность и обучаться хуже будет. Мне про временной интересно. Сам не догоняяю, может найдется умник - подскажет. Я удалил предыдущий - там чел советовал уменьшение размерности. Это тоже под катом - минус - потеря данных.

[imageman]

freeExec "делаешь всегда 100 входов, подаёшь туда нули" самое простое решение.

2. Рекуррентные нейросети - именно они могут получать на вход данные переменной длины.

[ildarin]

imageman, можно плз ссылочку с примером реализации такой сети? Только без питонских библиотек и прочих черных ящиков?

[imageman]

https://qudata.com/ml/ru/NN_RNN_Torch.html - довольно сносное описание.
Объясню "на пальцах":
а) на вход нейросети подаются N блоков (фиксированной длинны), к примеру для N ботов это будут координаты x,y поэтому у нас будет вектор [N , 2]
б) у нас есть некое внутреннее состояние нейросети (почти всегда инициализируется нолями) которое задается всегда определенным образом перед каждым запуском. Это массив длинной K (например 10).
в) сеть состоит из двух частей - рекуррентная (перебирает по очереди вход) и финальная часть, которая на основе внутреннего состояния дает окончательный вывод (прогноз, результат).

Теперь чуть подробнее. Рекуррентная часть это простая нейросеть любой конфигурации, которая на вход принимает массив "внутреннее состояние нейросети" и одну из N строк входного массива (в твоем случае "внутреннее состояние нейросети" + 2 числа). Обрабатывает это и на выходе получается новый массив "внутреннее состояние нейросети". Т.е. (как пример) на входе 12 чисел, на выходе 10 чисел.

После обработки всех N строк входного массива в дело вступает финальная часть нейросети. Она может быть тоже любой конфигурации (структуры). На вход принимает "внутреннее состояние нейросети" (например 10 чисел), на выходе какой-то уже конечный результат (к примеру "угол" и "скорость").

Надеюсь понятно изложил.

Answer 1

[imageman]

Рекуррентные сети
https://qudata.com/ml/ru/NN_RNN_Torch.html - довольно сносное описание.
Объясню "на пальцах":
а) на вход нейросети подаются N блоков (фиксированной длинны), к примеру для N ботов это будут координаты x,y поэтому у нас будет вектор [N , 2]
б) у нас есть некое внутреннее состояние нейросети (почти всегда инициализируется нолями) которое задается всегда определенным образом перед каждым запуском. Это массив длинной K (например 10). *** В твоем случае в самом начале в этот массив можно записать свои собственные координаты, какие-то дополнительные параметры (например число ботов).
в) сеть состоит из двух частей - рекуррентная (перебирает по очереди вход) и финальная часть, которая на основе внутреннего состояния дает окончательный вывод (прогноз, результат).

Теперь чуть подробнее. Рекуррентная часть это простая нейросеть любой конфигурации, которая на вход принимает массив "внутреннее состояние нейросети" и одну из N строк входного массива (в твоем случае "внутреннее состояние нейросети" + 2 числа). Обрабатывает это и на выходе получается новый массив "внутреннее состояние нейросети". Т.е. (как пример) на входе 12 чисел, на выходе 10 чисел.

После обработки всех N строк входного массива в дело вступает финальная часть нейросети. Она может быть тоже любой конфигурации (структуры). На вход принимает "внутреннее состояние нейросети" (например 10 чисел), на выходе какой-то уже конечный результат (к примеру "угол" и "скорость").

Надеюсь понятно изложил.

Comments

[ildarin]

Спасибо!)