Матвей Тарасов

Лучше на python или любом другом скриптовом языке, большинство хороших библиотек для нейронных сетей работают хорошо на python и С++.
Алгоритмы такие как в Prisma - чистая математика, есть аналог (Ostagram) исходники открытые https://github.com/SergeyMorugin/ostagram там используется реализация алгоритма под авторством Leon A. Gatys, Alexander S. Ecker, Matthias Bethge ( ссылка на математическую теорию arxiv.org/pdf/1508.06576v2.pdf ). Реализация сделана на библиотеке torch под lua https://github.com/jcjohnson/neural-style
Чтобы лучше понять что это такое можете посмотреть любые уроки по нейронным сетям. Там много математики, поэтому любовь к математике обязательна, иначе станет скучно.

Функции нельзя определять в заголовочных файлах, кроме инлайн (в частности, методов класса) и шаблонных. Иначе рано или поздно произойдёт ошибка линковки.

В заголовочных файлах должны быть объявления, в cpp-файлах - определения.
Код заголовочного файла вставляется в каждый cpp, который его включает. Поэтому, если вы напишите в заголовочном файле int N = 42; в каждом cpp создастся новая переменная, если же вы добавите только объявление extern int N, компилятор поймёт, что переменную нужно искать в другом месте

extern int N; // variable declaration
int N; // variable definition

// function declaration
float f(float x, float y);

// function definition
float f(float x, float y)
{
    return x + y;
}

// class declaration
class Foo
{
public:
    Foo();
    void bar();
private:
    static int baz;
}

// class member definition
Foo::Foo()
{
    // do some stuff
}

// class member definition
void Foo::bar()
{
    // do some stuff
}

// class member definition
int Foo::baz = 42;

Конечно, можете, но IDE может не отслеживать изменения ее определения, то есть придется вручную перестраивать проект, а потом запускать отладку.