Мистер Старк

Кассы и столики в макдональдсе это — frontend, кухня и комната для персонала — backend.

МК не потянет такое, если вы только не хотите робота который будет принимать решение что перед нем через несколько дней
Написать нейросеть под ПЛИС если был только опыт работы с ардуино будет ну оочень долго, для начала оцените масштабы и попробуйте написать сеть которую выполняет вашу задачу на каком-нибудь с++ совсем без пакетов и библиотек, даже библиотеки матриц не берите, пишите все сами, сколько времени это займет?

Наверно вы хотите по быстрей получить результат, берите мощный одноплатник, что хорошо подойдет так это tegra jetson tx1, но потянет ли ваш бюджет? Может тогда выбрать для себя задачу по проще для начала?

У Python и C высокий уровень интероперабельности. Из кода на Python можно использовать Сишный код, а из кода на C можно выполнять скрипты Python. Для начала почитать можно здесь и здесь.

Вопрос ещё и в том, надо ли писать такое под микроконтроллеры (изобретая по пути велосипеды) - или проще под подобную функциональность поставить на борт, например, какой-либо arm с линухом и tensorflow (например) на борту. А микроконтроллерам оставить всякий реалтайм, например.

"самообучающийся робот"
One-shot reinforcement learning, или у нас безлимитные боты? :-)

Знание придет с работой. Я после окончания ВУЗа пошел работать по специальности, так оказалось что мы ВУЗе даже 10% не учили того что нужно для работы. Но ничего год - два практики и можно получить необходимые знания.

Хорошо учите английский. Перспектива разрабатывать суперкомпьютеры зарубежом гораздо выше, поэтому чем раньше освоите английский, тем больше качественного материала сможете самостоятельно освоить на ютубе и онлайн-курсах. А то и с релокацией.

Выберите себе подходящий open source проект и участвуйте. И вам польза, и народу ;-)

Подобную информацию можно найти в фантастике, в основном.
Мы пока слишком мало знаем о том как работает мозг. Тем не менее, проекты по созданию эмуляторов мозга существуют. Можно так и гуглить "эмуляция мозга".

Учить нейробиологию, наверное. Биохимию. Программирование. Математику.

Еще можно погуглить "цифровое бессмертие", "копирование сознания".
"Нейроинтерфейсы" - не совсем по теме, но в более близкой перспективе.

Если перейдёте на MatLab, то там есть и нейронные сети и (в Симулинке) embedded coder, позволяющий переводить код в С / С++ для разных процессоров. Ещё один вариант: перевести фунции Матлаба в dll (встроенное средство) и запускать на target-системе, установив предварительно Matlab Runtime (бесплатная).