seriouscope

Ну потому что как-бы вы говорите компьютеру пойди туда, не знаю куда, делай то, не знаю что.

Он офигивает и падает.

Давно уже не имел дело с WinApi, но похоже для консольных приложений другая фукнция нужна вместо GetActiveWindow(). Заодно исправляйте ошибку с отсутствием буфера под className, как указал 15432

WCHAR className[255];
	GetClassNameW(GetConsoleWindow(), className, 255);
	wprintf(L"%s", className);

1) Начнем с того, что с логической точки зрения, RS232 и UART полностью идентичны.

2) Переходник нужен только для того, чтобы сопрячь микроконтроллер, у которого внутри нет физики интерфейса PCI-E c интерфейсом PCI-E. Если у вас на руках контроллер или ПЛИС с таким интерфейсом, то и преобразователь вам не нужен.

3) Для работы с шиной PCI-E нужно соблюсти крайне жесткие требования к разводке платы между слотом и той микросхемой, куда PCI-E идет. Если вы нуб в электронике, пропасть в знаниях слишком велика, вам придется или сделать 5-10-100 промежуточных проектов, или взять готовую и отлаженную плату вроде Arduino MKR Vidor 4000. Без опыта разводки многослойных ВЧ плат вы угробите кучу времени (и денег, дома вы такую плату не сделаете, если вы не живете на заводе по производству плат - придется каждую итерацию заказывать на заводе).

4) Идея работать напрямую с памятью через UART - это сразу провал, потому что максимальная скорость, на которую способен UART - ну мегабит 16, это еще надо их из него вытянуть, а память может прокачивать в худшем случае 10 гигабит. Я повторяю. в худшем случае.

То есть, как учебный проект это все похвально и интересно, как рабочий - не работоспособно от слова "совсем".