Александр

Микроконтроллеры?
В последнее время - приличная часть бытовой техники - всевозможные пароварки, мультиварки, микроволновые печи (те, что с кнопками, а не механическими ручками), в некоторых случаях даже лампы (те, что по Bluetooth управляются, да), вероятно даже стиральные машины.
Про телевизоры даже не говорим, некоторые хвастаются "Двухядерным процессором"(!) (интонация рекламщика)
Далее... Даже домашние телефоны - и те могут оснащаться микроконтроллерами (с экраном, естественно; радиотрубки, если я правильно помню - в подавляющем большинстве случаев содержат МК).
На сладкое: Электронные часы. Формально, даже простые вида Montana (ретро) и те содержат МК. Заточеный под одну конкретную функцию, и не перепрограммируемый, но всё же.
А относительно недавние Sony SmartWatch (что 1, что 2) - так вообще на базе STM32 построены.
Pebble, кстати, так же работают на микроконтроллере.
Подозреваю, что и AppleWatch, но там скорее всего, более "толстый" процессор может быть.
Сейчас куда не посмотри, все устройства, умнее калькулятора, но глупее смартфона, будут содержать микроконтроллер.

1. Попробуйте уменьшить скорость выборки данных.
2. Попробуйте увеличить количество выборок в буфере, так как можете просто не успеть среагировать на прерывание при малом размере буфера. Точнее, обработчик запустится, но может уже настать момент прерывания по заполнению буфера.
3. Прерывание дейсвтительно будет генерироваться, когда буфер заполнен на половину.
Попробуйте ещё быстрый вывод в консоль - тогда будет точно понятно, что где произошло.

upd:
Кстати, а точно срабатывают прерывания по половине передачи и полной? Есть подозрение..

Не так.
Данные загружаются в регистр сдвига поблочно по переднему фронту тактового сигнала.
Грубо говоря, подключите DI к MOSI (SPI), CLK к SCK (SPI), загрузите какое-то число байт (я бы предположил, что это будет либо (384/3 = 128 бит), либо (384 / 6 = 64 бит). То есть, 16 или 8 байт. Можете загрузить и 16, лишние будут вытолкнуты из регистра. Советую грузить значение 0x55 - так будут видны пиксели через один.
Затем подать строб LATCH (дёрнуть его вниз) на произвольное время (достаточно поставить рядом команды сброса и установки пина).
Подать команду выбора на соответствующие ключи - STB1~STB6 на заданное время.
Протянуть бумагу.
Посмореть на результат.

Похоже, здесь вашу головку уже препарировали.

Кажется мне, что автор хочет поставить ЦАП на месте регулирующего элемента, рядом с ШИМ-ом для ограничения напряжения/тока нагрузки.
Ну чтож... технически - реализуемо, но это действительно получится... забавный велосипед из костылей.
Если хотите что-то достаточно дешёвое - можно использовать линейку 74HC595 (сдвиговые регистры) + ЦАП из резисторов (R-2R матрица, хорошо ищется поисковиками). Битность можно задать по желанию.
Количество каналов будет зависеть только от желания (линейка может быть одна, а каналов - много, просто данные будут "проталкиваться").
Далее. Я бы так же не рекомендовал подобное решение. Во-первых, сразу ЗА ЦАП-ом потребуется буфферный ОУ. Для каждого канала. Ну и опять же, стабилизация получится достаточно шумной, как мне кажется.

Поставьте хотя бы демо-версию Keil'а. Ограничения в 32kB кода для начала будет болчее чем достаточно.
Готовые примеры так же можно найти в сети.
Минимальный - настройка GPIO, и через таймер менять состояние пина.
Например, вот так:

int main(void) {
	RCC->AHBENR |= RCC_AHBENR_GPIOAEN;
	GPIOA->MODER |= 1;	// GPIOA.0.MODE -> out mode
	GPIOA->OSPEEDR |= 3;	// GPIOA.0.SPEED -> MAX SPEED
	while(1) {
		for (uint32_t i=0;i<1000000;i++) {};		// Пауза
		GPIOA->ODR ^= 1;	// Toggle GPIOA.0
	};
};

Вот этот код будет мигать пином PA0.

Забавная схема.
В общих чертах:
Предполагаем, что порт HV1 работает на приём и уровень "Плавает" (HiZ), и не подтягивается портом к 5V. Таким образом, единственная подтяжка - резистор к 3.3V.
Когда на низковольтной части будет "1", на высоковольтной (с позволения так сказать), так же будет "1", т.к. транзисторный ключ закрыт.
В случае "0" на низковольтной части, транзистор открывается и ток стекает с "верхнего" плеча (справа) с высоковольтной цепи в низковольтную (предполагается, что справа будет режим "вход", иначе можно таки пожечь 3.3V часть).
Теперь предполагаем, что читает данные LV1 и вход плавает (подтянут резистором к 3.3V)
Аналогично и обратное - когда на высоковольтной части "1", транзистор будет закрыт и не вносит изменений. 0 на высоковольтной части заставит открыться внутренний диод в транзисторе и ток будет стекать в порт HV1 (2 резистора по 10кОм и возможно, другие нагрузки "слева").
Довольно простая схема. Подошёл бы любой P-MOSFET (да тот же IRLML2402).

> поясните как правильно будет из 5V(logic) Arduino сделать 3.3V для ESP8266.
Arduino:
5V -> HV
TX -> HV1
RX -> HV2

ESP8266:
3.3V -> LV
RX -> LV1
TX -> LV2

Странно. У меня запускался нормально.
Попробуйте перенести настройку Flash памяти ДО смены основного тактового генератора.
Помнится, на высокой рабочей частоте данные просто не смогут выбраться.
В остальном в коде, похоже, всё в порядке.

Если работаете в отладчике - можете прямо в процессе выполнения идти по инструкциям где-то после:
RCC->CR |= RCC_CR_PLLON; // Запустить PLL
И точно увидите, где возникает проблема.

Кстати, либо можете перенести строки
RCC->CFGR &= ~RCC_CFGR_SW; // Очистить биты SW0, SW1
RCC->CFGR |= RCC_CFGR_SW_PLL; // Тактирование с выхода PLL
while((RCC->CFGR & RCC_CFGR_SWS) != RCC_CFGR_SWS_1); // Ожидание переключения на PLL
непосредственно после flash->acr