Александр

Никак. Загрузчик НЕ перезаписывается.

Раздел 3.2.1 - Flash Memory Organization
<...>
The information block is divided into two parts:
1. System memory: used to boot the device in System memory boot mode. The area is
reserved for use by STMicroelectronics and contains the boot loader which is used to
reprogram the Flash memory through the selected communication interface. It is
programmed by ST when the device is manufactured, and protected against spurious
write/erase operations. For further details, please refer to AN2606.

Информационный блок разделён на две части:
1. Системная память: Используется для загрузки устройства в режиме загрузки из Системной Памяти. Эта область зарезервирована STMicroelectronics и содержит загрузчик, который используется для перепрограммирования Flash памяти через выбраный коммуникационный интерфейс. Эта область запрограммирована ST, когда устройство произведено, и защищена от ложных операций записи/стирания. Для уточнения информации обратитесь к AN2606.

Начало AN2606:
Introduction
The bootloader is stored in the internal boot ROM memory (system memory) of STM32
devices. It is programmed by ST during production. Its main task is to download the
application program to the internal Flash memory through one of the available serial
peripherals (USART, CAN, USB, I2C, SPI, etc.). A communication protocol is defined for
each serial interface, with a compatible command set and sequences. This document
applies to the products listed in Table 1. They are referred as STM32 throughout the
document.

Загрузчик записан во внутреннем boot ROM памяти (системной памяти) контроллеров STM32

Собственно, дальше переводить смысла нет).

1. Попробуйте уменьшить скорость выборки данных.
2. Попробуйте увеличить количество выборок в буфере, так как можете просто не успеть среагировать на прерывание при малом размере буфера. Точнее, обработчик запустится, но может уже настать момент прерывания по заполнению буфера.
3. Прерывание дейсвтительно будет генерироваться, когда буфер заполнен на половину.
Попробуйте ещё быстрый вывод в консоль - тогда будет точно понятно, что где произошло.

upd:
Кстати, а точно срабатывают прерывания по половине передачи и полной? Есть подозрение..

Поставьте хотя бы демо-версию Keil'а. Ограничения в 32kB кода для начала будет болчее чем достаточно.
Готовые примеры так же можно найти в сети.
Минимальный - настройка GPIO, и через таймер менять состояние пина.
Например, вот так:

int main(void) {
	RCC->AHBENR |= RCC_AHBENR_GPIOAEN;
	GPIOA->MODER |= 1;	// GPIOA.0.MODE -> out mode
	GPIOA->OSPEEDR |= 3;	// GPIOA.0.SPEED -> MAX SPEED
	while(1) {
		for (uint32_t i=0;i<1000000;i++) {};		// Пауза
		GPIOA->ODR ^= 1;	// Toggle GPIOA.0
	};
};

Вот этот код будет мигать пином PA0.

Если прошивка защищена через Option Bytes:
tqfp.org/stm32/zashita-ot-schityvaniya-proshivki-s...
Уровень 1 (Read Protect ) - только обходными манёврами - загрузчик, RAM, запуск из RAM.
Если же выставлен уровень 2 (No Debug) - то никак. Вообще. Слишком дорого, должно быть, выйдет.

Stm32xxx - reference manual, раздел 3.3 (Embedded Flash memory -> Memory Protection).