AiR_WiZArD

Легко - выкинуть ATtiny85, взять ATmega32u4, или в идеале забыть про древний мусор и использовать 32бит МК. Ну либо преобразователь USB-UART
Почему?
1) Attiny не имеет аппаратного котроллера USB, то что ардуинщики кое как прилепили его, это конечно круто, но абсолютно не пригодно для реального использования.
2) Памяти преступно мало, 8КБ это вообще ни о чем, ни одна хоть сколько нибудь сложная программа не влезет.
3) Бездумно подключать сигнальные линии USB - верный способ спалить порт, при стандартном питании AVR в 5В, логические уровни тоже будут 5В, а на сигнальных не должно быть больше 3.3В.
4) Если чисто поиграться - купите Digispark attiny85, туториалов полно

0) Где код?
1) Настолько ли важно замеры проводить с помощью АЦП? Может простейший ФВЧ + компаратор + таймер в режиме input capture? Это проще с программной точки зрения, а рассыпуха копейки стоит
2) Какие параметры АЦП? Какая частота АЦП, время семплирования, используется ли прерывание по окончании, или блокирующая функция в прерывании?
3) Правильно ли я понял - вызывается обработчик 3 таймера? Если так, то другой вопрос - зачем? TIM3_TRGO может напрямую запускать преобразование
4) DMA? Да! И ещё раз - да!
5) Не понял, зачем тут упомянут TIM2 - если он используется для других задач, стоит выключить на время отладки АЦП, что бы не мешал.
6) "Симуляцию произвожу в proteus" - не надо, отлаживать надо на реальном железе, симуляторы в таком виде не используются, только изредка qemu для юнит тестов
7) "Это он не может так быстро обработать" - если симулятор не может обрабатывать в реальном времени, она начинает обрабатывать не в реальном времени, но на логику кода это никак не влияет, просто занимает больше времени.
8) 8МГц это мало, если нет гонки за каждым миллиампером (в таком случае F1 выкидывается, ставится L0/L1), лучше выставить максимальную частоту (72МГц)