Из-за того, что аналоговая часть схемы воспроизведения звука, не экранирована и находиться достаточно близко с разьему USB.
Если человеку с музыкальным слухом это мешает, то нужно воспользоваться другими источниками звука. Начать можно с переключения на разьем в задней части корпуса, но, скорее всего там своих помех хватает, поэтому прийдется приобрести отдельную звуковую карту. На некоторых звуковых картах даже есть оптический аудиоразьем, у него точно не будет такой проблемы, но наушники или колонки с оптическим интерфейсом нужно поискать.
Еще можно приобрести USB наушники, они по сути имеют свою встроенную звуковую карту, и помехи из корпуса компьютера до них не достанут.