Я бы не целился на то, чтобы исключительно убрать, лучше разобраться - что-то может глючить.
Зайдите почти туда же, но не туда:
Settings -> Personalization -> Taskbar -> В середине страницы "Notification area" и в ней "Select which icons appear on the taskbar"
Посмотрите отображается ли приложение там.
Если нет, хорошо изучите вкладки "Processes" и "Details" в Task manager'е. Там может висеть что-то нетипичное.
Вспомните ставили ли или удаляли что-то за прошедшую неделю.
В нашей области такая иконка появляется при подключении, например, сломавшейся флешки или телефона по некачественному кабелю.