Для начала проверьте, что разрешение экрана выставлено в родное разрешение монитора.
У вашей видеокарты судя по всему вообще нет аналогового выхода, а значит, "мыльность" картинки полностью на совести чудо-переходника, который и конвертирует цифровой сигнал в аналоговый.
Можно поменять монитор на нормальный (с цифровым интерфейсом), либо поискать переходник по-лучше, или видеокарту с аналоговым интерфейсом (VGA или DVI-I).
