Проблема оказалась в переходнике на монитор

Пробовал такой код чтоб убрать сжатие качества, не помогает.
add_filter( 'jpeg_quality', create_function( '', 'return 100;' ) );

Все верно делаешь.

Только после этого необходимо перегенерировать миниатюры. Для этого есть полно плагинов, например вот один из таких.

UPD:
Более современный код будет выглядеть так:

add_filter( 'jpeg_quality', 'filter_function_name_11' );
function filter_function_name_11( $quality ) {  
	return 100;
}