Можно строго проверять ввод на соответствие паттерну X-Y и буквально использовать его для конструирования регулярного выражения [X-Y] для сравнения с первыми буквами авторов.
Ну и все показать, и спрятать те, что не совпадают через jQuery.filter():
if( /^[А-Яа-я]-[А-Яа-я]$/.test(value)) {
var RE = new RegExp('[' + value + ']');
$('table.table-class tr').show(); // all on
$('table.table-class tr').filter( function(){
var firstChar = $('td.author', this).text().substr(0,1);
return !RE.test( firstChar);
}).hide();
фиддл
P.S. и переписал адскую функцию для тестов.