Если я правильно понял
1. Как вариант...
у вас же id уникальные? так добавьте еще атрибут id
Вместо
$('#tab').append("<tr class='text-left'>");
Это:
$('#tab').append("<tr class='text-left' id='item-'+value['id']+'>");
и удаляйте уже по полученному data-id... т.е (в идеале кнопке дать class)
$(document).on('click', 'button', function() {
var id = $(this).attr('data-id');
$('#item-'+id).remove();
});
ИЛИ
2. Вариант
jsfiddle.net/fest1val/8b90rjxn$(document).on('click', 'button', function() {
$(this).parent().parent().remove();
});