В jQuery есть замечательный метод parents(). Он ищет родителя с заданным селектором, не ограничиваясь одним уровнем.
В вашем случае надо найти root-овый элемент - это
.item
.
link = $(".item h2 a");
text = link.text();
root = link.parents(".item");
button = $(".button a",root); // вот тут ссылку, вызывающую модальное окно ищем в контексте root-ового элемента .item - он указан после запятой.
button.attr("title",text);
Но это только пол дела. Дальше надо передать заголовок в модальное окно. А это уже отдельный вопрос. Всё зависит от того, как вызывается модальное окно. Присутствует ли оно в DOM до момента вызова (спрятанный блок) или загружается ajax-ом. По ссылке вида #modal делаю вывод, что оно уже присутствует в коде. Поэтому лучший вариант - не делать промежуточный этап с заданием атрибута title для кнопки, а сразу искать в DOM тэг заголовка модального окна и вставлять полученный текст в него.