Я создал тестовый репозиторий, и у меня с вашим шаблоном все 3 файла успешно игнорируются:
subprojects/subproject1/data/some_dir/some_text.some_text.graphml
subprojects/subproject1/data/some_text.graphml
subprojects/subproject1/data/some_text.some_text.graphml
Может, у вас какая-то совсем старая версия git?
И глупый вопрос: у вас точно эти файлы не находятся уже под версионным контролем?