Закрыть в плане? Не дать программе открывать порты? Чтобы из вне к ней не могли подключиться? Или не дать подключиться к серверу из вне если используется данная программа. В обоих случаях да, это реально. Дополните вопрос, я попробую на него ответить чтобы было понятно.
Если на интерфейсе и адресе процесс "захватил" порт то никто другой его "захватить" не сможет. До тех пор пока он его "не отпустит" или не "умрёт".
Поэтому нет смысла создавать правило iptables по имени программы или, как правильно сказал Владимир, по владельцу или группе от которых запущена программа. Достаточно просто заблокировать входящий порт.
Это довольно необычно чтобы один и тот же порт слушала то одна то другая программа.
Если прогу запускать от имени определённого юзера в линукс и этому юзеру прикрыть доступ к портам, то можно. Вот тут можешь глянуть как прикрыть доступ для юзеров, статейка не очень шикарная, но остальное нагуглишь если что. https://octet.spb.ru/blog/2013/05/iptables-owner/