С ходу приходят следующие мысли:
1)Если я не ошибаюсь, то при запуске программы через shell_exec на пхп, прока программа не отработает и не завершится, не выдаст результат в пхп, следовательно вы получите в пхп весь массив сразу.
2) возможно вам поможет что-то типа watch tail -n 5 /var/log/syslog.log
3) Вам возможно легче будет настроить вашу программу, чтобы она писала тектовый файл, имя которого передаст ей пхп скрипт, а потом пхп скрипт в цикле будет читать этот файл