При высоком потреблении памяти, нужно увеличивать доступную память, или оптимизировать её потребление в самом приложении.
Что будет, если он переполнится?
Тоже самое, что и при отсутствии файла подкачки: приложение, запросившее больше памяти, чем доступно, будет завершено OOM killer'ом для того, чтобы система могла продолжать функционирование. Причём может быть принудительно завершено как оно само, так и любое другое, активно потребляющее RAM.
Файл подкачки нужен исключительно для избежания OOM при превышении потребления физической RAM.
как очищать файл подкачки?
Никак. Это невозможно делать вручную, как и очищать RAM.
Только завершая приложения, потребляющие память.