Попробуй создать файл start.bat
и в нём прописать:
@echo off
java -Xms2048M -Xmx2048M -jar server.jar nogui
pause
@echo off - чтобы в консоли небыло ничего лишнего
java -Xms..... - скрипт по запуску файла server.jar через командную строку
pause - если сервер крашнется, чтобы посмотреть в консоли что не так( можна эту команду не писать так как есть логи и краш-логи)
Из -Xms2048M и -Xmx2048M, 2048 это 2ГБ RAM для сервера!
При этом коде самое главное назвать ядро сервера server.jar
Надеюсь помог)