На пикче - инструкция по настройке IPSec. Первая фаза: шифрование 3DES, хеширование MD5 и адрес пира. Вторая фаза: аналогично.
Затем указывается, с каких сетей можно подрубаться, настройки криптокарты и привязка шифрования к интерфейсу.
Не вижу, где тут настройки самого туннеля, может, чего-то не понимаю.
Попробуйте для начала поднять туннель, а потом его зашифровать. Начните с самого простого GRE:
blog.sedicomm.com/2017/11/11/kak-skonfigurirovat-g...