Для ваших extensions нужно включить DTLS:
dtlsenable=yes
Насколько я помню, это можно сделать и из GUI в процессе создания/модификации экстеншна.
И, конечно, предварительно придется сгенерировать сертификат. Не уверен, что это можно сделать из GUI, но процесс довольно прост -- и гайдов достаточно (
пример).