Во первых у тебя туту каша. Открывается скрипт с src что грузит скрипт из источника, внутри этого ты закрывашь div что не правильно, и там же ты пишешь JS код. Он не будет работать потому что скрипт грузится с src
тебе надо вставить отдельно
<script>
function openForm() {
document.getElementById("myForm").style.display = "block";
}
</script>
Вот так - проверил на codepen - работает
<!DOCTYPE html>
<html lang="ru">
<head>
<meta charset="utf-8" />
<title>test script</title>
</head>
<body>
<button class="open-button" onclick="openForm()">show form</button>
<div class="form-popup" id="myForm">
<script type="text/javascript" src="http://xxxxxxxxxxx/view_webform_v2.js?u=1s&webforms_id=sX" data-webform-id="sX"></script>
</div>
<script>
function openForm() {
document.getElementById("myForm").style.display = "block";
}
</script>
</body>
</html>