Aricus

Проблема в асинхронности поступающих данных. Функция завершается до того, как данные успевают поступить в return, потому ничего не возвращается. Если вам необходимо разделить эти две части, поместите в функцию Plotly, и вызовите её в ajax.

если переключить язык и отфильтровать записи

Значит, эти данные не сохраняются. Сохранить данные при обновлении страницы можно или в get-параметрах, или в сессиях/куки (что используется на сайте). Далее нужно их достать оттуда и сделать значением по умолчанию при этих переключениях.

$('#file2').val('');

Данные в ajax нужно отправлять не в том формате.
data: {subtotal:subtotal}

Чтобы отправить из js в базу данных:
js -> ajax с переменными -> файл php -> БД.
Чтобы отправить из базы данных в js:
страница -> script -> написать переменные в js.
Чтобы запросить данные из БД по ajax:
js -> ajax -> файл php, выдающий данные из БД (строка, или JSON) -> обработка результата ajax.

Вопрос слишком общий. На каком именно этапе возникают проблемы?

success: function (data) {
               ...
               alert(data);
            }

Тут вы выводите в alert html-код ajax-страницы.
То есть, причина находится в php страницы php-scripts/my-pageHandler.php : почему-то после выполнения функции он выводит что-то ещё.

C ajax проще всего работать через jquery. Нужно создать файл php. Данные (например, сколько раз уже нажимали на эту кнопку) отправляются из data в $_POST, а результат выполнения этого php-файла получаются в result, и добавляются куда нужно методами jquery. Выглядит это примерно так:

var loaded = 0;
    $('.loadmore').click(function() {
        $.ajax({
            type: "POST",
            url: "ajax/load_more.php",
            data: {num:loaded}
        }).done(function(result) {
            $('.main').append(result);
        });
    loaded++;
    });