Вы в скобочной группе positive lookbehind ?<= указали конструкцию нефиксированной ширины .*, а это недопустимо.
Попробуйте указать в поле "Найти": (?<=filename=)(".*?").*?(?=\s--)
В поле "Заменить на": \1
(?<=\.)\w+(?=\.?$)
Данная регулярка "сматчит" цифро-буквенные символы, расположенные после точки, и при этом либо перед концом строки, либо перед точкой с концом строки за ней.
Если считать, что IP-адрес обязательно должен быть из 4 чисел от 0 до 255, разделённых тремя точками - то пожалуй так: ^(1?\d\d?|2[0-4]\d|25[0-5])(\.(?1)){3}$