0x200AC

По xpath, id, class пробовали искать? iframe обязательно [0], а не [1]?
Кстати, ради интереса, чем эту капчу хотите решать?

Есть варианты использования мобильных прокси - их не банят (но дорогие), и еще вроде к инсте можно через ipv6 прокси подключаться, они копеечные.

Можно создавать методом exec(), но не ясно зачем

Мне в свое время на manjaro тоже эта проблема мешала, помогла установка dlib или cmake (не помню чего из) из аура, то есть самых свежих и с компиляцией.

Криво собрался в кучу - проблемы с зависимостями, которые прилепляет pyinstaller. Попробовать через консоль перейти в нужную директорию и там-же запустить exe файл из консоли, куда и пойдет вывод, который и анализировать. Или перенаправить вывод в txt. Можно и bat файлом это сделать.
А вообще - лучше не заниматься ерундой и интерпретируемые языки - запускать интерпретатором. Тоже ковырялся с этим pyinstaller-ом, ничего мало-мальски сложного им собирать не получалось.