Для установки, начиная с 26 api (android 8) приложение должно иметь право
REQUEST_INSTALL_PACKAGES.
Устанавливать приложение нужно с помощью
Intent.ACTION_INSTALL_PACKAGE (до api 29 т.е. до 10 андроида)или
PackageInstaller API.
p.s. за обход этого гугл делает атата, например
запретили так делать (открывать apk дефолтным просмотрщиком как ты хочешь) разработчикам Total Commander под угрозой выкидывания из гуглстора
https://www.ghisler.com/android.htm
Removed all functions to install apk files manually by request from Google.
p.s. скорее всего у тебя не получается, так как ты открываешь apk из внутреннего хранилища приложения, когда как сам процесс установки происходит в другом приложении, не имеющем к нему доступа, попробуй предварительно переместить .apk на карту памяти