Я на 1060 6gb чекнул градиент в фотошопе, показывает не в полном экране 10 бит. Ранее говорилось что в openGL будет показывать только в полноэкранном режиме 10 бит на не проф. картах. DirectX 10 и 12 поддерживает и так и так. Работает только через display port. Вроде еще в новом hdmi порте тоже можно, но он выйдет хзе когда )
Ну а так если не знаешь где смотреть, то и разницы не увидишь, переходы обычно не такие резкие как в тестовых файлах/прогах. Ну а если фильм смотреть, то madvr вообще убирает переходы градиентов даже на 6 битном монике.

Нажмите на галочку "Split framas info sections".
Нейронка заполняет только видеопамять. Задайте в полях значения под разрешение вашего видео.
-720p : 360~384 / 100
-480p: 480 / 150
-360p: No need
Первый шаг ffmpeg разбивает на кадры .png, второй рендеринг новых кадров где и ошибка недостатка видеопамяти.
Таким образом программа будет обрезать видео перед отправкой в нейронку. Обрезает с отступом, поэтому затраты идут и на него при рендеринге.
--
Для тех кто найдет вопрос, но будет иметь другую видеокарту:
8GB of VRAM :
-1080p : 540~640 / 200
-720p : 360~640 / 200
-640p and below : no need

6GB of VRAM :
-1080p : 384 / 150
-720p : 360 / 150
-480p: No need

4GB of VRAM :
-1080p : ??????
-720p : 360~384 / 100
-480p: 480 / 150
-360p: No need

Vram estimates when not using the frame splitter nor half precision (0.39 and above) :
360p Uses 2 to 4 GB VRAM
480p Uses 5 to 6 GB VRAM
720p Uses 10~11 GB VRAM
1080p Uses 18~19 GB VRAM