Возможно ошибка в исходнике. Попробуй проблемные места в tiff секвенцию а из неё уже в h.264. Была похожая проблема в Premiere и Media Composer, этот рукожопый метод помог.
Sunset Overdrive
Через как именно записываешь? Захват с экрана через какую прогу? Или у тебя отдельный девайс который с выхода видеокарты пишет?
В чем записываешь и в чём рендеришь? И битрейт в 8 для 1080 слишком мало, ставь где-то 16-20, правда я CBR ставлю. И в премьере клацни use maximum render quality
Попробуй по этому гайду. У меня в целом нормально получается:
Чтобы написать коммент, необходимо залогиниться