Мне кажется лучше так:
Забыть про хексовый видеоадаптер - его фишка в том, что он помещается в 1й марсоход, но если из прочих проектов, выводящих изображение, убрать обращение к видеопамяти и оставить только формирование синхроимпульсов, то они тоже помещаются в младший марсоход. Зато у них исходники понятнее и параметры видеорежима действительно сделаны как параметры модуля.
Стартуйте с почти пустого проекта, убрав из него все лишнего, но
Добавьте DDS - потому что у Вас нет PLL, а pixelclock может понадобиться разный
По сути у Вас должно получиться просто два счетчика и куча сравнений (компараторов) значений этих счетчиков с некими константами, определяющими моменты строчных и кадровых синхроимпульсов и сбросов счетчиков. Потом добавьте сравнения с константами, которые бы определяли включение/выключение каких-то уровней напряжения видеосигнала, чтобы вывести бордюр, рамку, еще какой-нибудь прямоугольник.
P.S. разумеется, это я про вывод на монитор, а не на телевизор - чтобы не отвлекаться на уровни сигналов и синхросмесь по-началу
