что посоветуешь почитать? я понимаю, что такое вершинный шейдер, но почему-то думал можно во фрагментном все настроить, не подгоняя сам вершинный шейдер
https://medium.com/@TheGeekiestOne/opengl-introduction-to-the-pipeline-glut-85c9c05fb76cтебе в любом случае нужно понять, что геометрия должна быть создана. передашь ты ее или в вершинном шейдере для каждой вершины ручками задашь координаты, например из массива или прочтешь из текстуры, но геометрия должна быть.
Количество вершин, которое ты отправляешь на отрисовку задается каким-нибудь вызовом glDraw*, например
glDrawArrays(GL_TRIANGLES, 0, 3);
Твои координаты на выходе из вершинного шейдера должны быть от -1 до 1.
Shadertoy с вершинным шейдером делает это за тебя. На этих ресурсах, куда ты пытался что-то перенести, делается немного по-другому.
Вверху я скинул ссылку, как проще всего (по факту и быстрее, но не суть) нарисовать квад на весь экран и работать с ним только в пиксельном шейдере.