Klingt nach klassischem 'Tearing'. Tritt ohne Compositing immer auf, da kein VSync (sync to VBlank) zur Verfügung steht. XRender kann das auch nicht. Normalerweise kann das unter Xorg nur mit GL-Compositing behoben werden oder zumindest auf das Mindeste reduziert werden.
Erst mit voller Wayland-Unterstützung wird man wohl noch die letzten Rendering-Fehler (Flackern etc.) ausmerzen können. Bei Xorg ist das mit dem GL-Compositing eher eine riesen Flickschusterei mit zig Workarounds auf einer Grundlage, die nie für ein so perfektes Rendering konzipiert wurde.

Seit Jahren bereiten mir Flackern, Tearing und 60fps unter Linux mit einer Nvidia-Karte Probleme. Jeder GL-Compositor (Kwin, Gnome/Mutter, Compton etc.) hat seine Stärken und Schwächen. Wo es bei dem einen flackert, rendert der andere tadellos, hat aber woanders wieder Rendering-Fehler...