Da diese Kombination ja nicht wirklich Wayland tauglich ist [...]

Also unter Ubuntu 17.10 kann man Wayland mit dem proprietären Nvidia-Treiber einsetzen. Es ist zwar experimentell, funktioniert aber. Wer aber zocken will, sollte fürs Erste auf Wayland verzichten.

Was AMD betrifft:

Nimm auf jeden Fall den OSS-Treiber. Der proprietäre Treiber unterstützt nur eine Handvoll Distributionen. Zudem entwickelt sich der freie Treiber rasant weiter und ist bis auf Vulkan deutlich schneller als der proprietäre Treiber.