Derzeit hat Wayland ein paar Probleme auf AMD gpus, ist mir auch passiert.

Fix:
Im Anmeldebildschirm wenn du dein Passwort eingibst klick das kleine Rädchen und statt "GNOME" wähl "Gnome auf Xorg" aus. Sobald der Bug behoben ist solltest du es aber wieder umstellen.

(Wenn du kein passwort gesetzt hast google wie du wayland in gnome via config file ausmachst, anmeldung auf shell geht ja weiterhin via ctrl-alt-f3 ect.)

Nomodeset hilft dir hier überhaupt nicht.