drm: Don't unref the same fb many times by mistake due to deadlock handling
authorVille Syrjälä <ville.syrjala@linux.intel.com>
Mon, 11 Dec 2023 08:16:24 +0000 (10:16 +0200)
committerVille Syrjälä <ville.syrjala@linux.intel.com>
Sat, 23 Dec 2023 05:31:05 +0000 (07:31 +0200)
commitcb4daf271302d71a6b9a7c01bd0b6d76febd8f0c
treeef8e274b8c53adb8d0bfdfae3a6891a2e70216db
parent933a2a376fb3f22ba4774f74233571504ac56b02
drm: Don't unref the same fb many times by mistake due to deadlock handling

If we get a deadlock after the fb lookup in drm_mode_page_flip_ioctl()
we proceed to unref the fb and then retry the whole thing from the top.
But we forget to reset the fb pointer back to NULL, and so if we then
get another error during the retry, before the fb lookup, we proceed
the unref the same fb again without having gotten another reference.
The end result is that the fb will (eventually) end up being freed
while it's still in use.

Reset fb to NULL once we've unreffed it to avoid doing it again
until we've done another fb lookup.

This turned out to be pretty easy to hit on a DG2 when doing async
flips (and CONFIG_DEBUG_WW_MUTEX_SLOWPATH=y). The first symptom I
saw that drm_closefb() simply got stuck in a busy loop while walking
the framebuffer list. Fortunately I was able to convince it to oops
instead, and from there it was easier to track down the culprit.

Cc: stable@vger.kernel.org
Signed-off-by: Ville Syrjälä <ville.syrjala@linux.intel.com>
Link: https://patchwork.freedesktop.org/patch/msgid/20231211081625.25704-1-ville.syrjala@linux.intel.com
Acked-by: Javier Martinez Canillas <javierm@redhat.com>
drivers/gpu/drm/drm_plane.c