s390/ap: Fix hanging ioctl caused by orphaned replies
authorHarald Freudenberger <freude@linux.ibm.com>
Thu, 14 Oct 2021 07:58:24 +0000 (09:58 +0200)
committerVasily Gorbik <gor@linux.ibm.com>
Tue, 26 Oct 2021 13:21:27 +0000 (15:21 +0200)
commit3826350e6dd435e244eb6e47abad5a47c169ebc2
tree934ed73ae925d1854e90981f495e3375224dac99
parente7456f7adbaac0ec15a61b4b3a172cc4241ebb34
s390/ap: Fix hanging ioctl caused by orphaned replies

When a queue is switched to soft offline during heavy load and later
switched to soft online again and now used, it may be that the caller
is blocked forever in the ioctl call.

The failure occurs because there is a pending reply after the queue(s)
have been switched to offline. This orphaned reply is received when
the queue is switched to online and is accidentally counted for the
outstanding replies. So when there was a valid outstanding reply and
this orphaned reply is received it counts as the outstanding one thus
dropping the outstanding counter to 0. Voila, with this counter the
receive function is not called any more and the real outstanding reply
is never received (until another request comes in...) and the ioctl
blocks.

The fix is simple. However, instead of readjusting the counter when an
orphaned reply is detected, I check the queue status for not empty and
compare this to the outstanding counter. So if the queue is not empty
then the counter must not drop to 0 but at least have a value of 1.

Signed-off-by: Harald Freudenberger <freude@linux.ibm.com>
Cc: stable@vger.kernel.org
Signed-off-by: Vasily Gorbik <gor@linux.ibm.com>
drivers/s390/crypto/ap_queue.c