powerpc/64s: Add workaround for P9 vector CI load issue
authorMichael Neuling <mikey@neuling.org>
Fri, 15 Sep 2017 05:25:48 +0000 (15:25 +1000)
committerMichael Ellerman <mpe@ellerman.id.au>
Tue, 26 Sep 2017 22:23:22 +0000 (08:23 +1000)
commit5080332c2c893118dbc18755f35c8b0131cf0fc4
tree8c045081ddd230fc9c2e2477b29f0a27687cc4a9
parentb9fde58db7e5738cacb740b0ec547933fe314fbe
powerpc/64s: Add workaround for P9 vector CI load issue

POWER9 DD2.1 and earlier has an issue where some cache inhibited
vector load will return bad data. The workaround is two part, one
firmware/microcode part triggers HMI interrupts when hitting such
loads, the other part is this patch which then emulates the
instructions in Linux.

The affected instructions are limited to lxvd2x, lxvw4x, lxvb16x and
lxvh8x.

When an instruction triggers the HMI, all threads in the core will be
sent to the HMI handler, not just the one running the vector load.

In general, these spurious HMIs are detected by the emulation code and
we just return back to the running process. Unfortunately, if a
spurious interrupt occurs on a vector load that's to normal memory we
have no way to detect that it's spurious (unless we walk the page
tables, which is very expensive). In this case we emulate the load but
we need do so using a vector load itself to ensure 128bit atomicity is
preserved.

Some additional debugfs emulated instruction counters are added also.

Signed-off-by: Michael Neuling <mikey@neuling.org>
Signed-off-by: Benjamin Herrenschmidt <benh@kernel.crashing.org>
[mpe: Switch CONFIG_PPC_BOOK3S_64 to CONFIG_VSX to unbreak the build]
Signed-off-by: Michael Ellerman <mpe@ellerman.id.au>
arch/powerpc/include/asm/emulated_ops.h
arch/powerpc/include/asm/paca.h
arch/powerpc/include/asm/uaccess.h
arch/powerpc/kernel/exceptions-64s.S
arch/powerpc/kernel/mce.c
arch/powerpc/kernel/traps.c
arch/powerpc/platforms/powernv/smp.c