arm64: kpti: ensure patched kernel text is fetched from PoU
authorMark Rutland <mark.rutland@arm.com>
Tue, 27 Aug 2019 17:12:57 +0000 (18:12 +0100)
committerWill Deacon <will@kernel.org>
Wed, 28 Aug 2019 12:40:08 +0000 (13:40 +0100)
commitf32c7a8e45105bd0af76872bf6eef0438ff12fb2
tree37de1d22ad1df0e27d69aded29cdd333a5ed368e
parent6bfa3134bd3a185e98031c8a8dee18e82153df2d
arm64: kpti: ensure patched kernel text is fetched from PoU

While the MMUs is disabled, I-cache speculation can result in
instructions being fetched from the PoC. During boot we may patch
instructions (e.g. for alternatives and jump labels), and these may be
dirty at the PoU (and stale at the PoC).

Thus, while the MMU is disabled in the KPTI pagetable fixup code we may
load stale instructions into the I-cache, potentially leading to
subsequent crashes when executing regions of code which have been
modified at runtime.

Similarly to commit:

  8ec41987436d566f ("arm64: mm: ensure patched kernel text is fetched from PoU")

... we can invalidate the I-cache after enabling the MMU to prevent such
issues.

The KPTI pagetable fixup code itself should be clean to the PoC per the
boot protocol, so no maintenance is required for this code.

Signed-off-by: Mark Rutland <mark.rutland@arm.com>
Cc: Catalin Marinas <catalin.marinas@arm.com>
Reviewed-by: James Morse <james.morse@arm.com>
Signed-off-by: Will Deacon <will@kernel.org>
arch/arm64/mm/proc.S