stdlib: Fix signedness issue in memcmp()
authordp-arm <dimitris.papastamos@arm.com>
Tue, 6 Dec 2016 15:20:25 +0000 (15:20 +0000)
committerdp-arm <dimitris.papastamos@arm.com>
Tue, 13 Dec 2016 11:16:31 +0000 (11:16 +0000)
commitafc03aebd37b050e1820ba3a4061605d15970577
treeb0c739f4dd7f9f596c45496b196dda07da2e3a59
parent919ad05ecb8fab23f91a37783dc5f246847c7bd2
stdlib: Fix signedness issue in memcmp()

There is no guarantee on the signedness of char.  It can be either
signed or unsigned.  On ARM it is unsigned and hence this memcmp()
implementation works as intended.

On other machines, char can be signed (x86 for example).  In that case
(and assuming a 2's complement implementation), interpreting a
bit-pattern of 0xFF as signed char can yield -1.  If *s1 is 0 and *s2
is 255 then the difference *s1 - *s2 should be negative.  The C
integer promotion rules guarantee that the unsigned chars will be
converted to int before the operation takes place.  The current
implementation will return a positive value (0 - (-1)) instead, which
is wrong.

Fix it by changing the signedness to unsigned to avoid surprises for
anyone using this code on non-ARM systems.

Change-Id: Ie222fcaa7c0c4272d7a521a6f2f51995fd5130cc
Signed-off-by: dp-arm <dimitris.papastamos@arm.com>
lib/stdlib/mem.c