Bug #5469: Bus Error when accessing NAN and INFINITY

• Status: Closed
• Assignee: ngoto (Naohisa Goto)
• Target version: 3.0
• ruby -v: -

[ngoto (Naohisa Goto)]

現在、INFINITYやNANが処理系で定義されていない場合、numeric.c 内の以下の変数を使います。
const unsigned char rb_infinity[] = "\x00\x00\x80\x7f";
const unsigned char rb_nan[] = "\x00\x00\xc0\x7f";
(上記はlittle endianの場合のみピックアップ)
しかし、この記述はワード境界のアラインメントを一切考慮していないため、
処理系とCPUアーキテクチャの組み合わせによっては、Bus Error が出ます。
具体的には、Sparc Solaris 10 上の Fujitsu C Compiler 5.6 で作成すると Bus Error が出ました。

以下のパッチのように共用体にすると大丈夫でした。
ただしバイナリ互換性は保たれなくなる気がします。

同じ記述は 1.9.3 にもありますが、メジャーな環境では起きていないようなので、バックポートする必要はないと思います。

===================================================================
--- include/ruby/missing.h (revision 33498)
+++ include/ruby/missing.h (working copy)
@@ -124,20 +124,27 @@
RUBY_EXTERN double cbrt(double);
#endif

+#if !defined(INFINITY) || !defined(NAN)
+union bytestream4_or_float {

• unsigned char stream[4];
• float float_value;
  +};
  +#endif

#ifdef INFINITY

define HAVE_INFINITY

#else
/** @internal /
-RUBY_EXTERN const unsigned char rb_infinity[];
-# define INFINITY ((float *)rb_infinity)
+RUBY_EXTERN const union bytestream4_or_float rb_infinity;
+# define INFINITY (rb_infinity.float_value)
#endif

#ifdef NAN

define HAVE_NAN

#else
/** @internal /
-RUBY_EXTERN const unsigned char rb_nan[];
-# define NAN ((float *)rb_nan)
+RUBY_EXTERN const union bytestream4_or_float rb_nan;
+# define NAN (rb_nan.float_value)
#endif

#ifndef isinf
Index: numeric.c

--- numeric.c (revision 33498)
+++ numeric.c (working copy)
@@ -66,16 +66,16 @@

#ifdef HAVE_INFINITY
#elif !defined(WORDS_BIGENDIAN) /* BYTE_ORDER == LITTLE_ENDIAN */
-const unsigned char rb_infinity[] = "\x00\x00\x80\x7f";
+const union bytestream4_or_float rb_infinity = { 0x00, 0x00, 0x80, 0x7f };
#else
-const unsigned char rb_infinity[] = "\x7f\x80\x00\x00";
+const union bytestream4_or_float rb_infinity = { 0x7f, 0x80, 0x00, 0x00 };
#endif

#ifdef HAVE_NAN
#elif !defined(WORDS_BIGENDIAN) /* BYTE_ORDER == LITTLE_ENDIAN */
-const unsigned char rb_nan[] = "\x00\x00\xc0\x7f";
+const union bytestream4_or_float rb_nan = { 0x00, 0x00, 0xc0, 0x7f };
#else
-const unsigned char rb_nan[] = "\x7f\xc0\x00\x00";
+const union bytestream4_or_float rb_nan = { 0x7f, 0xc0, 0x00, 0x00 };
#endif

#ifndef HAVE_ROUND

[nobu (Nobuyoshi Nakada)]

• Category set to core
• Status changed from Open to Assigned
• Assignee set to ngoto (Naohisa Goto)
• Target version set to 3.0

バイナリ互換性は問題ないんじゃないでしょうか。

ただ、streamはunion中の配列なので{}が足りない気がします。

streamという名前はちょっと違和感ありますが。

[mrkn (Kenta Murata)]

stream より sequence でしょうかね。

[ngoto (Naohisa Goto)]

• Status changed from Assigned to Closed
• % Done changed from 0 to 100

This issue was solved with changeset r33502.
Naohisa, thank you for reporting this issue.
Your contribution to Ruby is greatly appreciated.
May Ruby be with you.

---

• numeric.c (rb_infinity, rb_nan): use union to prevent bus error
  caused by misalignment. [Bug #5469] [ruby-dev:44657]
• include/ruby/missing.h (INFINITY, NAN): ditto