Project

General

Profile

Actions

Bug #5469

closed

Bus Error when accessing NAN and INFINITY

Added by ngoto (Naohisa Goto) over 12 years ago. Updated over 12 years ago.

Status:
Closed
Target version:
ruby -v:
-
Backport:
[ruby-dev:44657]

Description

現在、INFINITYやNANが処理系で定義されていない場合、numeric.c 内の以下の変数を使います。
const unsigned char rb_infinity[] = "\x00\x00\x80\x7f";
const unsigned char rb_nan[] = "\x00\x00\xc0\x7f";
(上記はlittle endianの場合のみピックアップ)
しかし、この記述はワード境界のアラインメントを一切考慮していないため、
処理系とCPUアーキテクチャの組み合わせによっては、Bus Error が出ます。
具体的には、Sparc Solaris 10 上の Fujitsu C Compiler 5.6 で作成すると Bus Error が出ました。

以下のパッチのように共用体にすると大丈夫でした。
ただしバイナリ互換性は保たれなくなる気がします。

同じ記述は 1.9.3 にもありますが、メジャーな環境では起きていないようなので、バックポートする必要はないと思います。

===================================================================
--- include/ruby/missing.h (revision 33498)
+++ include/ruby/missing.h (working copy)
@@ -124,20 +124,27 @@
RUBY_EXTERN double cbrt(double);
#endif

+#if !defined(INFINITY) || !defined(NAN)
+union bytestream4_or_float {

  • unsigned char stream[4];
  • float float_value;
    +};
    +#endif

#ifdef INFINITY

define HAVE_INFINITY

#else
/** @internal /
-RUBY_EXTERN const unsigned char rb_infinity[];
-# define INFINITY (
(float *)rb_infinity)
+RUBY_EXTERN const union bytestream4_or_float rb_infinity;
+# define INFINITY (rb_infinity.float_value)
#endif

#ifdef NAN

define HAVE_NAN

#else
/** @internal /
-RUBY_EXTERN const unsigned char rb_nan[];
-# define NAN (
(float *)rb_nan)
+RUBY_EXTERN const union bytestream4_or_float rb_nan;
+# define NAN (rb_nan.float_value)
#endif

#ifndef isinf
Index: numeric.c

--- numeric.c (revision 33498)
+++ numeric.c (working copy)
@@ -66,16 +66,16 @@

#ifdef HAVE_INFINITY
#elif !defined(WORDS_BIGENDIAN) /* BYTE_ORDER == LITTLE_ENDIAN */
-const unsigned char rb_infinity[] = "\x00\x00\x80\x7f";
+const union bytestream4_or_float rb_infinity = { 0x00, 0x00, 0x80, 0x7f };
#else
-const unsigned char rb_infinity[] = "\x7f\x80\x00\x00";
+const union bytestream4_or_float rb_infinity = { 0x7f, 0x80, 0x00, 0x00 };
#endif

#ifdef HAVE_NAN
#elif !defined(WORDS_BIGENDIAN) /* BYTE_ORDER == LITTLE_ENDIAN */
-const unsigned char rb_nan[] = "\x00\x00\xc0\x7f";
+const union bytestream4_or_float rb_nan = { 0x00, 0x00, 0xc0, 0x7f };
#else
-const unsigned char rb_nan[] = "\x7f\xc0\x00\x00";
+const union bytestream4_or_float rb_nan = { 0x7f, 0xc0, 0x00, 0x00 };
#endif

#ifndef HAVE_ROUND


Files

20111021-infinity-nan.patch (1.77 KB) 20111021-infinity-nan.patch ngoto (Naohisa Goto), 10/21/2011 01:24 PM
Actions

Also available in: Atom PDF

Like0
Like0Like0Like0