Project

General

Profile

Bug #1967

Segmentation fault at test_qsort1 and test_qsort2 in test/dl/test_func.rb running on sparc-solaris-2.10

Added by ngoto (Naohisa Goto) about 11 years ago. Updated over 9 years ago.

Status:
Rejected
Priority:
Normal
Target version:
ruby -v:
ruby 1.9.2dev (2009-08-19) [sparc-solaris2.10]
Backport:
[ruby-dev:39146]

Description

=begin
sparc-solaris-2.10 で 64ビットコンパイルした場合、
make check が test/dl/test_func.rb の test_qsort1 にて
Segmentation fault になります。

原因は、引数の型でした。
void qsort(void *base, size_t nmemb, size_t size,
int(*compar)(const void *, const void *));
の size_t 型の引数 nmenb および size に対して TYPE_INT が指定されていますが、
size_t は 64ビット環境では unsigned long になるため、特にsparc v9 のような
ビッグエンディアンの環境では異常な数値が qsort の引数に渡るのが原因でした。

TYPE_INT を TYPE_LONG に変更した以下のパッチで直りました。
(TYPE_SIZE_T は存在しない?)

Index: test/dl/test_func.rb
===================================================================
--- test/dl/test_func.rb (revision 24582)
+++ test/dl/test_func.rb (working copy)
@@ -43,7 +43,7 @@
cb = Function.new(CFunc.new(0, TYPE_INT, 'qsort'),
[TYPE_VOIDP, TYPE_VOIDP]){|x,y| CPtr.new(x)[0] <=> CPtr.new(y)[0]}
qsort = Function.new(CFunc.new(libc (Eugene Pimenov)['qsort'], TYPE_VOID, 'qsort'),

  • [TYPE_VOIDP, TYPE_INT, TYPE_INT, TYPE_VOIDP])
  • [TYPE_VOIDP, TYPE_LONG, TYPE_LONG, TYPE_VOIDP]) buff = "9341" qsort.call(buff, buff.size, 1, cb) assert_equal("1349", buff) @@ -53,7 +53,7 @@ cb = TempFunction.new(CFunc.new(0, TYPE_INT, 'qsort'), [TYPE_VOIDP, TYPE_VOIDP]) qsort = Function.new(CFunc.new(libc (Eugene Pimenov)['qsort'], TYPE_VOID, 'qsort'),
  • [TYPE_VOIDP, TYPE_INT, TYPE_INT, TYPE_VOIDP])
  • [TYPE_VOIDP, TYPE_LONG, TYPE_LONG, TYPE_VOIDP]) buff = "9341" qsort.call(buff, buff.size, 1, cb){|x,y| CPtr.new(x)[0] <=> CPtr.new(y)[0]} assert_equal("1349", buff) =end

Related issues

Related to Ruby master - Bug #1977: test failed in test_isdigit in test/dl/test_func.rb on sparc-solaris-2.10 (64bit)Closedtenderlovemaking (Aaron Patterson)08/21/2009Actions
#1

Updated by yugui (Yuki Sonoda) about 11 years ago

  • Category set to ext
  • Status changed from Open to Assigned
  • Target version set to 1.9.2

=begin

=end

#2

Updated by mame (Yusuke Endoh) over 10 years ago

  • Assignee set to tenderlovemaking (Aaron Patterson)

=begin
アーロン宛です。
遠藤です。

dl に関するこのチケットをどう思いますか?
ffi に同じような問題はないですか?

dl はすでに x86_64 における API 設計上の問題が指摘されている [1] ので、
ffi に同じ問題がないのなら、この問題は WONTFIX でも構わないと思います。

# その場合、問題のテストを消すべきだろうか

[1] http://mkosaki.blog46.fc2.com/blog-entry-1069.html

--
Yusuke Endoh mame@tsg.ne.jp
=end

#3

Updated by mame (Yusuke Endoh) over 10 years ago

=begin
Hi, Aaron

Could you take a look at this ticket?

--
Yusuke Endoh mame@tsg.ne.jp
=end

#4

Updated by tenderlovemaking (Aaron Patterson) over 10 years ago

=begin
2010/4/27 Yusuke Endoh redmine@ruby-lang.org:

チケット #1967 が更新されました。 (by Yusuke Endoh)

担当者 Aaron Pattersonにセット

アーロン宛です。
遠藤です。

dl に関するこのチケットをどう思いますか?
ffi に同じような問題はないですか?

ffiは x86_64 をsupportしているので、ffi に同じような問題はないと思います。

dl はすでに x86_64 における API 設計上の問題が指摘されている [1] ので、
ffi に同じ問題がないのなら、この問題は WONTFIX でも構わないと思います。

この件のABI の翻訳はffi自身のタスクなので、このチケットはWONTFIXとしておいて、問題ないと思います。

その場合、問題のテストを消すべきだろうか

[1] http://mkosaki.blog46.fc2.com/blog-entry-1069.html

--

Yusuke Endoh mame@tsg.ne.jp

http://redmine.ruby-lang.org/issues/show/1967


http://redmine.ruby-lang.org

--
Aaron Patterson
http://tenderlovemaking.com/

=end

#5

Updated by mame (Yusuke Endoh) over 10 years ago

  • Status changed from Assigned to Rejected

=begin
遠藤です。

それでは、WONTFIX ということで閉じます。
64 ビット Solaris でテストをする場合は fiddle を使用してください。

--
Yusuke Endoh mame@tsg.ne.jp
=end

Also available in: Atom PDF