Project

General

Profile

Actions

Bug #4034

closed

format() の %a 指定子での丸めが常に零方向になっている

Added by tadf (tadayoshi funaba) about 14 years ago. Updated over 13 years ago.

Status:
Closed
Assignee:
-
Target version:
-
ruby -v:
ruby 1.9.3dev (2010-11-07 trunk 29711) [i686-linux]
Backport:
[ruby-dev:42551]

Description

=begin
format() の %a 指定子での丸めが常に零方向になっている。

format('%.0a', Float('0x1.fp+1')) #=> "0x1.p+1"
format('%.1a', Float('-0x1.ffp+1')) #=> "-0x1.fp+1"

これは %f などでの丸めかたとも違います。

format('%.0f', 2.9) #=> "3"
format('%.1f', -2.99) #=> "-3.0"
=end

Actions #1

Updated by naruse (Yui NARUSE) about 14 years ago

=begin
あれ、以下で確認したんですが再現しません。
ruby 1.9.3dev (2010-11-08 trunk 29719) [x86_64-linux]
ruby 1.9.3dev (2010-11-08 trunk 29719) [x86_64-freebsd8.1]
現状で期待通りの出力になっていると思うのですが、再度確認いただけますか。

irb(main):001:0> format('%.0a', Float('0x1.fp+1')) #=> "0x1.p+1"
=> "0x1.p+2"
irb(main):002:0> format('%.1a', Float('-0x1.ffp+1')) #=> "-0x1.fp+1"
=> "-0x1.0p+2"
irb(main):003:0> RUBY_REVISION
=> 29719
=end

Actions #2

Updated by tadf (tadayoshi funaba) about 14 years ago

=begin

あれ、以下で確認したんですが再現しません。
ruby 1.9.3dev (2010-11-08 trunk 29719) [x86_64-linux]
ruby 1.9.3dev (2010-11-08 trunk 29719) [x86_64-freebsd8.1]
現状で期待通りの出力になっていると思うのですが、再度確認いただけますか。

報告の通りです。

main@193-20101107> format('%.0a', Float('0x1.fp+1'))
#=> "0x1.p+1"
main@193-20101107> format('%.1a', Float('-0x1.ffp+1'))
#=> "-0x1.fp+1"
main@193-20101107> RUBY_REVISION
#=> 29711

=end

Actions #3

Updated by naruse (Yui NARUSE) about 14 years ago

=begin
あ、わかった、x86のFPUか。
i686-linuxで-O2だと再現しますね、どうしたもんかなぁ、WONTFIX気味です。
=end

Actions #4

Updated by naruse (Yui NARUSE) about 14 years ago

  • Priority changed from Normal to 3

=begin

=end

Actions #5

Updated by naruse (Yui NARUSE) about 14 years ago

  • Status changed from Open to Closed
  • % Done changed from 0 to 100

=begin
This issue was solved with changeset r29729.
tadayoshi, thank you for reporting this issue.
Your contribution to Ruby is greatly appreciated.
May Ruby be with you.

=end

Actions

Also available in: Atom PDF

Like0
Like0Like0Like0Like0Like0