Feature #6767

Utility method to get a duplicated string whose encoding is ASCII-8BIT

Added by Yui NARUSE almost 2 years ago. Updated over 1 year ago.

[ruby-dev:45992]
Status:Closed
Priority:Normal
Assignee:Yui NARUSE
Category:core
Target version:2.0.0

Description

ある String を ASCII-8BIT にしたいことはしばしばあります。
それだけならばまだ forceencoding しろよという話なのですが、
#6361 の例のように、バイナリ文字列にさらにバイナリ文字列を結合していく場合、
毎行毎行 force
encoding を書いていくのにはつらいものがあります。

解決案としては、
(1) バイナリリテラルの導入
(2) dup.forceencoding(Encoding::ASCII8BIT) する短いメソッドを追加
(3) ASCII-8BIT に他のエンコーディングの文字列を結合した場合は暗黙に force_encoding
が考えられます。

しかし、(1) は文法拡張なのでハードルが高く、(3) は方々で議論になっている通りです。
よって、(2) が妥当ではないかと思います。

名前をまつもとさん提案の String#b としたパッチを以下の通り添付します。

diff --git a/string.c b/string.c
index d038835..76cbc36 100644
--- a/string.c
+++ b/string.c
@@ -601,7 +601,7 @@ rbstrexporttoenc(VALUE str, rb_encoding *enc)
}

static VALUE
-strreplaceshared(VALUE str2, VALUE str)
+strreplacesharedwithoutenc(VALUE str2, VALUE str)
{
if (RSTRINGLEN(str) <= RSTRINGEMBEDLENMAX) {
STRSETEMBED(str2);
@@ -616,8 +616,14 @@ strreplaceshared(VALUE str2, VALUE str)
RSTRING(str2)->as.heap.aux.shared = str;
FLSET(str2, ELTSSHARED);
}
- rbenccrstrexact_copy(str2, str);
+ return str2;
+}

+static VALUE
+strreplaceshared(VALUE str2, VALUE str)
+{
+ strreplacesharedwithoutenc(str2, str);
+ rbenccrstrexact_copy(str2, str);
return str2;
}

@@ -7340,6 +7346,23 @@ rbstrforce_encoding(VALUE str, VALUE enc)

/*
* call-seq:
+ * str.b -> str
+ *
+ * Returns a copied string whose encoding is ASCII-8BIT.
+ /
+
+static VALUE
+rbstrb(VALUE str)
+{
+ VALUE str2 = stralloc(rbcString);
+ strreplacesharedwithoutenc(str2, str);
+ OBJINFECT(str2, str);
+ ENC
CODERANGESET(str2, ENCCODERANGE_VALID);
+ return str2;
+}
+
+/

+ * call-seq:
* str.validencoding? -> true or false
*
* Returns true for a string which encoded correctly.
@@ -7969,6 +7992,7 @@ Init
String(void)

 rb_define_method(rb_cString, "encoding", rb_obj_encoding, 0); /* in encoding.c */
 rb_define_method(rb_cString, "force_encoding", rb_str_force_encoding, 1);
  • rbdefinemethod(rbcString, "b", rbstrb, 0); rbdefinemethod(rbcString, "validencoding?", rbstrvalidencodingp, 0); rbdefinemethod(rbcString, "asciionly?", rbstrisasciionlyp, 0);

diff --git a/test/ruby/testm17n.rb b/test/ruby/testm17n.rb
index dfcaa94..3a4bca7 100644
--- a/test/ruby/testm17n.rb
+++ b/test/ruby/test
m17n.rb
@@ -1469,4 +1469,14 @@ class TestM17N < Test::Unit::TestCase
yield(*strs)
end
end
+
+ def teststrb
+ s = "\u3042"
+ assertequal(a("\xE3\x81\x82"), s.b)
+ assert
equal(Encoding::ASCII8BIT, s.b.encoding)
+ s.taint
+ assert
equal(true, s.b.tainted?)
+ s.untrust
+ assert_equal(true, s.b.untrusted?)
+ end
end


Related issues

Related to ruby-trunk - Feature #6361: Bitwise string operations Rejected 04/26/2012

Associated revisions

Revision 37486
Added by Yui NARUSE over 1 year ago

  • string.c (rbstrb): Add String#b, returning a copied string whose encoding is ASCII-8BIT. [Feature #6767]

History

#1 Updated by Martin Dürst almost 2 years ago

naruse (Yui NARUSE) wrote:

ある String を ASCII-8BIT にしたいことはしばしばあります。
それだけならばまだ forceencoding しろよという話なのですが、
#6361 の例のように、バイナリ文字列にさらにバイナリ文字列を結合していく場合、
毎行毎行 force
encoding を書いていくのにはつらいものがあります。

解決案としては、
(1) バイナリリテラルの導入

encoding: UTF-8

の場合、\xAB とかが String リテラルに出てきたらその文字列を binary とみなすのは将来的にありかと思います。まだ UTF-8 以外のソースも結構ある間には早すぎるかと思います。

(2) dup.forceencoding(Encoding::ASCII8BIT) する短いメソッドを追加

そもぞも forceencoding は forceencoding! にすべきでしたのではないかとなんか今反省したことがあります。
そうすると dup.forceencoding を forceencoding にできます。まあ、これでも大して短くならないけど。

(3) ASCII-8BIT に他のエンコーディングの文字列を結合した場合は暗黙に force_encoding
が考えられます。

これはたった一つの演算にしか対応できないですよね。

しかし、(1) は文法拡張なのでハードルが高く、(3) は方々で議論になっている通りです。
よって、(2) が妥当ではないかと思います。

名前をまつもとさん提案の String#b としたパッチを以下の通り添付します。

b はさすがに短すぎるのではないかと思います。せめて binary にしたらどうでしょうか。

本当に binary で操作したい場合にはいいです。しかし、「簡単にプログラムを書きたい」けど、色々の文字は全然考えてない、たまたま手元では動く、ということもありますので、あまり頭を使いたくない、または国際化をあまり意識しないプログラマでもできる限り分かりやすいようにした方がいいかと思います。

#2 Updated by Yui NARUSE over 1 year ago

duerst (Martin Dürst) wrote:

naruse (Yui NARUSE) wrote:

名前をまつもとさん提案の String#b としたパッチを以下の通り添付します。

b はさすがに短すぎるのではないかと思います。せめて binary にしたらどうでしょうか。

本当に binary で操作したい場合にはいいです。しかし、「簡単にプログラムを書きたい」けど、色々の文字は全然考えてない、たまたま手元では動く、ということもありますので、あまり頭を使いたくない、または国際化をあまり意識しないプログラマでもできる限り分かりやすいようにした方がいいかと思います。

binary だと binary を期待させすぎて良くないように思います。
また、リテラルくらい楽に書きたいという観点からしても .b の短さは合理的です。
名前空間の消費的にも、Stringなど組み込みクラスを継承して別のクラスを作るのは一般に危険な行為なので、
問題ないように思います。
これの使いやすさは個人的にはちょうど .irbrc にまったく同じ挙動をするメソッド追加していて、
かれこれ数年ほど便利に使ってたりします。

#3 Updated by Martin Dürst over 1 year ago

naruse (Yui NARUSE) wrote:

また、リテラルくらい楽に書きたいという観点からしても .b の短さは合理的です。

リテラルらしくはわからりますが、それでしたら思い切って本当のリテラルにした方がいいのではないかと思います。

成瀬さんには短くて便利で使っていただくのは全く問題ないですが、一般の方には「.b を付ければ問題が解決する」風潮 (ようするに、文字コードはわからないがとりあえず適当になにかやってしまう) を広げたくないです。

#4 Updated by Yui NARUSE over 1 year ago

duerst (Martin Dürst) wrote:

naruse (Yui NARUSE) wrote:

また、リテラルくらい楽に書きたいという観点からしても .b の短さは合理的です。

リテラルらしくはわからりますが、それでしたら思い切って本当のリテラルにした方がいいのではないかと思います。

リテラルだと文法が変わるので、過去のバージョンで読めなくなります。
一方、メソッドならば自分で定義すれば簡単に語感レイヤーを作ることができます。
これが「ハードルが高い」という意味です。

成瀬さんには短くて便利で使っていただくのは全く問題ないですが、一般の方には「.b を付ければ問題が解決する」風潮 (ようするに、文字コードはわからないがとりあえず適当になにかやってしまう) を広げたくないです。

そのような一般の人はおそらくRailsを用いるであろうところ、Railsなら通常.bをつけなくても問題ないですし、
問題が起きるような場所ではとりあえず.bをつけたからと言って問題は解決しないだろうので、
(たぶんforce_encoding("UTF-8")しない限り他の場所でエラーが上がるだけ)
そのようなことにはならないと思います。

#5 Updated by Yukihiro Matsumoto over 1 year ago

  • Assignee changed from Yukihiro Matsumoto to Yui NARUSE

OK to check in.

Matz.

#6 Updated by Yui NARUSE over 1 year ago

  • Status changed from Assigned to Closed
  • % Done changed from 0 to 100

This issue was solved with changeset r37486.
Yui, thank you for reporting this issue.
Your contribution to Ruby is greatly appreciated.
May Ruby be with you.


  • string.c (rbstrb): Add String#b, returning a copied string whose encoding is ASCII-8BIT. [Feature #6767]

Also available in: Atom PDF