Skip to content

Commit

Permalink
Add test for GB18030 encoding
Browse files Browse the repository at this point in the history
  • Loading branch information
ZhongnianTao committed Aug 23, 2019
1 parent 1f526ef commit 1f7877a
Show file tree
Hide file tree
Showing 4 changed files with 39 additions and 0 deletions.
30 changes: 30 additions & 0 deletions S32-str/gb18030-encode-decode.t
@@ -0,0 +1,30 @@
use Test;
plan 5;

{
my $test-folder = "S32-str".IO.d ?? "S32-str" !! "t/spec/S32-str";
$test-folder ~= "/text-samples";
my $fh = open "$test-folder/gb18030_sample_in_gb18030.txt", :r;
$fh.encoding('gb18030');
is-deeply $fh.slurp, "$test-folder/gb18030_sample_in_utf8.txt".IO.slurp, "Testing decodestream";
$fh.close;
}

my @values_gb18030 = 27988, 38451, 27743, 22836, 22812, 10, 175, 426, 51981, 36684, 55172, 54, 100, 55107;
my @keys_gb18030 = 228, 177, 209, 244, 189, 173, 205, 183, 210, 185, 10, 129, 48, 133, 52, 129, 48, 156, 48, 131, 51, 246, 52, 222, 71, 131, 54, 187, 53, 54, 100, 131, 54, 181, 48;

run_test @values_gb18030, @keys_gb18030, 'gb18030';

is-deeply "盼望着,盼望着,东风来了,春天的脚步近了。".encode('gb18030', :replacement('ABCD')).decode('gb18030'), "ABCD盼望着,盼望着,东风来了,ABCD春天的脚步近了。", "Encode with replacement works with more than one char replacements";

is-deeply "∢盼望着,盼望着,东风来了,㌳春天的脚步近了。".encode('gb18030', :replacement("(未知字符!∢)")).decode('gb18030'), "(未知字符!∢)∢盼望着,盼望着,东风来了,(未知字符!∢)㌳春天的脚步近了。", "Encode with replacement works with gb18030 character replacements";

sub test_encode (@values, @keys, $encoding) {
my $chrs = @values.chrs;
my $buf = $chrs.encode($encoding);
is $buf.list, @keys.list, "Test encoding from Unicode to $encoding";
}
sub run_test (@values, @keys, $encoding) {
test_encode @values, @keys, $encoding;
is-deeply Buf.new(@keys).decode($encoding), @values.chrs, "Test decoding from $encoding to Unicode";
}
4 changes: 4 additions & 0 deletions S32-str/text-samples/gb18030_sample_in_gb18030.txt
@@ -0,0 +1,4 @@
�����ͷҹ�Ϳͣ���Ҷݶ����ɪɪ�������������ڴ����پ������޹��ҡ� �����ɻ��ҽ��𣬱�ʱãã�����¡�����ˮ������������������Ͳ����� Ѱ�����ʵ���˭��������ͣ����١��ƴ��������������ƻص��ؿ��硣 ǧ����ʼ�������̱����ð����档ת�Ღ����������δ�����������顣 ������������˼������ƽ������־����ü������������˵�����������¡� ��£����Ĩ��������Ϊ���Ѻ����ۡ����������缱�꣬С��������˽� �������д��ӵ�������С�������̡����ݺ�ﻨ�׻�������Ȫ�������ѡ� ��Ȫ��ɬ��������������ͨ����Ъ�������ij��������ʱ����ʤ������ ��ƿէ��ˮ���ţ�����ͻ����ǹ���������ղ����Ļ�������һ�����Ѳ��� �������������ԣ�Ω���������°ס������Ų������У��������������ݡ� ���Ա��Ǿ���Ů������Ϻ�����ס��ʮ��ѧ�����óɣ������̷���һ���� ���������Ʋŷ���ױ��ÿ������ʡ�������������ͷ��һ����篲�֪���� ��ͷ���������飬Ѫɫ��ȹ�����ۡ����껶Ц�����꣬���´�����жȡ� ���ߴӾ���������ĺȥ������ɫ�ʡ���ǰ���䳵��ϡ���ϴ�������˸��� ������������룬ǰ�¸������ȥ��ȥ��������մ����ƴ�������ˮ���� ҹ����������£������ױ�����ɡ�����������̾Ϣ�����Ŵ��������� ͬ�����������ˣ����α�����ʶ���Ҵ�ȥ��ǵ۾����ؾ��Բ�����ǡ� �����Ƨ�����֣����겻��˿������ס���Գǵص�ʪ����«������լ���� ��䵩ĺ�ź���ž���ѪԳ������������������ҹ������ȡ�ƻ����㡣 ����ɽ�����ѣ�Ż�Ƴ�����Ϊ������ҹ�ž�������������ֶ������� Ī�Ǹ�����һ����Ϊ�����������С����Ҵ�����������ȴ��������ת���� ���಻����ǰ�����������Ž���������������˭��ࣿ����˾������ʪ��
��ɪ�޶���ʮ�ң�һ��һ��˼���ꡣׯ�������Ժ��������۴����жž顣�׺����������ᣬ������ů�����̡�����ɴ���׷�䣬ֻ�ǵ�ʱ���Ȼ��
������������վ6��12����Ϣ���������й�����2019��5�½���ͳ�����ݱ�����ʾ��5��ĩ���������(M2)���189.12����Ԫ,ͬ������8.5%������������ĩ��ƽ��������ͬ�ڸ�0.2���ٷֵ㡣5�·�����Ҵ�������1.18����Ԫ��ͬ�ȶ���313��Ԫ��
�0�4�0�0�3�4�G�6�56d�6�0
4 changes: 4 additions & 0 deletions S32-str/text-samples/gb18030_sample_in_utf8.txt
@@ -0,0 +1,4 @@
浔阳江头夜送客,枫叶荻花秋瑟瑟。主人下马客在船,举酒欲饮无管弦。 醉不成欢惨将别,别时茫茫江浸月。忽闻水上琵琶声,主人忘归客不发。 寻声暗问弹者谁?琵琶声停欲语迟。移船相近邀相见,添酒回灯重开宴。 千呼万唤始出来,犹抱琵琶半遮面。转轴拨弦三两声,未成曲调先有情。 弦弦掩抑声声思,似诉平生不得志。低眉信手续续弹,说尽心中无限事。 轻拢慢捻抹复挑,初为霓裳后六幺。大弦嘈嘈如急雨,小弦切切如私语。 嘈嘈切切错杂弹,大珠小珠落玉盘。间关莺语花底滑,幽咽泉流冰下难。 冰泉冷涩弦凝绝,凝绝不通声渐歇。别有幽愁暗恨生,此时无声胜有声。 银瓶乍破水浆迸,铁骑突出刀枪鸣。曲终收拨当心画,四弦一声如裂帛。 东船西舫悄无言,惟见江心秋月白。沉吟放拨插弦中,整顿衣裳起敛容。 自言本是京城女,家在虾蟆陵下住。十三学得琵琶成,名属教坊第一部。 曲罢曾教善才服,妆成每被秋娘妒。武陵年少争缠头,一曲红绡不知数。 钿头银篦击节碎,血色罗裙翻酒污。今年欢笑复明年,秋月春风等闲度。 弟走从军阿姨死,暮去朝来颜色故。门前冷落车马稀,老大嫁作商人妇。 商人重利轻别离,前月浮梁买茶去。去来江口求空船,绕船月明江水寒。 夜深忽梦少年事,梦啼红妆泪阑干。我闻琵琶已叹息,又闻此语重唧唧。 同是天涯沦落人,相逢何必曾相识。我从去岁辞帝京,谪居卧病浔阳城。 浔阳地僻无音乐,终岁不闻丝竹声。住近湓城地低湿,黄芦苦竹绕宅生。 其间旦暮闻何物?杜鹃啼血猿哀鸣。春江花朝秋月夜,往往取酒还独倾。 岂无山歌与村笛?呕哑嘲哳难为听。今夜闻君琵琶语,如听仙乐耳暂明。 莫辞更坐弹一曲,为君翻作琵琶行。感我此言良久立,却坐促弦弦转急。 凄凄不似向前声,满座重闻皆掩泣。座中泣下谁最多?江州司马青衫湿。
锦瑟无端五十弦,一弦一柱思华年。庄生晓梦迷蝴蝶,望帝春心托杜鹃。沧海月明珠有泪,蓝田日暖玉生烟。此情可待成追忆,只是当时已惘然。
据人民银行网站6月12日消息,人民银行公布的2019年5月金融统计数据报告显示,5月末,广义货币(M2)余额189.12万亿元,同比增长8.5%,增速与上月末持平,比上年同期高0.2个百分点。5月份人民币贷款增加1.18万亿元,同比多增313亿元。
¯ƪ쬍轌힄6d흃
1 change: 1 addition & 0 deletions spectest.data
Expand Up @@ -1175,6 +1175,7 @@ S32-str/ends-with.t
S32-str/fc.t # moar
S32-str/flip.t
S32-str/gb2312-encode-decode.t
S32-str/gb18030-encode-decode.t
S32-str/indent.t
S32-str/index.t
S32-str/indices.t
Expand Down

0 comments on commit 1f7877a

Please sign in to comment.