comparison test/gxco2.ijs @ 0:e0bbaa717f41 draft default tip

lol J
author Jordi Gutiérrez Hermoso <jordigh@octave.org>
date Mon, 25 Nov 2013 11:56:30 -0500
parents
children
comparison
equal deleted inserted replaced
-1:000000000000 0:e0bbaa717f41
1 NB. extended precision integers -----------------------------------------
2
3 NB. create test data
4
5 x1=. (1-1e4)+10 11 ?@$ 2e4-1
6 y1=. (1-1e4)+10 11 ?@$ 2e4-1
7 x2=. (1-1e8)+10 11 ?@$ 2e8-1
8 y2=. (1-1e8)+10 11 ?@$ 2e8-1
9 x3=. (1-1e9)+10 11 ?@$ 2e9-1
10 y3=. (1-1e9)+10 11 ?@$ 2e9-1
11
12
13 NB. o. ------------------------------------------------------------------
14
15 0x = o. 0x
16 0x = <.@o. 0x
17 0x = >.@o. 0x
18
19 0 -: o. x: 0
20 0 -: <.@o. x: 0
21 0 -: >.@o. x: 0
22
23 (<.!.0@o. -: <.@o.@x:) y1
24 (<.!.0@o. -: <.@o.@x:) y2
25 (<.!.0@o. -: <.@o.@x:) y3
26
27 (>.!.0@o. -: >.@o.@x:) y1
28 (>.!.0@o. -: >.@o.@x:) y2
29 (>.!.0@o. -: >.@o.@x:) y3
30
31 31415926535897932384626433832795028841971x = <.@o. 10^40x
32 31415926535897932384626433832795028841972x = >.@o. 10^40x
33
34 x=. '3 14159 26535 89793 23846 26433 83279 50288 41971 '
35 y=. '3 ', , _5 (,&' ')\ }. ": <.@o. 10x^40
36 x -: y
37
38 f=. }:@":@(<.@o.)
39 g=. (<.&# {. [) -: (<.&# {. ])
40
41 (10x^ 50) g&f 10x^300
42 (10x^100) g&f 10x^300
43 (10x^150) g&f 10x^300
44 (10x^200) g&f 10x^300
45
46 (o. 1) -: o. 1x
47 (o. _2) -: o. _2x
48
49 ( 0 o. 5) -: 0 o. x: 5
50 ( 1 o. 5) -: 1 o. x: 5
51 ( 2 o. 5) -: 2 o. x: 5
52 ( 3 o. 5) -: 3 o. x: 5
53 ( 4 o. 5) -: 4 o. x: 5
54 ( 5 o. 5) -: 5 o. x: 5
55 ( 6 o. 5) -: 6 o. x: 5
56 ( 7 o. 5) -: 7 o. x: 5
57 (_1 o. 5) -: _1 o. x: 5
58 (_2 o. 5) -: _2 o. x: 5
59 (_3 o. 5) -: _3 o. x: 5
60 (_4 o. 5) -: _4 o. x: 5
61 (_5 o. 5) -: _5 o. x: 5
62 (_6 o. 5) -: _6 o. x: 5
63 (_7 o. 5) -: _7 o. x: 5
64
65
66 4!:55 ;:'f g x x1 x2 x3 y y1 y2 y3'
67
68