WikiStart: qpxmath_max_error.txt

File qpxmath_max_error.txt, 1.3 KB (added by hfinkel, 4 years ago)

qpxmath max function errors

Line 
1qpxmath: Accuracy test (max error in ulp)
2
3sin_u1 : 0.733204
4cos_u1 : 0.788674
5sin in sincos_u1 : 0.873229
6cos in sincos_u1 : 0.876704
7tan_u1 : 0.728284
8asin_u1 : 0.815667
9acos_u1 : 0.735616
10atan_u1 : 0.775075
11atan2_u1 : 0.814685
12log_u1 : 0.507266
13
14sin : 2.192940
15cos : 2.160571
16sin in sincos : 2.192940
17cos in sincos : 2.160571
18tan : 3.264912
19asin : 4.774707
20acos : 3.817541
21atan : 1.652245
22atan2 : 2.481131
23log : 3.141395
24exp : 0.959947
25pow : 0.818679
26cbrt : 1.547823
27sinh : 0.809506
28cosh : 0.585870
29tanh : 0.989998
30asinh : 0.503027
31acosh : 0.500861
32atanh : 0.502027
33exp2 : 0.595978
34exp10 : 0.591345
35expm1 : 1.971512
36log10 : 0.505284
37log1p : 0.865677
38
39sinf_u1 : 0.646962
40cosf_u1 : 0.643524
41sin in sincosf_u1 : 0.570161
42cos in sincosf_u1 : 0.566721
43tanf_u1 : 0.905899
44asinf_u1 : 0.729145
45acosf_u1 : 0.731220
46atanf_u1 : 0.727899
47atan2f_u1 : 0.732337
48logf_u1 : 0.512007
49cbrtf_u1 : 0.499998
50
51sinf : 0.646962
52cosf : 0.643524
53sin in sincosf : 0.570161
54cos in sincosf : 0.566721
55tanf : 1.086525
56asinf : 1.972784
57acosf : 1.977585
58atanf : 1.956316
59atan2f : 1.972428
60logf : 0.574666
61expf : 0.559445
62powf : 1.002373
63sqrtf : 0.500000
64cbrtf : 0.698500
65sinhf : 0.798192
66coshf : 0.559315
67tanhf : 0.999902
68asinhf : 0.508691
69acoshf : 0.502082
70atanhf : 0.507564
71log10f : 0.509176
72log1pf : 0.510590
73exp2f : 0.558459
74exp10f : 0.557263
75expm1f : 1.970647
76