Составители:
где σ – погрешность округления; σ
окр.i вых.i
– погрешность представления данных
на выходе цифровой части ЭВМ.
Погрешность симметричного округления оценивается по формуле
,
2/1
...
)12/(
iокрiопiокр
lw=
σ
а для округления усечением по формуле
,
2/1
...
)3/(
iокрiопiокр
lw=
σ
где
l
окр.i
– число округлений;
– вес младшего разряда операндов в единицах выходной величины y
w
i i оп.
, определяемый по формуле
)12/(
.
max
.
−=
iоп
iiоп
yw
n
,
причем разрядность n
оп.i
операндов определяется разрядностью арифметико-
логического устройства микропроцессора и выбранным вариантом
программной реализации арифметических операций.
Погрешность представления выходных данных σ
iвых.
зависит от
разрядности ЦАП, т.е. разрядности выходных данных n
вых.i
. Для округления
усечением
при n
вых.i
≥ n ;
⎩
⎨
⎧
=
3/
0
.
.
iвых
iвых
w
σ
оп.i
при n
вых.i
< n .
оп.i
Для симметричного округления
при n
вых.i
≥ n ;
⎩
⎨
⎧
=
12/
0
.
.
iвых
iвых
w
σ
оп.i
при n
вых.i
< n ;
оп.i
)12/(
.
max
.
−=
iвых
n
iiвых
yw
.
Здесь
Трансформированная погрешность оценивается по формуле
,
[]
2
1
22
. j
n
j
ijiТ
dМ
σσ
⋅=
∑
=
Страницы
- « первая
- ‹ предыдущая
- …
- 74
- 75
- 76
- 77
- 78
- …
- следующая ›
- последняя »