Casio CFX-9850G PLUS, CFX-9850GB PLUS, CFX-9850GC PLUS, CFX-9950GB PLUS Manual de usuario Pagina 468

  • Descarga
  • Añadir a mis manuales
  • Imprimir
  • Pagina
    / 484
  • Tabla de contenidos
  • MARCADORES
  • Valorado. / 5. Basado en revisión del cliente
Vista de pagina 467
440440
附錄 D 輸入范圍
函數 輸入范圍
二進位
八進位
進位
十六進位計算
數值在轉換之后
位于下述范圍之內︰
DEC
十進位
: –2147483648
<
x
<
2147483647
BIN
二進位
: 1000000000000000
<
x
<
1111111111111111 (
負數
)
0
<
x
<
0111111111111111 (0,
正數
)
OCT
八進位
: 20000000000
<
x
<
37777777777 (
負數
)
0
<
x
<
17777777777 (0,
正數
)
HEX
十六進位
: 80000000
<
x
<
FFFFFFFF (
負數
)
0
<
x
<
7FFFFFFF (0,
正數
)
對于單次計算
在第 10 位處的計算誤差為
±
1
。(
在指數顯示的情況下
在最后一位有效
數位處的計算誤差為
±
1
在連續計算的情況下
誤差是累計的
這也可能使誤差變大
^(
x
y
),
x
y
,
x!
,
3
x
,
n
P
r
,
n
C
r
,
等情況下進行的內部連續計算也是如此
在函數奇點與拐點附近
誤差為累計的
并且可能變大
Vista de pagina 467
1 2 ... 463 464 465 466 467 468 469 470 471 472 473 ... 483 484

Comentarios a estos manuales

Sin comentarios