Interstage Navigator ServerV9.6.0 セットアップガイド Vol.1（Standard Edition用）

1.4 データ型の変換ルール

Navigatorでは、実際のデータのデータ型を、集計方法によって、以下のように表示しています。

集計方法の指定とデータ型の関係

集計方法と、集計方法のオプションの指定値に対して、実際のデータ型とNavigatorクライアント上で表示されるデータ型（初期値）の関係を以下の表に示します。

注意

時系列集計の「比較先との比」、「比較先との伸び率」を指定している場合は、時系列集計の「比較先との比」、「比較先との伸び率」の変換ルールに従います。時系列集計の指定とデータ型の関係については、後述の“集計方法の指定とデータ型の関係”を参照してください。

集計方法	オプション※1				SMALLINT	INTEGER	DECIMAL (n,m)	NUMERIC (n,m)	FLOAT	CHARACTER /VARCHAR /NCHARACTER /NVARCHAR
	累積	構成比	ABC集計
合計					INTEGER		DECIMAL(min(38,n+7),m) ※全体桁数が7桁増。ただし、上限38桁。		FLOAT	-
	ON
			ON
		ON			DECIMAL(5,2)
	ON	ON
合計してから演算	-				元のデータ型をそのまま引き継ぐ
最大	-
最小	-
付帯情報(集計しない)	-
平均	-				DECIMAL(7,2)	DECIMAL(12,2)	DECIMAL(min(38,n+2),min(38-(n-m),m+2) ※全体桁数が2桁増。ただし、上限38桁。 ※小数点以下桁数+2桁と、38-(全体桁数-小数点桁数)桁の小さい桁数		FLOAT
幾何平均	-
調和平均	-
件数(すべて) 件数（NULL値を除く） 件数(重複を除く)					INTEGER
	ON
				ON
		ON			DECIMAL(5,2)
	ON	ON
件数(NULL値)	-				INTEGER
件数（正の値）	-
最大と最小の差	-				INTEGER		DECIMAL(min(38,n+1),m) ※全体桁数が1桁増。ただし、上限38桁。		FLOAT		-
分散	-				FLOAT
標準偏差	-
標準誤差	-
尖度	-
歪度	-
項目間演算	-				DECIMAL(18,2)

※1：オプションで、[ランク集計]を有効（ON）にしている場合は、すべて「INTEGER」で表示されます。また、[中計・統計との差を集計]は、有効（ON）にしていても影響はありません。

時系列集計の指定とデータ型の関係

時系列集計の指定値に対して、実際のデータ型とNavigatorクライアント上で表示されるデータ型（初期値）の関係を以下の表に示します。

時系列集計	SMALLINT	INTEGER	DECIMAL (n,m)	NUMERIC (n,m)	FLOAT	CHARACTER /VARCHAR /NCHARACTER /NVARCHAR
比較先の実績	「集計方法」タブでの指定値に対する変換ルールに従います。集計方法の指定とデータ型の関係については、“集計方法の指定とデータ型の関係”を参照してください。					-
比較先との差
比較先との比（倍率） 比較先との伸び率（倍率）	DECIMAL(5,2)
比較先との比（百分率） 比較先との伸び率（百分率）	DECIMAL(7,0)

注意

以下のオプションを指定した場合の問い合わせ結果の精度は、「小数点以下5桁まで有効」です。初期値では、小数点2桁まで出力され、データ型を変更しても最大で、5桁までしか出力できません。

• 比較先との比（倍率）

• 比較先との伸び率（倍率）

• 比較先との比（百分率）

• 比較先との伸び率（百分率）

項目間演算の結果精度（データ型）

項目間演算では、指定された元項目のデータ型にしたがって演算の結果精度が決定します。複数の演算が組み合わされている場合は、それぞれの演算の結果精度を中間精度として結果精度が算出されます。

これらの項目間演算の中間精度および結果精度の算出方法を以下の表に示します。

項目間演算	SMALLINT	INTEGER	DECIMAL (n1,m1)	NUMERIC (n1,m1)	FLOAT
SMALLINT	DECIMAL (p,q)
INTEGER
DECIMAL (n2,m2)
NUMERIC (n2,m2)
FLOAT	FLOAT

上記表のDECIMAL(p,q)の精度p、位取りqは以下のように算出します。

なお、SMALLINTはDECIMAL(5,0)、INTEGERはDECIMAL(10,0)とみなして計算します。

加算(+)または減算(-)の場合

p = MIN( 38 , MAX( n1 - m1 , n2 - m2 ) + MAX( m1 , m2 ) + 1 )

q = MAX( m1 , m2 )

乗算(*)の場合

p = MIN( 38 , n1 + n2 )

q = m1 + m2

除算(/)の場合

p = MIN( 38 , n1 - m1 + m2 + MAX( 5 , m1 ) )

q = MAX( 5 , m1 )

注意

項目間演算の画面で指定するデータ型は、問い合わせ結果を表示する際のデータ型（表示上のデータ型）を指定するものであり、演算の結果精度を指定するデータ型ではありません。