« filter機能:複数条件 | Main | 模様替え »

2005.01.08

LUPREC

小数以下表示と,有効桁の?
整数部の桁が大きい場合等で,座標値や面積値をList(オブジェクト情報)コマンドで表示させるとE+10という風に指数表示されて具合が悪いことありますね。
下記画像を使って解決提案です。画像をクリックすると拡大表示されますので,40代以上の方どうぞ。
座標点をLuprecの値を0~8で変化させて,その表示を一覧にしたものです。

tue/Luprec

ポイントはLuprecの値と,整数,小数合わせて13桁を越えるか,否かです。
(LT2002で確認しています。それ以上のバージョンだと13より大きいかも知れません。)
Luprecの値を0~8で変化させて,表示の具合を確認できます。
※LT2004で確認してみたら,面積値で15桁までOKでした。
以下LT2002の場合です。

上の表で左側の元の値:123456.7890123は整数部が6桁です。
13桁を越えないようにシステム変数LUPRECの値を設定する場合は,
  LUPRECの値=13-整数桁=13-6=7となります。

同じく右側の元の値:123456789.123456の整数部は9桁です。
  LUPRECの値=13-整数桁=13-9=4となります。

めんどくさいですが仕方ありません。作図単位がmmで,公共座標や,
大きな面積を扱うと起こりやすいトラブルです。
LUPRECのデフォルト値は4ですから,整数部が10桁以上だと問題になってきますね。

さて,整数部がLT2002で13桁の場合は,
元の値:1234567890123.1234は,
LUPREC「0」で,1234567890123
LUPREC「1」で,1.2E+12
LUPREC「8」で,1.23456789E+12
となってoh! No!

|

« filter機能:複数条件 | Main | 模様替え »

Comments

Post a comment



(Not displayed with comment.)




TrackBack

TrackBack URL for this entry:
http://app.cocolog-nifty.com/t/trackback/13333/2506653

Listed below are links to weblogs that reference LUPREC:

« filter機能:複数条件 | Main | 模様替え »