Changeset 1033 for trunk/readexp.tcl


Ignore:
Timestamp:
Oct 27, 2010 9:08:37 PM (10 years ago)
Author:
toby
Message:

fix writing of abscor2 on all platforms; show abs cor on Histogram panel

File:
1 edited

Legend:

Unmodified
Added
Removed
  • trunk/readexp.tcl

    r1025 r1033  
    19081908            }
    19091909            abscor2-set {
    1910                 # can't use validreal as the decimal must be in col 20
    1911                 if {[catch {
    1912                     if {abs($value) < 99.99 && abs($value) > 1.e-4} {
    1913                         set tmp [format "%15.10f" $value]
    1914                         # make a final check of decimal
    1915                         if {[string range $tmp 4 4] != "."} {
    1916                             set tmp [format "%15.6E" $value]
    1917                         }
    1918                     } else {
    1919                         set tmp [format "%15.6E" $value]
     1910                # this must have a decimal as the 5th character, so that we end up with a
     1911                # decimal point in column 20.
     1912                set tmp $value
     1913                if ![validreal tmp 12 7] {return 0}
     1914                set pos [string first "." $tmp]
     1915                while {$pos < 4} {
     1916                    set tmp " $tmp"
     1917                    set pos [string first "." $tmp]
     1918                }
     1919                if {$pos == 4} {
     1920                    setexp "${key}ABSCOR" $tmp 16 15
     1921                    return
     1922                }
     1923                catch {
     1924                    set tmp [format "%12.6E" $value]
     1925                    set pos [string first "." $tmp]
     1926                    while {$pos < 4} {
     1927                        set tmp " $tmp"
     1928                        set pos [string first "." $tmp]
    19201929                    }
    1921                 }]} {return 0}
    1922                 setexp "${key}ABSCOR" $tmp 16 15
     1930                    if {$pos == 4} {
     1931                        setexp "${key}ABSCOR" $tmp 16 15
     1932                        return
     1933                    }
     1934                }
     1935                return 0
    19231936            }
    19241937            abstype-get {
Note: See TracChangeset for help on using the changeset viewer.