Changeset 5019


Ignore:
Timestamp:
Aug 31, 2021 8:06:14 AM (3 months ago)
Author:
vondreele
Message:

revise qdata import; rescale by 100 & suppress nans

File:
1 edited

Legend:

Unmodified
Added
Removed
  • trunk/imports/G2pwd_xye.py

    r5017 r5019  
    166166                continue
    167167            try:
    168                 if self.Wave:
    169                     try:
    170                         val = min(0.995,self.Wave/(4.*np.pi/float(vals[0])))  #set max at 168deg
    171                         x.append(2.0*asind(val))
    172                     except:
    173                         msg = 'Error converting '+str(vals[0]
    174                         ) + 'with wavelength ' + str(self.Wave)
    175                         break
    176                 else:
    177                     x.append(float(vals[0]))
     168                x.append(float(vals[0]))
    178169                f = float(vals[1])
    179170                if f <= 0.0:
     
    199190                break
    200191        N = len(x)
     192        x = np.array(x)
     193        y = np.nan_to_num(np.array(y))
     194        w = np.nan_to_num(np.array(w))
     195        if self.Wave:       #for q data
     196            val = self.Wave/(4.*np.pi/x)
     197            x = 2.0*asind(val)
     198            y *= 100.
     199            w /= 100**2
     200       
    201201        self.powderdata = [
    202             np.array(x), # x-axis values
    203             np.array(y), # powder pattern intensities
    204             np.array(w), # 1/sig(intensity)^2 values (weights)
     202            x, # x-axis values
     203            y, # powder pattern intensities
     204            w, # 1/sig(intensity)^2 values (weights)
    205205            np.zeros(N), # calc. intensities (zero)
    206206            np.zeros(N), # calc. background (zero)
Note: See TracChangeset for help on using the changeset viewer.