Data Reduction
Joseph H. Reibenspies  Ph.D.
X-ray Diffraction Laboratory
Texas A & M University
All rights reserved.  Please do not copy, modify or distribute without theconsent of the authors.
http://brandguide.tamu.edu/downloads/primary08.jpg
X-ray Diffraction Laboratory 1.0.1
Orientation Matrix
1.For a given(hkl) find the position of the frameimage(s) at (X,Y,Z).
2.Integrate the area surrounding (X,Y,Z) todetermine Intensity  (hkl) and uncertainty (hkl)
3.Repeat 1-2 for each frame set.
http://brandguide.tamu.edu/downloads/primary08.jpg
Laboratory (real)
Space
Crystal (reciprocal )
Space
X-ray Diffraction Laboratory 1.0.1
Diffraction Peaks
C:\xray\share\ScreenShot008.jpg
C:\xray\share\ScreenShot006.jpg
http://brandguide.tamu.edu/downloads/primary08.jpg
CPS
PIXELS
1D
2D
3D
Diffraction Peak Profiles
X-ray Diffraction Laboratory 1.0.1
Mosaic Spread and Peaks
C:\xray\share\ScreenShot010.jpg
http://brandguide.tamu.edu/downloads/primary08.jpg
Increasing Mosaic Spread
X-ray Diffraction Laboratory 1.0.1
Intensities
Equation: (One Dimensional Trace)
 𝐼=  𝑃−2 𝐵𝑙+𝐵𝑅   𝑡      𝜎 𝐼 =   𝑃+2 𝐵𝑙+𝐵𝑅 +𝐾 𝐼 2   𝑡 

Equation: (2D-3D)
 𝐼=     𝑃−   𝐵    𝑡               𝜎 𝐼 =      𝑃+   𝐵+𝐾 𝐼 2     𝑡
http://brandguide.tamu.edu/downloads/primary08.jpg
X-ray Diffraction Laboratory 1.0.1
Peak Profile/MASKS
C:\xray\share\ScreenShot008.jpg
C:\xray\share\ScreenShot008.jpg
-
=
Intensity
Active Mask
Simple masking
http://brandguide.tamu.edu/downloads/primary08.jpg
X-ray Diffraction Laboratory 1.0.1
Learnt Profiles/Fitting
C:\xray\share\ScreenShot010.jpg
C:\xray\share\ScreenShot010.jpg
Poor Peak Shape
Good Peak Shape
http://brandguide.tamu.edu/downloads/primary08.jpg
X-ray Diffraction Laboratory 1.0.1
Corrections to the Data
Lorentz–polarization




where θM is the Bragg angle of the monochromator crystal.
               Lp  unit less number between 0.7 and 19 

 𝐼 𝑜 = 𝑘𝐼 𝐿𝑝    𝑎𝑛𝑑   𝜎  𝐼 𝑜  = 𝜎 𝐼    𝐿𝑝  
Output  h,k,l  Intensity and (I)
http://brandguide.tamu.edu/downloads/primary08.jpg
X-ray Diffraction Laboratory 1.0.1
SAINT
http://brandguide.tamu.edu/downloads/primary08.jpg
C:\Users\jhr6675\Desktop\images\int1.JPG
Always CheckResolution Limit!
(<0.77Å)
OPTIONS!
X-ray Diffraction Laboratory 1.0.1
SAINT-OPTIONS
C:\Users\jhr6675\Desktop\images\int2.JPG
http://brandguide.tamu.edu/downloads/primary08.jpg
BOX SIZE
Enable Orientation..
Enable Box Size …
Constrain Metric ….
Choose Triclinic..
Integration Options…
X-ray Diffraction Laboratory 1.0.1
SAINT-OPTIONS
C:\Users\jhr6675\Desktop\images\int3.JPG
For split crystals check the Blend Profiles from all Detector Regions
For weak scattering crystals set I/sigma lower limit to 8 or even 6 AND set the I/sigmaUpper limit to 4.0
 
The Active Image Queue Half-Width should be left at 7 for now.  During theintegration you should watch the %Queue.  If it consistently is ABOVE 80% thenincrease the 7 to 14.
http://brandguide.tamu.edu/downloads/primary08.jpg
X-ray Diffraction Laboratory 1.0.1
SAINT- BLEND OPTION
SAINT determines reflection spot shapes for nine regions onthe detector of roughly equal areas. The model profile shapesare also used to calculate correlation coefficients for purpose ofdata rejection and for profile fitting of weak reflections
Before
After
http://brandguide.tamu.edu/downloads/primary08.jpg
Images supplied by BRUKER-AXS
X-ray Diffraction Laboratory 1.0.1
SAINT
C:\Users\jhr6675\Desktop\images\int6.JPG
Check %Queue and
XYZ spot size
NOTE…
The %Queue and theDrifting Spot  Sizes arenot good!   STOP theintegration!   Increasespot and queue size.
http://brandguide.tamu.edu/downloads/primary08.jpg
After Integration is Started.
X-ray Diffraction Laboratory 1.0.1
SAINT-MORE PROBLEMS
Crystal moved during datacollection
http://brandguide.tamu.edu/downloads/primary08.jpg
Crystal moved and fell off pin ->
X-ray Diffraction Laboratory 1.0.1
SAINT-More Problems
ice.png
Ice began to form around 120 frames.  At~180 frames ice melted and crystalmoved.
http://brandguide.tamu.edu/downloads/primary08.jpg
X-ray Diffraction Laboratory 1.0.1
SAINT- Listing file
intfinal1.JPG
Note …
%Compl
>90%
Redund
> 2
Best ~8-10
Rsym
<.1 organ
<.3 rest
 
http://brandguide.tamu.edu/downloads/primary08.jpg
X-ray Diffraction Laboratory 1.0.1
Absorption/Scaling
Program : SADABS – SCALE
Systematic error correction program
Variation in irradiated crystal volume
Large crystals
Misaligned crystals
X-ray beam inhomogeneity
X-ray absorption
Crystal decay
Author :  George Sheldrick
http://brandguide.tamu.edu/downloads/primary08.jpg
C:\Documents and Settings\J. Reibenspies\My Documents\My Pictures\12_14.gif
Spherical Harmonic Function
X-ray Diffraction Laboratory 1.0.1
SADABS-SCALE
sad1.JPG
Choose the correct
Point Group.
If in doubt choose : -1
Check Merge Batches
Or
Select individual Raw files
http://brandguide.tamu.edu/downloads/primary08.jpg
X-ray Diffraction Laboratory 1.0.1
SADABS
sad3.JPG
Decrease Mean I/(I) forweak crystals
Choose Absorption Type
Decrease restraint forStrong absorbers.
Re-Refine after changingoptions.
http://brandguide.tamu.edu/downloads/primary08.jpg
X-ray Diffraction Laboratory 1.0.1
SADABS
sad4.JPG
Note R(int) values.
If one or more areunreasonably highthen deselect andRepeat Param…
http://brandguide.tamu.edu/downloads/primary08.jpg
X-ray Diffraction Laboratory 1.0.1
SADABS
sad5.JPG
http://brandguide.tamu.edu/downloads/primary08.jpg
Output.
180o scan
1 abs max
X-ray Diffraction Laboratory 1.0.1
SADABS
sad7.JPG
http://brandguide.tamu.edu/downloads/primary08.jpg
Chi-squared shouldbe near 1
X-ray Diffraction Laboratory 1.0.1
SADABS
sad8.JPG
http://brandguide.tamu.edu/downloads/primary08.jpg
Look forconcentration of dots
High concentrationsare obstacles thathave block diffractedX-rays
X-ray Diffraction Laboratory 1.0.1
Twins-Data Reduction
If orientation matrix for eachtwin is known then each peakcan be integrated  separatelyand overlapping
http://brandguide.tamu.edu/downloads/primary08.jpg
X-ray Diffraction Laboratory 1.0.1
Non-Mohedral TWINs
Use CELL_NOW to identify twins
Create a *.p4p file with both (or more) twincomponents and their orientation matrices.
Import the *.p4p into APEXII
Integrate with both orientation matrices
Produces  *.mul files (not *.raw)
Use TWINABS to scale the data
http://brandguide.tamu.edu/downloads/primary08.jpg
X-ray Diffraction Laboratory 1.0.1
Example-CELL_NOW
TITL   rh90 in Pbcn
CELL   0.71073  17.6502  20.5511   8.0594  90.000  90.000  90.000
ZERR    4.00   0.0070   0.0082   0.0032   0.000   0.000   0.000
SFAC C H N O CL HG
UNIT  112.00  96.00  16.00  48.00   8.00   4.00
FOM
% within 0.2
a
b
c
alpha
beta
gama
Volume
Lattice
1
1
52.3
17.562
20.629
8.18
90.17
90.08
89.94
2963.5
C
2
0.822
54.3
13.574
8.18
13.604
89.67
99.01
89.95
1491.8
P
3
0.631
53.7
16.243
17.562
20.629
90.06
90.01
90.01
5884.8
I
CELL_NOW - Version 2008-2 - index twins and other problem crystals
    352 reflections read from file: datau.p4p
Cell for domain  1:   17.562   20.629    8.180    90.17    90.08    89.94
   216 reflections within tolerance assigned to domain  1,
   216 of them exclusively;   136 reflections not yet assigned to a domain
 ------------------------------------------------------------------------------
 Cell for domain  2:   17.562   20.629    8.180    90.17    90.08    89.94
 
 Rotated from first domain by 177.1 degrees about
 reciprocal axis  0.046  1.000 -0.025  and real axis  0.062  1.000 -0.154
 
   183 reflections within tolerance assigned to domain  2,
   134 of them exclusively;     2 reflections not yet assigned to a domain
http://brandguide.tamu.edu/downloads/primary08.jpg
TotalReflections
>50%Reflections
Remaining
Reflections
2 fold along b
2 is ½V of 1
3 is 2V of 1
X-ray Diffraction Laboratory 1.0.1
C:\xray\share\ScreenShot003.jpg
C:\xray\share\ScreenShot004.jpg
C:\xray\share\ScreenShot005.jpg
C:\xray\share\rh82410.png
SAINT-TWIN REDUCTION
Output =>    *.mul   *.p4p
X-ray Diffraction Laboratory 1.0.1
TWINABS- Command line
Maximum number of reflections allowed (2000000):  {type return}
Enter listing filename [twin.abs]: twin.abs
 Laue group numbers:
 [1] -1                           [8] -3m (rhombohedral axes)
 [2] 2/m (Y unique)               [9] -31m (Z unique)
 [3] mmm                          [10] -3m1 (Z unique)
 [4] 4/m (Z unique)               [11] 6/m (Z unique)
 [5] 4/mmm (Z unique)             [12] 6/mmm (Z unique)
 [6] -3 (rhombohedral axes)       [13] m3
 [7] -3 (Z unique)                [14] m3m
 [0] to write list of equivalent indices for Laue/point groups to listing file
 Enter Laue group number [2]: 3
Treat Friedel opposites as equivalent for parameter refinement (Y or N) ?
 Answering "N" halves the data to parameter ratio and is not recommended
 unless you have a high redundancy and know what you are doing [Y]:  {Y}
 Enter filename (/ if no more) [ ]: datam
 Mean and maximum errors in direction cosine check function =   0.001   0.006
 The mean error should not exceed 0.008, and is usually caused by matrix
 changes during data processing.
 High resolution limit [0.1]:   {type return}
|I-<I>|/su ratio for rejection [4.0]:  {type return}
 g-value for use in:  su^2 = sigma^2 + (g<I>)^2  (sigma(I) from SAINT).
 This is only used for rejections, not for final sigma(I) values [0.04000]:
g = 0.0903  gives best error model.  {g in WGHT card}
Scan 2-theta  R(int)  Incid. factors    Diffr. factors    K           Total     I>2sig(I)
All scans      0.0835   0.461 - 1.824   0.824 - 2.052   0.656   58369   31577
http://brandguide.tamu.edu/downloads/primary08.jpg
Generate HKLF 4 format file (4) with crude averaged intensities for structure
solution or more accurate HKLF 5 format file (5) for refinement, reindex (I),
repeat (R) or quit (Q) [4]:  4
Enter name of output file [twin4.hkl]:   twin4.hkl
Mu*r of equivalent sphere for additional spherical abs. corrn. [0.2000]: {type return}
Make file using domain N only, -N to use domains 1..N or 0 to use all [0]:  {type return}
Average Friedel opposites in output file (Y or N) [Y]: {type return}
Number of iterations [20]: {type return}
Cycle   N(1) Rint(1)  N(all) Rint(all) Twin fractions
    1   32410  0.0799   58305  0.0828   0.5643  0.4357
...
Rint = 0.0796  for all   58318  observations and
Rint = 0.0611  for all   22390  observations with I > 3sigma(I)
 3875 Corrected reflections written to file twin4.hkl
 Reflections merged according to point-group mmm
 Minimum and maximum apparent transmission:  0.303156  0.745554
Generate HKLF 4 format file (4) with crude averaged intensities for structure
solution or more accurate HKLF 5 format file (5) for refinement, reindex (I),
repeat (R) or quit (Q) [5]: 5
Average equivalent reflections (Y or N) [Y]:
Enter name of output file [twin5.hkl]:  twin5.hkl
Mu*r of equivalent sphere for additional spherical abs. corrn. [0.2000]:
 Make file using domain N only, -N to use domains 1..N or 0 to use all [1]:  1
Average Friedel opposites in output file (Y or N) [Y]:
Leave out single reflections that also occur in composites (Y or N) [Y]:
10190 Corrected reflections written to file twin5.hkl
 Reflections merged according to point-group mmm
 Minimum and maximum apparent transmission:  0.301323  0.745554
X-ray Diffraction Laboratory 1.0.1
TWINABS-Results-Example
58500 total
25925 data (  11415 unique ) involve domain  1 only,  mean I/sigma   5.0
25953 data (  11459 unique ) involve domain  2 only,  mean I/sigma   4.5
  6614 data (   4517 unique ) involve   2 domains,  mean I/sigma   6.5
         8 data (      8 unique ) involve   3 domains,  mean I/sigma  15.6
 Statistics for singles of twin component  1
 -------------------------------------------
 Scan 2-theta  R(int)  Incid. factors  Diffr. factors    K     Total I>2sig(I)
    1  -28.0  0.0499   0.603 - 0.857   0.829 - 1.182   0.617    6707    3799
   All scans  0.0655   0.603 - 1.666   0.829 - 1.280   0.696   25877   13507
 Statistics for singles of twin component  2
 -------------------------------------------
Scan 2-theta  R(int)  Incid. factors  Diffr. factors    K     Total I>2sig(I)
    1  -28.0  0.0599   0.591 - 0.775   0.853 - 1.380   0.617    6700    3642
   All scans  0.0754   0.519 - 1.865   0.805 - 1.944   0.696   25913   13183
 Statistics for all composite reflections
 ----------------------------------------
 Scan 2-theta  R(int)  Incid. factors  Diffr. factors    K     Total I>2sig(I)
    1  -28.0  0.0640   0.613 - 0.823   0.838 - 1.182   0.617    1489    1085
   All scans  0.0850   0.559 - 1.687   0.827 - 1.732   0.696    6599    4515
 Statistics for all single and composite reflections
 ---------------------------------------------------
 Scan 2-theta  R(int)  Incid. factors  Diffr. factors    K     Total I>2sig(I)
    1  -28.0  0.0551   0.591 - 0.857   0.829 - 1.380   0.617   14896    8526
   All scans  0.0712   0.519 - 1.865   0.805 - 1.944   0.696   58389   31205
Rint’s  component 1 =  0.0655
component 2 =0.0754
composite      =0.0850
all        =        0.0712
Rint = 0.0776  for all   58336  observations and
Rint = 0.0611  for all   22412  observations with I > 3sigma(I)
 13531 Corrected reflections written to file twin4.hkl   ----     HKLF  4   (SOLVE)
 Reflections merged according to point-group -1
 Minimum and maximum apparent transmission:  0.308627  0.745554
 17792 Corrected reflections written to file twin5.hkl   ------   HKLF  5    (REFINE)
 Reflections merged according to point-group -1
 Single reflections that also occur in composites omitted
 Minimum and maximum apparent transmission:  0.309570  0.745554
http://brandguide.tamu.edu/downloads/primary08.jpg
X-ray Diffraction Laboratory 1.0.1
OUTPUT from REDUCTION
File :   myproject.HKL
File :   myproject.P4P (..m.P4P and ..u.P4P)
(files myproject.RAW 1,2,3,…m)
(files  myproject._ls) listing files
SADABS files SAD.ABS (.EPS) – Keep these.
Tmax/Tmin ratio
(TWINABS – TWIN.ABS and TWIN.EPS)
http://brandguide.tamu.edu/downloads/primary08.jpg
X-ray Diffraction Laboratory 1.0.1
End of Lecture 3
Lecture 4.
The Preparation :  Laue symmetry and space group selection.
Lecture 5.
The Solution :  Space group ID and structure solution
Lecture 6.
The Refinement :  Model building and Structure Refinement
Lecture 7.
The Mess :  Common problems and some fixes
Lecture 8.
The Model, Validation and Publication.
http://brandguide.tamu.edu/downloads/primary08.jpg
X-ray Diffraction Laboratory 1.0.1