O2-PLS, a two-block (X-Y) latent variable regression (LVR) method with an integral OSC filter

12
O2-PLS, a two-block (X±Y) latent variable regression (LVR) method with an integral OSC ®lter ² Johan Trygg 1 * and Svante Wold 2 1 Institute for Molecular Bioscience, University of Queensland, Australia 2 Research Group for Chemometrics, Institute of Chemistry, Umea Ëš University, Umea Ëš, Sweden Received 15 August 2002; Accepted 30 October 2002 The O2-PLS method is derived from the basic partial least squares projections to latent structures (PLS) prediction approach. The importance of the covariation matrix (Y T X) is pointed out in relation to both the prediction model and the structured noise in both X and Y. Structured noise in X (or Y) is defined as the systematic variation of X (or Y) not linearly correlated with Y (or X). Examples in spectroscopy include baseline, drift and scatter effects. If structured noise is present in X, the existing latent variable regression (LVR) methods, e.g. PLS, will have weakened score±loading correspon- dence beyond the first component. This negatively affects the interpretation of model parameters such as scores and loadings. The O2-PLS method models and predicts both X and Y and has an integral orthogonal signal correction (OSC) filter that separates the structured noise in X and Y from their joint X±Y covariation used in the prediction model. This leads to a minimal number of predictive components with full score±loading correspondence and also an opportunity to interpret the structured noise. In both a real and a simulated example, O2-PLS and PLS gave very similar predictions of Y. However, the interpretation of the prediction models was clearly improved with O2-PLS, because structured noise was present. In the NIR example, O2-PLS revealed a strong water peak and baseline offset in the structured noise components. In the simulated example the O2-PLS plot of observed versus predicted Y-scores (u vs u hat ) showed good predictions. The corresponding loading vectors provided good interpretation of the covarying analytes in X and Y. Copyright # 2003 John Wiley & Sons, Ltd. KEYWORDS: O2-PLS; O-PLS; latent variable regression; structured noise; score±loading correspondence; model interpretation 1. INTRODUCTION Spectroscopic (e.g. NMR, NIR) and chromatographic (e.g. GC, LC) techniques are frequently being used for the characterization of solid, semi-solid, fluid and vapor samples. Multivariate calibration methods [1] (e.g. partial least squares projections to latent structures (PLS)) are often used to develop a quantitative relation between the digitized spectra, the matrix X, and some properties (e.g. concentra- tions) of the analytes, the matrix Y. These methods may also be used to infer other more multivariate properties of samples, e.g. predicting NMR profiles from NIR spectra. This large quantity of information-rich data requires proper multivariate tools. Often structured noise is present in X (or Y), where structured noise is defined as systematic variation of X (or Y), which is not linearly correlated with Y (or X). Examples in spectroscopy are baseline and scatter effects, as well as spectra of impurities or unknown constituents. It has earlier been shown [2,3] that these negatively affect the interpretation of the existing latent variable regression (LVR) methods, e.g. PLS and other methods with similar proper- ties, and increase prediction model complexity. Preproces- sing methods, including derivatives, scatter corrections [4] and orthogonal signal correction (OSC) filters [2,5±10], can be applied to suppress this structured noise. This preproces- sing is then followed by two-block (regression/classifica- tion) modeling. However, some of these methods may remove pertinent variation from X. Some others fail to remove only the structured noise that disturbs the prediction model, and this leads to increased model complexity and can also result in worse predictions. Interpretation of LVR model parameters such as scores and loadings is linked to their score±loading correspon- dence. Strong structured noise in X diminishes the score± *Correspondence to: J. Trygg, Smythe Group/Gehrmann Building Floor 7, Institute for Molecular Bioscience, University of Queensland, Brisbane QLD 4072, Australia. E-mail: [email protected] ² Dedicated to Professor John F. MacGregor: a pioneer of multivariate statistical process control and recipient of the fourth Herman Wold medal. Contract/grant sponsor: Knut and Alice Wallenberg Foundation. Contract/grant sponsor: Swedish Natural Science Research Council (NFR). Copyright # 2003 John Wiley & Sons, Ltd. JOURNAL OF CHEMOMETRICS J. Chemometrics 2003; 17: 53±64 Published online in Wiley InterScience (www.interscience.wiley.com). DOI: 10.1002/cem.775

Transcript of O2-PLS, a two-block (X-Y) latent variable regression (LVR) method with an integral OSC filter

������� � ��� ��� ����� ��� ������ � ��������������� ���� �� �� ������ ��! " ��#

Johan Trygg1* and Svante Wold2

1Institute for Molecular Bioscience, University of Queensland, Australia2Research Group for Chemometrics, Institute of Chemistry, Umea University, Umea, Sweden

�������� �� �� ����� ���� �� �� �� ���� ����

$�� ������ ���� �� ����� %��� �� ����� &���� ��� �'(���� &��)������ � ��� ��(�(���

����� &�� ����� �&&�����* $�� ��&������ �% �� ���������� ����+ �Y$X� �� &���� �( �� �� ����� ��� �� &�� ����� �� � �� �� ��(�(�� ����� �� ��� X �� Y* ��(�(�� ����� �� X ��� Y� �� �%��� �� �� �,������ �������� �% X ��� Y� �� ����� , ����� �� �� Y ��� X�* -+��& �� ���&�������&, ��� ( � ���� ���� ��% �� ����� �%%���* .% ��(�(�� ����� �� &����� �� X� �� �+����� ��� ������ � ���������� ����� ���� �� �*�* ���� � ���� ������ ������ �� ��� ������&���

���� ��,�� �� %��� ���&����* $��� ������� , �%%��� �� ����&������ �% �� � &��������

�(�� �� ������ �� �� ����* $�� ������ ���� �� � � �� &�� ��� ��� X �� Y �� ��� ��

������ �������� ����� ��������� ���!� %� �� �� ��&����� �� ��(�(�� ����� �� X �� Y %���

���� )��� ��� ���������� (�� �� �� &�� ����� �� � * $��� �� � � � ������ �(���� �%

&�� ����� ���&����� �� %( ������ �� ��� ������&�� ���� �� � �� �� �&&��(��, � ����&��

�� ��(�(�� �����* .� ��� � ��� �� � ���( �� �+��& �� ������ �� ��� ���� ���, ���� ��

&�� ������ �% �* /������ �� ����&������ �% �� &�� ����� �� � � �� � ��� , ��&���� ��

������� ����(�� ��(�(�� ����� �� &�����* .� �� 0.� �+��& �� ������ ����� � � ����� ���

&��� �� ���� ��� �%%�� �� �� ��(�(�� ����� ���&�����* .� �� ���( �� �+��& � �� ������

& � �% ������� ����(� &�� ��� �������� �u �� u��� ���� ��� &�� ������* $�� ������&�� ��� �� ��� ������ &���� � ��� ����&������ �% �� �����,��� ��� ,�� �� X �� Y* !�&,����� �112

3��� 4� �, 5 ����� � *

6-�4��7�8 ������� ������ �� �� �������� ����������� � �� ��� ������ ������������� ��������������� �����

�� ����� � ���

9* .0$��7:!$.�0

���� �������� �!�! "#�$ "%�& ��� �'���� �����'�� �!�!

()$ �)& ��'��*�� ��� +��*�� �, ����� ��� +�� '�

�'���� ���-� ��� �+ �����$ ����������$ +��� ��� �����

�������! #� ������ � ������� ��� �� '��� .�/ �!�! ��� ���

���� �*���� ���0�� ���� � �� �� � �� ��� ���&& ��� �+ ��

��� � ������� � *�� � � ��� ���� ��� �� 1��� '� ���� �-��

���� ��$ '� �� ��2 �$ ��� ���� ������ ��� �!�! ������ ���

����& �+ '� ����, ��$ '� �� ��2 �! 3'��� �� '��� ��, ����

�� ��� � ��+�� � '�� ���� �� ������ � ������ ��� �+

�������$ �!�! ������ ��� "#� ���+���� +��� "%� ���� ��!

3'�� ����� *�� � , �+ ��+���� �������' �� � ��*���� ������

�� ������ � ����! �+ �� � �� ��� ����� �� ������ �� � ��

�&$ 1'��� � �� ��� ����� �� ��+���� �� �,� ��� �� ����� ���

�+ � �� �&$ 1'��' �� �� �������, ������� �� 1� ' � �� �&!

42������ �� ���� ������, ��� �������� ��� ��� �� �++�� �$ ��

1��� �� ���� �� �+ ����� ��� �� �5��1� ���� � �� �! % '��

������� ���� �'�1� .�$�/ '� '��� ���� ����, �++�� '�

�� ����� � ��� �+ '� �2�� ��� �� �� �������� ���������� �6�&

�� '���$ �!�! ��� ��� � '�� �� '��� 1� ' ������� �������

���$ ��� �������� ������ ��� ����� ������2� ,! ����������

���� �� '���$ �������� ������ ����$ ��� �� ������ ���� .7/

��� �� '������ ������ ������ ��� ��)& +�� ��� .�$����/$ ���

�� ������� � ������� '�� � �� ��� �����! 3'�� ����������

���� �� '�� +����1�� �, 1������5 ����������8������+����

���& ��������! 9�1����$ ���� �+ '��� �� '��� ��,

������ ��� ���� ����� ��� +��� �! ���� � '��� +��� �

������ ���, '� � �� ��� ����� '� ��� ��� '� ������ ���

�����$ ��� '�� ����� � ��������� ����� ������2� , ��� ���

���� ���� �� 1���� ������ ����!

%� ����� � ��� �+ �6� ����� ������ ��� ��' �� ������

��� �������� �� ���5�� � '��� ������������� ����������

�����! � ���� � �� ��� ����� �� � �������'�� '� ������

*)������������� �: ;! 3�,��$ ��, '� (���8(�'����� <������ =����>$ %�� � � +�� #������� <���������$ ?������� , �+ @��������$ <�������@�A 7�>�$ � �����!4�����: 0! �,��B���!*!��!�CA����� �� � ���+����� ;�'� =! #��(�����: � ������� �+ �� ������ �� � �� ���� ������� ��� ��� ��� �������� �+ '� +�� '9�����D��������!)�� ��� 8���� �������: E� ��� ���� D��������� =���� ���!)�� ��� 8���� �������: �1����' "� ��� ������� �������' )����� "=�&!

)��,���' � ���� ;�'� D���, F ����$ � �!

;�?�"� �= )94#�#43�%)�J. Chemometrics ����� 9;: ���G7�����'�� ������ �� D���, %� ��������� 111!�� ���������!1���,!���&! A�%: ��!����8���!>>�

������� ��������������$ ��� '�� �������� �� '� �� ����� ��

��� +�� �2�� ��� �6� ������! 3'� ������ �� '�� '�� ��

�� ����� ��) +�� �� '� ������ �� '� � �� ��� ����� �� �

��� � +��� '��� 0��� H�I ������� ��� ��� �� '� ������ ���

�����! 3'�� ����� � � ������� ����� �+ ������ ���

�������� � 1� ' +�� ������������� �������������� ���

���� �� ����� �� , � �� ����� '� � �� ��� �����!

�* $/-���

������ ���������� ���� �� 1� �� � �� ����� � �� �& ��� �

���& � ���' � '��! ������ '� � ��� � ��� �����

��� ����$ '� ���������� ����� ��� �� �2������� ��

�'� � �< ���9��� < ���& �� '� ���������� ���++����� �� ��2! ����

�� ��� � �+ < �� �������$ ��������� �� ' � ���� +� � � ���

���� ������ ���� +�� + �� �5��1� ,3! %� ���� ���$ '�

���������� ���++����� ��� ��� �'��� �� �� ����� ����!

����� �+ ��++���� ������ ���������� �� '��� ��� ���������$

��� 1� ' ��++���� 1�,� �+ +������ <! 3'��� ������ �&

�� ���� ������ ���������� #��&$ �& ����� ���������� ��&$

��� '� �� �� �������� ���������� �6�& �� '��� ��' �� �&

��������� �������� ����,��� �)�& ��� �& ��� ��� ����

�*���� ���0�� ���� � �� �� � �� ��� ���&!

�*9* =( �& � ����� ���������� �=��� �� �� ������������ ����3���� ������,$ '� ��� +��*�� �, ��� �� '�� +�� +������ <

�� '� #�� �� '��$ 1'���

< � ��3�����3� ���3'�� ������-�� '� �*���� �� �+ '� �������� ��� ��

�*������ � ��2���-��� '� +� � �! 3'�� ����� '� ���

����� ��� �� � '� �������� 1� ' � �� ������� �� '� �� ��� �

�+ <! %+ '��� �� ����� �� �$ '��� 1��� �� ����+� ��� '�

���������� 1��� ������ ���� ������ ����! ��� ������,$ '�

�� '�� ��*���� '� '� � �� ��2 �� �+ +�� ���5$ �!�! �3�&��

�2�� �! %+ � �� ���5���+����� $ � ��1��� �� ���� ������

���������� �� ����� ���������� ��� �� �������$ 1'��� � ��

'� ����� ������ ��:

< � ��3�� �.����3� ���

�*�* ���� ������ � ���������� ����� ���� �3'� ���� �����,��� ����� ��� �+ '� �6� �� '���$ �!�!

�)� ��� ���$ �� '� '� �,� �� �� ������� ����

��������� ��� �� ������ �, � ����� ����� �+ �� �� ���������

�6�& .��$��/! 3'� ����� �+ ������ � 1'��' '� �6� ������

������ �� ������ ���, ���, ��++���� +��� ���� �����

���������� ������ 1� ' ���������� ������ �� ���������!

3'� �6� ������ ��� ���� � '����� ���,$ �������� � ���

������� �� ������ �� ��������� �� � ������ ��� � ����' +���

1��� 1�,$ '���� '��� 1��� ��! 3'� ��� ����� +�� � �� ��2

� �� �2������� �,

� � $�3 � - �7��'� � $!3 ���

9��� $ �� �& �� '� ����� �� ��2$ � �� �& �� '� �������

�� ��2 �+ �$ - �� �& �� '� ������� �� ��2 �+ �$ ���! ���&

�� '� ������� ��� �� �+ �! 3'� ���� ���� ���5 �+ '� �,� �� ��

�$ 1'��' �� ����, ��' ������� '�� � ��� �� �� ��� �� ��

��� �+ '� ����,���! ?���� '� ��� ��� ���� �+ 9�J�5������

.��/$ '� �� ���� ������ ���������� #��& ��� �����

���������� ��& �� '��� ��� ���� �� �2������� �� �� �6�

�����!

� � ����������� �� ��� �������6� �� '��� ������� � ���� �� ����� � ��� �+ '� �����

��� � � ������ ���$ �!�! ������$ �������� ��� ��������! 3'�� ��

� ����� ����� ��� �������� 1� ' �������0�� ��� �����������

��5� �� '��� ��' �� ����� �� 1��5�! 3'� ������ �+

�� ����� � ��� �+ ���0�� ��������� ������ �� ����� �, ���5��

� '� ������������� �������������� 1'��' ��+���� 1'�

��������� ��������& ��� ����� �� ��� '�1 '�, ���� � �

��++���� ����� ���� �� '� ������$ ��� ���� �����! ������

������� �������������� ����� '� � �� ��2 � ���0�� ��

�� � � ����� ��� �� �� �*�� � � ������� ��� �� $ ���

���0�� ��� '� ���� �� ��2 � �� � �*��� $ �!�!

� �3�3 � � ��3 �G�3'��� 1� � ��� ��� ���� ���� � '� "%��� �� '�� +�� �)

.�7$��/! 3'� �) �������� � ��1�,� '��� �������������

��������������! "� �$ '�1����$ '� '� ��� ��� ��� ���

�� �������� �, �� ����� $ ���4 �� ������,�� �� =���� �$ �!�!

4 � �3$�$3$��� � $ � �4��434��� �>�3'� ���, ��*������ �� '� �� ' $ ��� 4 ��� �+ +�� ���5!

3'�� ���� ���� � �� ������������� ��������������! 3'� �6�

�� '��� ���� � 1� �� ����� � ��� �$ �� �� '�� � ��� �'� !

������������� �������������� �� '�� ��+���� �� ���� '�

���� $&

4 � �3$�$3$��� � $ � �4��434��� �K�

! � �3'� $�$3$��� � $ � �'� !��!3!��� �L�

1'��� �'� M $!3! =���� � �������� � ����'���� ���� �� ���

�+ 4*� ���� K& ��� L&! �6� ������ 1��� �� '��� ��'

������������� �������������� �� �� � ���� 1'��� � ����

���� � �� ��� ����� .�G/$ �2��� +�� ������������ ���

��� �)� ������$ �!�! 1'�� � 1�� ���� �� �� ��������� �

�� �2������� �� ������ .�>/! A���� � '��$ '� �� ����� � ���

�+ �� ��������� ��� �� �)� ������ '�� +����1�� �,

������, � �) ��� � ������ � �� ��2!

���������� ���� � � � � ���, '� �������, �����,��� ����� ��� �� � ��� � �� ��+� �� �

Figure 1. Score–loading correspondence for a matrix X betweena score matrix T and its corresponding loading matrix W.

)��,���' � ���� ;�'� D���, F ����$ � �! ! "#���������� ����� 9;: ���G7

�7 ;! 3�,�� ��� �! D���

������ ������ ��� �����! � '��' '� � �� ��� ����� �� �

��� �� ���� �+ '� ����� �+ �$ � �� ������ +�� ������ ��� �+ �!

� ���� �� '� � �� ��� ����� �� ������ �� $ � �� �������� �

����� ��� ������ � �� '� ���� +��'��� �� '� ������� ��

����� ��� �� �! 3'�� �� '� ������ 1', ��� �� �)� ��� '�����

� �� ��� ����� �� ������ ����! 9�1����$ � �� ��� �����

���� ������ '� ������������� ��������������! � ������ ��

'� � ��� ���� � �� ��� ����� �� '� '� ����� �+ ��� ��

�)� �������� � �� '��'�� '�� '� ���� ���� ���5 �+ �3�&!

���$ �� ��� � �� ��� ����� �� � ����� � �� �������$ ���,

'� � �� ��� ����� �� � ��� ��� �, '� ����� �� ��2 $!

���� �������� =���� �! ������������� ��������������

��*���� '� ��� '��� �� ����� 4$ $$ !& '��� +�� ���5

�1��� � '� �� ��2 ���������! D'�� $ ��� ���� � �� ���

����� +��� �$ '�� ! 1��� �� ���5���+����� ��� '�

���������� � ����� �� !3!&��! 3'� ������� �+ �� ��2

��������� �+ ! �� �� '� ���� �+ '�� �������$ '� ��

�����, ������ �, ���� ��������-�� ������� �+ !$ � �� '�� �

�� '� �����*���� �+ '����� � �� ��� ����� �� $! ���$ �� �

'� �2�� ��� �6� �� '��� �� �� ����� � +��� � � �����

� +��� �! 3'�� ���� �� �++�� '� ������� ������ ���� �+ � �

������ '� �� ����� � ��� �+ 1'� �� ����� ������ �� �+ �$ ��

1��� �� �'�1� �� �� �� �2������!

�*2* �������� ����� ��������� ���!� " ���%� �LLK$ D��� �� �� .�/ �����'�� '� �������� ����� ��

�� '������ ������ ������ ���! 3'� ��0�� ��� 1�� � N���� ��

� +�� �� '� ������� +��� '� ���� ��� �� ��2 �& ���, '�

��� '� ��+��� ��, �� ����� �� � �O! % 1�� +����1�� �, �

����� �+ ��++���� ��) +�� ��� .�$G���/! �������� �� �� .�K/$

(������'�� ��� �������� .�L/ ��� 3�,�� .��/ '��� �����1��

��� �������� ��++���� ��) �� '���! 3'� ��) ��������

�'��� +�+�� '��� ��*������ � ���� ������,: �

� �'��� ��� ��� �����& �,� ��� �� ����� ��� �� ��

� �'��� �� ������ ���� �, � �� ����� � �� ������� � + ��

�� �&�

� �'��� �� �� '������ � �!

3'��� ��*������ � +� '� ������� ��� �+ � �� ��� �����

�� �! 3'� '� ��) +�� �� ��� �� ��� �� � ������������� � ��

����� � �6� �������� � ������ '� � �� ��� ����� �� �!

3'� �������$ ��������������� ��) ����� �+ � ��� ��

�2������� �,

� � ���&3��� � - ����

1'��� ��� M ���� ��� �3��� M �! 9��� ���$ &��� ��� ���

�������� '� ������ ��) �������� ! - �� '� ��)�+�� ����

�� ��2 ����*�� �, ��� �� '� �6� �����! #��� '�� ���

��) �������� ��� �� ���� �+��� ��� ������� +��� �! =��

���� ����� ��) �������� � '� +�� �� �� ������� � '� -

�� ��2! 3'� ��) �������� �� ������� � '� � ������ ���

�������� $ �� � '�� 1� �� � �+ ������� ��� ���$ � 1� ' '�

��++������ '� '� ����� ��� �� ��� �� �� '������ � �!

)���������� �� 1��� '� ���� � �+ ��++���� ��) +�� ��� ���

�+ �� ���� 1� ' ������ � '� ����� �+ ��) �������� �

�������! 9�1����$ ��' ����������� ��� ��++��� � ��5�$

������ ��� ��) �������� ��� �� ������� +��� ��++����

�� ��������� ������ ��� ������!

$� %#� &���'(� ������ )�" &�����3'� ��� ��� ��) �� '��� ��� �� ������� �������' � +���

'� ��) �������� ! =��� � �� �� ����, ���� I��� '������

����� ��� �� ��� 1�� +��� ��� '�� ��� � +��� ���$

����, �, ����� �+ �) �� ���8�)� ����������! %� ����� �

����� ����+� ���$ '�� �������' ���� �+��� ��) �������� �

'� ��� �� ����������, � ��� �, I��� '������ .�$K/! 31�

��++���� � �� ����� ��� �����,��!

�& �, �� ���� ��� �� �� �� '�������-�� � �$

��� M � � �3�&���3$ ��� '�� � �� ���������

��� �� �)� ���������� ����� �� ��� � ������ ���

+��� �! 3'� �������-�� ���������� ���++����� ��� �� �+

'� ����� �� '�� '� ��� ��� ��! 3'�� �� '� �������'

��� �, D��� �� �� .�/ ��� �0�J���� �� �� .>/!

�& )����� �� � ��� +��� �� '�������-�� � � ���� � ���

�� �)� ���������� �����$ ��� '�� �) �� ���+�����

�� '� I��� '������ � �� ��2! 3'� +��� �) ������

��� ����� '� I��� '������ ����� ��� �� ���! 3'�� �� '�

�������' ��� �� '� ���) .�/ ��� A��) .K/ �� '���!

� '��' '� ������ �+ ��) +�� ����� �� �����$ '� ��0�� ���

+�� ��� �+ '� ��) +�� �� 1�� ����� �2����� �, � � ��! 3'�� '��

��� � � ����� �+ ��++���� ��) �� '��� ��������� �������$

���' 1� ' � ��++���� +����� ��� ���� �� ���� ������+�! %�

������ ������ �, 3�,��$ 9�J�5������ ��� =���� '� ��)

��0�� ��� +�� ��� 1�� �������� ��� '�, �����+�����,

���� �� � '� ����� ���� �+ '� ������� ��� �� ��2 �+ �

��� � ��+���� �� �3�& �� ���� ��� � '� ��) +�� ��!

$ %#� ���������� �����* +�%�, � � ��� ������� ������������ ���� �3�& �$�& �� '� ������� ��� �� ��2 �+ � ���& ��� � ���&!

�3�& ��� �� ���5���+����� ! % �� '�� ����������� � ��

�) � ��������� �3�& �� � �� �� '������� ����� �� $ '�

������� �� ��2 4 �$ & ��� '� ������������� ����� �� ��2

! �$ �&:

�)��3�� � !43 ����3'� �3�& ������� ��� �� ��2 '�� � ����� ���� ��� � ��)

+�� ���! �, ��1 ��� �� �� � �� '������ � '� ������ �+ 4

'� �) ������� �� ��2 �+ �3�& �� 4*� ��� ��&&$ '���

���� �� 3���$ 1��� ,���� � ����� ��� �� ��� M ���� �� '����

��� � �! 9����$ �, �� '�������-��� � � 4$ 1� ��

-HI � �� $43 1'��� $ � �4 �����, ��� �� �� '� ��1 ����� �+ -HI �$ �& �� � �� �� ��� 3

���

��� ��! -HI ���� �� ��� ��� ��� � �� ��� ����� �� � 1� '

Figure 2. Score–loading correspondence for the latent variableregression (LVR) models involves two matrices X and Yhat andtheir score matrix T with its corresponding loading matrices Wand C.

)��,���' � ���� ;�'� D���, F ����$ � �! ! "#���������� ����� 9;: ���G7

������ ��

������� ��� �+ '� 1�� '� ����$ 1� ���� �����, ������ '�

������������� ��� +���� ��� ������ � � ��� �� �)� �����!

9�1����$ '� ��1 ����� ��, ��1 �� ������ ������� ���

'����+& �+ -HI ���� ��� ��� ��� �� �� ������ ��� ��� '� ���

�� ��� � ������ � �� ��� ����� +��� �! 3'�� �++��� '�

��������� , �+ ���� ��� �����+�����, �������� ��) +�� ���! "� �

'� '� ������ �� '� -HI ������� �� ��2 ��� �� '������ �

��� ������ �� �! 3'�� ����� '� ��� ����� ��� �� � �������,

�����,��� 1� ' � '�� ���� ��� ��� �� $ ��� '� '�

������� ��� �� ��2 �3�&$ �� �� '�� '� �) �������� � �+ �

4&$ ��+���� ��� ������ ��� �������� �! <, ������,$ '� ����

'���� +�� '� � �� ��2 ��� � � �� ����� >HI$ : ��� !!

$$ %#� ���� �'(� ������ )�" &�����$$� )�" ���#�� +-�.�������� � � /��� ,! 3�5���

����� ��� �+ '�� ���� $ =���� .G/$ 9�J�5������ .��/ ���

��������, ��� .��/ �����P����� �� '� ������ �) �������

��� �� �+ -HI! 3'�� ��2���-�� '� ���� �+ ��� M ����$ 1� '

����� M �! 9�1����$ ��2���-��� '� ���� �+ ��� �� ��

�*������ � �������� '� ������ I��� '������ ��������

����&3���� +��� �!

$$ )'0�� +%�1(( � ��!,! ����� �,$ � 1�� �'�1� �,

3�,�� .��/ '� +�� ������ ��� �6� ������ ��' �� ���$ ���,

'� � �� ��� ����� ��� ��� �� '� ����� �� ��2 $ ����� �

�� �������! 3'���+��� �� ��) P� �� 1�� �������� �����P�

����, � ������ '� � �� ��� ����� �� $ )������� '�

+����1��� ��� ����:

��2�$3����� � ��2�$3������

����� � �� �3��� � 1 ����

<, ������, 1� ' '� ��0�� ��� +�� ��� �+ ��� � ��2���-�

H�I ����������$ '� ��2���� �*���� ���������� ��� ��

��� M ���� 1� ' ������ � $ �� +��� �� '� �������� ��

������� �� 1� ' '� ������ ���������$ ����

�-3HI$$

3-HI���� � ���� ��7�=�� � ������ , ��� ��$ ��� �� �� +�� '� ��++������ ��� ��

&�& �� 1��� '� P�� ��� �������� ��������$

��� M ���� M � &�&8�&��$ �� �'�1� �� ��+������ .�/!

3'�� ����� ������, 1� ' ��� ����1�� '��� � �� ��������

�� � � ',���� ��� �� '��$ �� '������ ���0�� ���� � �� ��

� �� ��� �����& .�/$ 1'��' �� �� �� �� ��'�����,!

2* =-$/�7

����� �� � ������� ��� �+ � �������� ��) +�� �� ��� '�

� ������ ��� �� '�� '� ��*�� ����, �2 ��� � ������ ���

�������� � +��� �! � �2������� �������$ '� ������ ���

�������� � ��� ����� �,

�)��3�� � !43 ����4��' ��� �������� �� '� ������ �) �������� �3& �+

'� ��+�� �� �3�&! 3'�� �� '� �������' �+ '� �%#���

�� '�� �+ �� ;��� .��/$ ������ ������� ���� � � ���

���������� ���� ���� +�� � ������ ,&! "�1$ ��� ��� ��������

'� �� ��� � ��� �) �������� � �+ �3�& ��� �2 ��� ��

���� ������, ��� ��� �� '� "%��� ��� �� '��$ ��

�'�1� ����1!

2*9* <���� ��� &�� ����� ���� �! �) �3�& �����4 =���� �) �������� �������� �+

�3�&

�! $ M �4 )����� � '� ����� �� ��2 $

�! ! M �3$ $3$&�� ?�� ���� �*���� � �� ��� � �

�������� !

7! �'� M $!3 ������ �

#���� �+ � � � � $43 � -HI ��G������� ��� �+ � � �'� � $!3 ��>�

3'��� � ��� ��� ��� ���� ���� � '� "%��� ��� �� '�� +��

������ ��� '� +��� ��� �������� $ �2��� '� � �� ��2 4

�� ��� ��� ��� �+ � ������ ��� ��! �� ����� ��� �� � �������,

�����,��� 1� ' � �� ��� ��� �� $$ ������ '� ������ �+ -

��� �� '������ � '� ������ �+ �! 9�1����$ '�� ���� ��

����, �� �� ���� ������ ��� �����! 3'�� �� '�� 1��� ���,

1��5 1��� �� '��� �� � ���� 1'��� '� � �� ��2 ���� ��

��� ��� � �� ��� ����� ��� ����� �� � �� ��$ ����

�����+�����,$ 1'�� � �� ��� ����� �� � '�� �� ����

��� ��� �� $!

2*�* $�� ������ ���� ?� ����� ��� ���� �� �� ������ ��! " ��3'� ��) +�� �� �� '� ����� �� '�� 1�� ���� �� �� +�� '�

�����+�� ������ �+ �������� � �� ��� ����� �� � +��� '�

����� �� ��2 $! 3'� ������� ��� �+ '� ��) +�� �� ��� '�

����� ��� �������' ���� �� �� � ��1 �� '�� ������ ������

.��/$ ���� ��� � '� ������ �������� , � �����! 3'� �����

��� ������ �� '��� ��� ���� ���� +�� ������ 1� ' � ������ ,

��� ��! ������ ������ � �� ������ � � ��++���� �, '��

� '�� �6� �� '���! 3'�� �� ������ '� ������� ��� �� ��2

�3�& ���� �� � �� ' � ��� �! % ��� '���+��� '�����

� �� ��� ����� �� �� ' �� �����! 3'� ����� �+ � ������� '�

���� �+ � �� ��� ����� �� �$ 1'��' �� ����� �� +��

��������� '� *��� , �+ '� ������ ��� ����� �� �! <�����

� �� ��� ����� �� ������� +��� �� ' � ��� �$ ������ ��

������ ��� �� �� ' 1�,�$ �� �! ��'��� �� �������1 �+ '�

������ ����� �� ����� �� =���� � 1'��� '� ������ �����

'�� ��� ������ ��� �������� +�� �� ' � ��� �! 3'� �����

�+ � �� ��� ����� �������� � ��� �� ��++���� �� '� 1�

�� �����$ �� ������,��!

$� )'0�� ��(����#� +�� ����������� � /�(��� 2,�! .!$7$4/ M �) �3�& )����� � � �) �������� � �+

�3�&! ! M �� '������� �����

�� ��2$ 7 M ������� ����

�� ��2$ 4 M �� '������� �������

�� ��2

�! $ M �4 � ����� �� ��2 $

�! I��� � �)�-3HI$� %+ ��,$ ��*�� ����, ������

� �� ��� ����� �I���&3I����

+��� �! D'�� ����$ ����� � �� �

� ��� � '� ����� �� ��2 $!

-HI M ��:!3&

7! : M �! � ����� �� ��2 :

�! �H��� � �)�>3HI:� %+ ��,$ ��*�� ����, ������

� �� ��� ����� �(H���&3H����

+��� �! D'�� ����$ ����� � �� 7

)��,���' � ���� ;�'� D���, F ����$ � �! ! "#���������� ����� 9;: ���G7

�G ;! 3�,�� ��� �! D���

� ��� � '� ����� �� ��2 :!

>HI M ��:!3&

G! <?M :3:&��:3$ ������ : 1� ' � ���� �*����

�� '��

<3M $3$&��$3: ������ $ 1� ' � ���� �*����

�� '��

� "� �: �+ '� ���5 � �+ '� �) �+ �3�& �� ������� '�� '�

��������� ���5$ �!�! � ��8��� � ��� ����,$ � ��� �$ � ��� 7

���� � �������� � �'��� �� ����� �� ����� � � �� G!

%+ � ��� � ��� ��� � ���� ���� �+ �����$ '� ����� �+

��������� �������� � �� � �� �$ �$ ��� �� +��� ����� �� �

������ ����� ��� .�7/! � ��� ���� �� +��� +��� � ������

������ �� ��� ����� �� 1��� �3�& ��� �3! %� � ��� � ��� 7

'� ��) +�� �� �� ��������, ���, �+ � �� ��� ����� �� ������

�� �� '�� $ �� :! %� +�� $ � ���� ������ ��� ��� +�� I��� ��

�H���& �2�� � ���, �+ $ �� :& ��� ���� � �� ��� �����! %+ ���

���� �� �2�� $ '��

� 4$ <3! ��� $ '��� ������������� ���������������

� $ ���� �� ��� ��� � �� ��� ����� +��� ��

� $ �������� � ���� ������ ������ ��� ����� �+ �! 3'� ���

��� ������ '� �� ������ ��� � ����' +��1���! "� � ��� ����

��� ���+����� �� 1��� '� � ��� '� � ����5! ���� '�

��� ��� �) ����� �+ �3�& �� 5��1�$ ��� ��+���� ���

������ � �� ' ����� '� � �� ��� ����� ��� � ������

'� � '�� �� ��2 �� 5��1�! 4��' �� ��2 �� �������

������ ��,$ �� ��� ��� � � '�� �6� �� '���!

$ %#� )'0�� �����3'�� �� ���� � �� � +�� �� ����,��� ����� 1'��� '� ����� ���

�� � ��� � �� ������ �� �� � � ��� ������ �� � ��� � ���

��� � �����+�� +�� � ��� � ������ ����,!

#���� �+ � � � � $43 � $I����3I��� � - ��K�

#���� �+ � � � � :!3 �:H����3H��� � > ��L�

%���� ���� ��� 3��? � $ � :<? �/3? ����%���� ���� ��� ?��3 � : � $<3 �/?3 ���������� ��� �+ � � �'� � $<3!

3 ���������� ��� �+ � � �'� � :<?4

3 ����$ �$�& ���: �$�& �������� '� ����� �� ����� +�� � ���

Figure 3. O2-PLS provides a model of both X and Y. Each model can have a different number ofstructured noise components, but the jointly correlated X–Y components (T,U) will always be ofthe same rank. It is also predictive in both ways.

Figure 4. Illustration of the steps involved in the O2-PLS algorithm which separates the structurednoise in X and Y from the joint X–Y correlated variation. T and U will always be of full and equalrank. The number of structured noise components in X and Y may differ.

)��,���' � ���� ;�'� D���, F ����$ � �! ! "#���������� ����� 9;: ���G7

������ �>

� ������ ����, 1� ' � �������� �! 4 �$�& ��� ! �$�& ���

'� 0��� �� '������� ������� �� �����! - �$�& ��� > �$�&

��� '� ������� �� ����� +�� � ��� � ������ ����,! 3'� �����

���� ���� +�� � ��� � ��� ����� �� 4*� ���� ��& ��� ��&

������ ����, ��� '� ������ ��� �*� ���� �+ � ��� � ���

����� �� 4*� ���� ��& ��� ��& ������ ����,! �I��� ��3& ��

'� ������� �� ��2 1� ' 3 I��� '������ �������� � ���

$I��� ��3& �� '� ������������� I��� '������ ����� �� ��2!

�H��� �$3,& �� '� ������� �� ��2 1� ' 3, H��� '������

�������� � ��� :H��� �$3,& �� '� ������������� H�

�� '������ ����� �� ��2! % �� ����������� � ����,-� ���

�� ����� '� I��� '������ ��� H��� '������ ����� ��� ��

�������� �� ��+������ .��/! 3'� ������ �� $I��� ���

�� '������ � ���' � '�� �� ��� '� ������ �� :H���&$ �

'��� ������������� �������� ��� ��! "� � '� '� �������

�� ����� - ��� > ��, � ��� ��� ��� � �� ��� ����� ��� ���

�� +� '�� ���������� �� � �) �������� �! � '��' ��

��+������� '� ������ ��� �����$ � �++�� � '� �������

������� ��� ��' �� � ���� �� �� ���! "� � '� $I��� ���

:H��� �� �� ��� ��� � � '� ������ ��� �+ � ��� �

������ ����,! 9�1����$ '�, ��� � ��� ��� �+ '� ����� ���

'� ����� �� � �� ����� !

$$ ����� ( ����3'� ������ �� '�� �� ����� �� '� "%��� �� '�� +��

���� � ���$ ��� '���� ������ ��� ���� ���� 1� '

������ � ���� � �+ ������� �� �! 9�1����$ ������

��*���� '� '� ������� ��� �� ��2 �3�&$ �� �� '�� � �

��������� �������� �$ ,����� '� ��2��� ���������� 1� '

� �� �& �� '� ���� ��� $ ��:& �� ��2� ��� � ��� �$ � ��� 7 ��

'� ������ ������ '�! 3'�� 1��� �� �� '� ���� �+ � �� �

��� ���� ������� �� �! =�� �2�����$ +�� � '� ������� �� ��2

-HI M �� $43 1��� �� '��� ������ �� '������ � �! ���

1�, � ������� 4 �� � ����� '� ������ ��� �+ '�

���������� �� ��2 ���� '� ��� �� -HI ������� �� ��2 ��

�3-HI&! � �� ��� ����� +�� '� ������� ������ � ���� ��

�!�! '� �������� �+ '� ������������� ����� ��� ����

��������! 3'�� ��� �� ' ���������� �� ����� ��� '�� ��

�3�& M �3�& � �3-HI& ��� ��� � '� -HI �� ��2! % ��� �

� �� '� �� �� �+ '� �� �+ �*���� ��������$ �� �3-HI&8

�� �3�& � ��&$ �� ������� '�� � ����� '���'���! �!�! �!��!

����� '� ���� � ��� +�� '� � �� ��2 ��� � � ! �� ��2 �

������� � 1� ' � ��� -HI 1� ' >HI!

@* -�A=��-�

31� �2������ 1��� ������ �� � '�1 ������ '������

� �� ��� ����� �� �� ' � ��� � �������� 1� ' � ������

��� ��� ������� �6� �� '���&!

@*9* ���( �� �+��& �3� ��� �2 �� ���� � '� ����������$ '� I���������� ���

������� ��$ ����, ��� �� � ��� ���������� ! 3'�� ��++���

+��� ���� ����� �� ������ � ������� ��� �2������ 1'��� '�

I���������� ��� ������ ��*�$ �2�� ��� ���������� ! 3'�

� � ��+3� � ��+

3� � ��+

3� �� ��2 � M >�$ � M ���& ��� ����

'��� ��++���� ����, ��$ ���' 1� ' � ��*� ���+���! 3'� � ���,

3� � ��,

3� � �G,

3� �� ��2 � M >�$ � M ��& ���� '�� '���

��++���� ����, �� 1� ' ��*� ���+���� ��� ��++���� +���

'� H����+����! 3'� � ��� � ���+���� ��� ��� �� �� =����� ��

��� �� ������ ����,! 3'� ������ �� ��� ��� ��� +�� ���

����, �� ��� ���� ��� ���� ��� �� '������ � ���' � '�� ��

���' �� ��2� '�1����$ ��� �+ '� ������ �� ��� ��� ��� �� �

��� � �� ���� ���� ��&! %� ���� ���$ ������ ����� 1�� �����

� ���' �� ��2 � ����� +�� ��� �Q �+ '� ����� ���!

@*�* B��(� �� ( ��� �+��& �3'�� �� � �� .�/ 1�� ������ �� � 5-� "����$ �J ���5$ �1����!

"%� �� � 1��� ������ �� �� ����� �������� ������ ���� ��

����� � ������ '� ������� ������� , +�� ���' �'�� ! 3'�

������� , ��������� +�� ���� �� � � ������ ������ �� +��

'� ��� ����� �� �'! 4��' "%� ���� �� � � ����& 1��

������� �� '� 1������� ' ������ 7����K�� ��! "%�

���� �� 1��� ������� �� �K� ����� �������� �'�� �

� M �K� � ����& ��� '��� ������� ��� � M �K� � �& 1���

������� 1� ' � ��+������ �� '��! 3'� �� � 1��� ���� �� �

Figure 5a. The profiles of the three analytes in X used in thesimulated example. The analyte with the full line has an identicalconcentration vector to one of the analytes in Y (Figure 5b). Theprofiles of the three analytes in Y used in the simulated example.The analyte with the full line has an identical concentration vectorto one of the analytes in X (Figure 5a).

)��,���' � ���� ;�'� D���, F ����$ � �! ! "#���������� ����� 9;: ���G7

�K ;! 3�,�� ��� �! D���

� ������� ��� �� �+ ��� ������� ��� � ������ ��� �� �+ '�

��������� G� �������!

C* ��>$4A�-

�� ������ ���� 1��� ���� 1� ' ���'����������� ��+ 1���

�� #3�<� �, #� 'D��5� ���������������&! ���

���� � 1��� ������ �� 1� ' �%#)�� �! �� ��+ 1��� �,

?�� ���� < ������ ��������&! 3'� ����� � � �� ���

������ �� ��� ����� �� '� ������2!

D* �-�:�$�

D*9 ���( �� �+��& ������+��� ������������ ��� .��/ ���������� '��� ���

�������� �! �����, �+ '� � ������ ��� ����� ���� �

�� ����� �� 3���� %! L�Q �+ '� ����� ��� �� � 1�� �������!

"� � '� '�� ���� �� ������ � '� L�Q �+ � �� ������� ��

1� ' �! 7LQ �+ �1�� ������� �, � ��� 1� ' ���� ������ ���

����� ,$ �� ������ �� �, '� ������������ ��� ������ ��

4�I'� ! =�� '� ������ �����$ ������������ ��� ����������

��� ������ ��� H�I �������� ��� 1� I��� '������

�������� � +�� � ��� ��� H��� '������ �������� +�� �!

�����, �+ '� ������ �������� ���� � �� ����� �� 3����

%%! 3'� � �� �2������� ����� ��� �+ � +�� '� ������ ����� ��

������� � '� +�� '� ��� �����$ �������� '� ������ ��

����� ��� �+ �! 9�1����$ �� ���� �� ��� '� �����

�������� � ��++��$ �� '� ������ ����� ������ �� ������� ��

��� ����������� �� � �� ��� �����& ����� ��� �� ���'

�� ��2! � ������,�� �� 3���� %%$ '� � �� ��� ����� �� �

���� � � G�Q �+ '� � �� ����� ��� �� �! 3'� ���, �����

��Q �+ '� ����� ��� �� � �� �������, ������� �� 1� ' �! 3'��

��+���� ��� �� �� �������� �, '� � ������ ��� �����!

3'� ������ �� ������ ����� ���� ����� ��+���� ���! =��� $

'� �2������� ����� ��� �+ � �� ����� K�Q$ 1'��' �� +�� ����

'�� 1'� '� � �� ��2 ���� ����� �+ �! 3'� ������ +�� '��

�'�������� �� �+ ����� '� � �� ��� ����� �� ������ ��

�$ '���� � ����� �� ��� � ����� '� ����� ���! 3'��� 1��

��Q � �� ��� ����� ������� �� � ��IH�&! 3'�� ��������

����� �� ���� ��������� '� H������$ ������ � ���' ��

���1�� �� � ��� ����� '����� ���, 7�Q ������ ��� ����� , �+

�! 9�1����$ ����������� '� ����� ��Q ��I����& �+ '�

����� ��� �� � ��� �� ������� �, �$ '�� 7�Q ������ ���

����� , �������� � ���� ������ ��� ����� �+ '� ��Q �+ �!

3'� ���� ���� +�� '� I������ '����� N���,O �>Q ������ ���

����� , 4�H'� & � 1'��� ���, ��Q �+ � �� � ��� ������ ����

��H����&!

<� ' ��� ��� ������ '��� �� ���������� ���++�����

��� ���$ ��� +�� ���' I���������! 3'� ���++����� ��� �� +��

I��������� �� ���5 ��2��� +�� ����, �� ��� =���� ��& +��

��� ��� ������ �� ��� �� �� =����� G� ��� G� ������ ����,!

"� � '� '� ���������� ���++����� � +�� ������ ���, ������

'� ������ ��� �������� � �� �$ �� '� � �� ��� �����!

4��� '��' '� 1� �� '��� '��� ������� ������� ����

��� ��� ����� ,$ '� ���������� ���++����� ���+���� ��� ������,

��++���� ! ��� ���� �� +�� �� � � �� ��� ����� +��� �!

Table I. Summary of PLS model for simulated example

� ����� )���! ��H���� ��HI� ��H ��I'� 4�I'�

� � � �!GL �!�7 �!��

� � � �!K> �!�� �!��

2 � � 1*EC 1*@E 1*@2

Table II. Summary of O2-PLS model for simulated example

� ����� )���! ��H���� ��HI� ��H ��I'� 4�I'�

� �!G� � �!G� �!�7 �!��

� �!77 �!�L �!K� �!�G �!��

2 1*2� 1*D2 1*EC 1*@E 1*@C

� ����� )���! ��I���� ��IH� ��I ��H'� 4�H'�

� �!G� � �!G� �!�G �!��

� 1*C9 1*29 1*F� 1*2� 1*�;

Figure 6a. The normalized PLS regression coefficients forY-variable 25. Structured noise in X negatively influences theinterpretation, because the coefficient profile should be similar tothe analyte in Figure 5a (full line). Figure 6b. The normalizedO2-PLS regression coefficients for Y-variable 25. O2-PLSseparately models the structured noise in X and therefore theinterpretation of the regression coefficients is similar to theanalyte in Figure 5a (full line).

)��,���' � ���� ;�'� D���, F ����$ � �! ! "#���������� ����� 9;: ���G7

������ �L

3'���+��� � '�� � � ������ ���� ���� � �� '� ����������

���++����� � �� ����� � ������ � '� � �� ��� ����� �� �

'� 1��� � '��1��� ���� ����, �++�� ������ ����! 9�1�

����$ '�� �������� '� *��� , �+ �� ����� � ��� ��� ������

������� ��������������$ �� ���� �� =���� G�! % �� ����

�� �1�� ', '� 1'��� '� ��� ����, � '�� � � ���5

��2��� � H��������� �� ��� =���� ��& '� ��� ����������

���++����� � ����� '� � ���� ��� ������� ��� �2�� �$

�� '��' � ���� �� ! ������ ������ ��, ������ '�

� �� ��� ����� ��� ������� �� ����� ���! 3'� ������

���+��� �� =���� G� �� ������, ������� � '� ��� ����, �

���+��� ����� �� �� =���� ��!

� ��� ����� �������$ '� 1� �� '��� '��� ������� �������

������������ �� ������ ���� �+ �$ �� �2��� ��! %� � ���� �����

������ ��� ����� �� �� 1� ' +�1 ���������� I����������$

'� ������� ������ ��� ����� � ���� �� ��� � �+ '� *��� , �+

'� ����� ����� 1� ' �� ��������������� �� ��� �+ ����� ��

I����������! 9�1����$ �� '�� �2�����$ � ������ � �+ �������

��++���� ����, �� ����� ��� '�� 1� ' ���,��� ������ ���

��� ���+����! % '�� �� ������� ��$ ����, ��� �� � ���

���������� ���������$ 1'��' ��5�� � �+ �� �� ���� � �'�1

��������������� �� ��� �$ ������$ ��������� �� 1'��'

�������� ��� ��� �$ ��++���� � �� ��� ����� ����� ���� 1���

��������, �++�� '� ��� ��� � � �� ����� � ���! � ��

�2����� �+ '��$ '� ������ �� ����� �������� ����� �+ I�

�������� �K +�� '� ��� ����� ��� ��� �� �� =���� >!

9�1����$ +�� ������ '��� �� �� ���� � ��� ������ �

,����������! %�� ���$ '� ��� ��+���� ��� ��� +�� '��

������ �� '� �������� ����� ������ �� : ������! 3'�

������ ����������� ��� �� ��� �� =���� K ������� � ���� +�

�� 1��� '� 1� ������� �� ����, �� �� � ��� �! 3'�

�� ����� � ��� �+ '� ��������� �� � ��� � ���� �� � '� :

������ �� +��� �� '� ������������� ��������� ��� =����� L�

��� L�! =�� � '� ������������� ������� ��� �� �� '� 4

�� ��2 �� ������ �, '� ����� ����� �� '� <3 �� ��2! =�� �

������ ������ ��� �������� $ �� �� '�� �2�����$ 53 �� �

������! � �2��� ��$ �� ����� � ��� �+ '� 1� � �� ���

����� $I����I���3& �������� � �+ � ���� �+��� '� � '�� 1�

����, �� �� � ��� ���5�� ���+���� �� =���� ��&! 3'� ������

� �� ��� ����� �������� �+ � 1�� � ��2 �+ '� 1�

����, �� �� � ��� ���5�� ���+���� �� =���� ��&! ������

1��5� �� 1��� +�� '� �� � ��� 1'��� ���, ��� �� +�1

���������� I���������� �2�� $ �� �'�1� �� '� "%� �2�����!

��� ���, ������ � ���� � �� '� +��� �������� � '���+���

'�� �� ��� ��������, ���� �� �2�� +�� ��� �� � '�� �������

�� '���! 3'� �������� �� � +�� '� ������ ����� �������

���� �++����� � ���� �� �� ��� '�� ��� ������! %� � �������

+��'��� '� ������ ������ ��� ����� �+ � ��� �� ����,-��

��� �� ����� ��$ �� '��' '�� �� �� �'�1� '���!

D*� B��(� �� ( ��� �+��& �)����������� ��� ���������� +��� ��� �������� �!

�����, �+ '� ��� ����� �� ����� �� 3���� %%%! LL!GQ �+

'� ����� ��� �� � 1�� �������$ � �� ��+���� ��� �2�� � ��

'�1 ��' �+ '� ����� ��� �� � �� ������� �� 1� ' �!

�����, �+ '� ������ ����� �� ����� �� 3���� %6! "� I�

����� �� �'�1�$ �� '� � �� ��2 ���, '�� ��� ��������! 3'�

������ ����� '�� ��� ������ ��� �������� ��� +��

� �� ��� ����� �������� � �� �! 3'� � �� ��� �����

���� � � K>Q �+ '� � �� ����� ���$ ��� '� ������� ��

����� ��� ���, ��Q! 3'� � ����� ��0��� , �+ '� ����� ��� �� �

�� �� ���� �� � �! 3'� ������ ���� �+ ��� ��� ������ ���

���� ���� +�� �������I ������$ �� �� ���� �'�1� �� 3����� %%%

��� %6! 3'� ������, ����� ��� 1� ' ������ �� '�� �2�����

Figure 7. Predicted versus observed scatter plot for the PLSmodel Y-variable 18. These plots are of little value to interpretwhen there is structured noise in Y.

Figure 8. Predicted versus observed scatter plot of the u scoresfor the O2-PLS model. It reveals a good fit between the twocorrelated analytes given by their corresponding loadings for Xand Y shown in Figure 9. It is the most informative plot whenstructured noise is present in Y. This plot is not available for PLS,because PLS does not model Y in the same way.

)��,���' � ���� ;�'� D���, F ����$ � �! ! "#���������� ����� 9;: ���G7

G� ;! 3�,�� ��� �! D���

�� '� ������ ��� �+ � �� ��� ����� �� � +��� '� ������� ��

������ ���& ����� ��� �� �! 3'� +��� 1� � �� ��� �����

�������� �������� �I���& ��� ��� �� �� =����� �� �& ���

�� �&! 3'� +��� ������� ��� ��$ =���� �� �&$ ������ >7Q �+ �

��� ��������� � � ���� 1� �� ���5! 3'� ������ �������

��� ��$ =���� �� �&$ �� � �������� �++�� �������� 1� ' '�

1� �� ���5$ �������� ��� LQ �+ '� H������ ���! ��� ���� ��

�2����� �, ����� '� � �� ��� ����� �� �! 3'� ���� �+ '�� ��

��� ������, ���� �� '� +��� 1� ��� �������� ���������

��� =���� ��! 3'� 1� �� ������ ����� �L������� �� '��

'�����, ��+������ '� +��� 1� ��� �������� �$ �� '��'

��� �+ '� ����� ��� '�� �� ������� ��� � �$ �� �'�1�

������� �� =���� �� �&!

3'� ���������� ���++����� � +�� '� ��� ��� ������ ������

��� �'�1� �� =����� ��� ��� ��� ������ ����,! 3'�, ���

������, ��++���� ! 3'� ������ ���������� ���++����� ��� �� ��

���� ���� � '� +��� ��� ������� ��� �� � ���, +�� �������I

������&! 3'� ��++������� �� '� ���������� ���++����� � �����

������ � �� ��� ����� �� � +����� ��� � �� � � � �� � � �

�'��� �� =���� ���! 3'�� �� ��*���� �� ����� � ������ �

'� � �� ��� ����� ��� ���� ����� � ������ ����! 9�1����$

'�� ���� ����, �++�� � '� �� ����� � ���$ ������ � +����� '�

���������� ���++����� � � �������� �� ��-� ��� +�� � �

����� -���! 3'�� �� ��� ������, ���� ����� '� 1� ��

������ �L������� ��& 1'��� '� ������ � �� ��� �����

�������� 1�� +���� ��� =���� �� �&!

;* !�0!�:�.�0

3'� �� ����� � ��� �+ �6� ����� ������ ��� �� ���5�� � '�

������ �+ ������������� ��������������! �+ �� � �� ���

�����$ ��+���� �� �,� ��� �� ����� ��� �� ������� +�� '�

������ ��� �+ �$ �� ������ �� �! 42������ �+ ��' ����� ����

�� ���� ������, ��� �� ���������$ ��� �� �++�� � ��� ���� ��

�+ ����� ���! � �� ��� ����� ������ '� �������������

�������������� +�� � '�� �6� �� '��� ��� '� �������

�� �� ����� �� ����� � ���! % ���� ��������� '� ����� �+

������ ��� �������� �! ������ ������ �� '� � �� ���

����� �� �� ' � ��� � +��� '� 0��� H�I ������� ��� ��� ��

'� ������ ��� �����! 3'�� ����� � � ������� ����� �+

������ ��� �������� � ��� ������������� ��������������!

=� '������$ ������ �� ���������, �� �� +�� �� � ����

1'��� � ���� ������ � �+ ���,$ ����, ��� ������� ��

���������! 3'� ������� ��� �� ��2 �3�& ���,� � ��� ��� ���

�� '� ������ �� '��! % �� ����� �, ���5�� � '� ������ ���

�������� � ��� '� � �� ��� ����� �� �� ' � ��� �!

%� '� ����� �� �2����� �����$ � 1�� �'�1� '�1 '�

�������� ����� ������ �� ��� � �+ ��������� I����������

��� ���� ��+���� ��� 1'�� � �� ��� ����� �� ������ �� �!

3'� �������� ����� ������ �� ��� �+ '� ������ ?�������

�������� � ���� ������ ��� ����� �� 1��� '� ������� ��

����, �� �� � ��� �! % � ������������� �������� ��������

���� �� ����� � ��� �� �� ' � ��� �! %� '� "%� �2����� '�

������ ���������� ���++����� � 1��� ���� �� ����� ���� '��

Figure 9a. The corresponding O2-PLS loading vector in X for theu scores in Figure 8 reveals good similarity to the pure profile inFigure 5a (full line). Figure 9b. The corresponding O2-PLSloading vector in Y for the u scores in Figure 8 reveals goodsimilarity to the pure profile in Figure 5b (full line).

Table III. Summary of PLS model for ground cellulose example

)���! ��H���� ��HI� ��H ��I'� 4�I'� �#�4�

� � � �!�� �!7� �!�G �K�

� � � �!L7 �!7K �!7> �K�

� � � �!LL �!�L �!�7 �GK

7 � � �!LL� �!G> �!G� �G�

C � � 1*EED 1*;@ 1*D; 9C9

Table IV. Summary of O2-PLS X model for ground celluloseexample

)���! ��H���� ��HI� ��H ��I'� 4�I'� �#�4�

� �!�� � �!�� �!7� �!�G �K�

� �!�� �!>7 �!L� �!7K �!7> �K�

� �!�G �!K� �!LL �!�L �!�7 �GK

7 �!�7 �!KG �!LL� �!G> �!G� �G�

C 1*92 1*F; 1*EED 1*;@ 1*D; 9C9

)��,���' � ���� ;�'� D���, F ����$ � �! ! "#���������� ����� 9;: ���G7

������ G�

'� ��� ���++����� �$ ��� '� ������ � �� ��� �����

�������� � �������� � � ���� 1� �� ���5 ��� � ��������

�++�� !

3'� ���� ��� ��� ��� �+ ������ �� '� � ������ �� ' �

��� �$ ������ �� '� � �� ��� ����� ��� '� '���

�����,��� �������� � '��� '� ���� ���5! 3'�� ��������

+� '�� ����� ������ �+ 1'� ��������� ��� ����� �� +��

1'� ��� �+ '� �����$ �� � '� ������ ��� �����$ '�

� �� ��� ����� ����� �� '� ��������! ������ �'���

����� ������� �� �� �����5 ��� '������'���� ��������

1'��� ���, '� ������� �� ����� ��� �� �+ �� ���� ! ���$ ���

��� ���� ����� �� '� ����� ��������� �������� ���������

�, ;���5�� ��� #��(����� .�G$�>/! % �� ���� ���� �������� �

���� �� � N��� ��O �������� �� ��2 � �� ����� 1'��� �

��� ����, �� �� ���������! %� ��+������ .��/ � �� ��������� '�1

� �� � � '� ��������� �������� � �� � �� � �������+�

�������� � ��� �� �� �! %� ����������� ����,��� ��������$

� �� ���� �� �� ���� ���, ��������� �8�&! ������

1��� '�� +��� '� ����� ���� �� � '� ������ � ���

������� '� �����!

A���� � ������#��, '��5� ��� �� � A� 9����5 � �$ ��� � 5-� "����

+�� ��������� '� "%� �� � �� ! =�������� ����� +��� '�

E� ��� ���� D��������� =���� ��� ��� '� �1����'

"� ��� ������� �������' )����� "=�& �� ��� �+��,

��5��1������!

A��-07.�

3'� +����1��� ����� � � �� ��� '��� ���� ������ ��!

A*9* ��� �� � �������#������ ����� ��� �+ �:

��H � � ��

�-����

�� ��7�

Figure 10. The first two (largest) O2-PLS structured noise loadings from the NIR example are displayed. (a) Thefirst loading vector reveals a strong water peak around 1900 nm. It accounts for 74% of the total variation in X.(b) The second loading vector is a baseline offset combined with the water peak and represents 9% of the Xvariation.

Figure 11. The first two PLS component loadings (p1,p2) of the NIR example. The water region around 1900–2000 nm heavily influences the first two PLS components, although most of that variation has no correlation withY.

)��,���' � ���� ;�'� D���, F ����$ � �! ! "#���������� ����� 9;: ���G7

G� ;! 3�,�� ��� �! D���

������ �� ����� ��� �+ �:

��I'� � � ��

�$!3 � �����

�� ����

)����������� �� ������ ���� �+ �:

4�I'� � � ��

�$��!3�� � ����

��� ��G�

A*�* ������ �� � �������#������ ����� ��� �+ �:

��H � � ��

�-����

�� ��>�

#������ ����� ��� �+ �:

��I � � ��

�>����

�� ��K�

������ �� ����� ��� �+ �:

��H'� � � ��

�:<?43 � ����

��� ��L�

������ �� ����� ��� �+ �:

��I'� � � ��

�$<3!3 � ����

��� ����

)����������� �� ������ ���� �+ �:

4�H'� � � ��

�:��<?��43�� � ����

��� ����

)����������� �� ������ ���� �+ �:

4�I'� � � ��

�$��<3��!3�� � ����

��� ����

#������ � �� ��� ����� ����� ��� �+ �:

��HI� ��

�$I����3I������

��� ����

#������ � �� ��� ����� ����� ��� �+ �:

��IH� ��

�:H����3H������

��� ��7�

#������ 0��� H�I ������� ��� �+ �:

��H���� ��

�$43����

�� ����

#������ 0��� H�I ������� ��� �+ �:

��I���� ��

�:!3����

�� ��G�

�->-�-0!-�

�! #�� ��� 9 ��� "��� 3!������������ "���6����� ��� ���&!D���,: )'��'�� ��$ �LL7!

�! 3�,�� ; ��� D��� �! �� '������ ���0�� ���� � �� �� � �� ���$ �����! ! "#���������� ����� 9D: ��L���K!

�! D��� �$ 3�,�� ;$ <������ ��� � � 9! ���� ����� ���������� � �� ��� ��������! "#���������� � ���� ��6�1�� ����� CF: �������!

7! (����� � ��� #�� ��� 9! �������-� ��� ��� ��� �������� ��� +�� �������+����� ���� �� �+ ��� ! ������������� �LK�� 2E: 7L�����!

�! D��� �$ � � 9$ �������� = ��� �J '��� ;! �� '������������ ������ ��� �+ �������+����� ���� ��! "#����������� ���� ��6 �1�� �LLK� @@: �>���K�!

G! =���� 3! �� �� '������ ������ ������ ���! "#����������� ���� ��6 �1�� ����� C1: 7>���!

>! �0�J���� ;$ �������� �$ ;���+��� #$ E������ 9 ��� D����! � ����� ��� �+ �� '������ ������ ������ ��� ������� � ������� ��� ����+�� �+ ���� ��+����� ���� ��! "#���'������� � ���� ��6 �1�� �LLK� @@: ��L��77!

K! D�� ��'�� ;$ �� ;��� � ��� ������ E! A���� �� '������ ������ ������ ���! "#���������� � ���� ��6�1�� ����� CD: �����!

L! 4��5���� �$ 3�,�� ;$ ;�'������ 4$ <�� � ��� D��� �!�� '������ ������ ������ ���$ 1����� ����,���$ ����� ������ � ������� ��� �+ �������� �� ������� R���������� �� �! � �� "#�� ���� ����� @�1: �K���L�!

��! 9�J�5������ ! 6������� ��� ���� ����� ��� �� �������������! "#���������� � ���� ��6 �1�� ����� CC: ����K!

��! D��� 9! ��+ ��������! 3'� ����� ������ ��� �����2 �������! %� �1����� � ��� � ������ )6�������� $ ���! �$

Figure 12a. The PLS regression coefficient vectors of the NIR example. PLS rotates the regression coefficientsto cancel out the structured noise in X. This causes fluctuations around zero and negatively affects theinterpretation. This is most clearly observed around the water region (1900–2000 nm) where the largeststructured noise component was found (see Figure 10(a)). Figure 12b. The O2-PLS regression coefficientvectors of the NIR example. O2-PLS separately models the structured noise in X and therefore no rotation of theregression coefficients is needed as with PLS. This makes the interpretation easier.

)��,���' � ���� ;�'� D���, F ����$ � �! ! "#���������� ����� 9;: ���G7

������ G�

;�J���5�� E�($ D��� 9 ���&! "�� '�9������: �� ������$ �LK�� ����!

��! E���'��� �#! 3'� �� �� ��������! "#���������� � ������6 �1�� �LL�� 9@: ���!

��! 9�J�5������ ! ��� ���������� �� '���! ! "#�����������LLK� �: ������K!

�7! D��� 9! "�������� �� ��� ��� �, � ��� ��� ���� �*�������������! %� �������# 0����� � ����������$ A���� = ��!&!D���,: "�1 I��5$ �LGG� 77��777!

��! 9�J�5������ ! 0�������� ���#��� � ���� �� � � %��# ��'�(1$ ���! �$ <���� 3'���,! 3'�� �����'���: )����'����$�LLG!

�G! 4���� �! ��� ������������� �������������� ��� � ����� '������ +�� ���-� ���! ! "#���������� ����� 9D: �GK��>�!

�>! <�2 (4�$ 9� �� D( ��� 9� �� ;�! ���������� ���7*������ ����! D���,: "�1 I��5$ �L>K!

�K! �������� �$ E�� � 3 ��� #��(����� ;=! � ����� ���� ��� �+ �� '������ ������ ������ ��� ������ '�� ��� '����'���� ���� ���! ! "#���������� ����� 9D: �>G��KK!

�L! (������'�� 9) ��� �������� )! ���������� �+�� '������ ������ ������ ��� ��� �� ����, � �������������� �� '���! 3'���� ���� ��� �2������� �� � �,!"#���������� � ���� ��6 �1�� ����� CD: >��K�!

��! 3�,�� ;! 0������ ���� ������������ ������! 0#3 %#����$?���S ?������� ,$ ����� �L��7 ������������� ������ �� ������� ������������ �������������������������&!

��! ��� )�! 3'� �� ��� �� ����� � ��� �+ ����������������� ����,��� �� ������� �������'! �� �#1� ��LG7� �D: ��L���K!

��! A� ;��� �! �%#���: �� �� ���� ��� �������' � ��� ������� �*���� ����������! "#���������� � ���� ��6 �1���LL�� 9F: �����G�!

��! 3�,�� ;! ������ +�� *��� � ��� ��� *�� � � ��� ����,����� �� ������ � ������� ���! ! "#���������� ����� 9D: �K���L�!

�7! ;��5��� ;4! � 8���� 9���� �� 0�� ����� "���� � ��! D���,:"�1 I��5$ �LL�!

��! D��� �! )����������� ��, �� ��� ��� �+ '� ����� �+�������� � �� +�� �� ��� ��������� �������� � ������!%��# �������� �L>K� �1: �L>�7��!

�G! ;���5�� )# ��� #��(����� ;=! ����� ������ '���'�� ������ � � � �� ���� ����,��� �+ ������� �� �! ��"-7 !!�LLK� @@: ��������K!

�>! ;���5�� )# ��� #��(����� ;=! %��� ���� ������� ���� �+����� ������ '���' '� ��������� �+ �� �� ��������������! "#���������� � ���� ��6 �1�� ����� C1: �LL����!

)��,���' � ���� ;�'� D���, F ����$ � �! ! "#���������� ����� 9;: ���G7

G7 ;! 3�,�� ��� �! D���