Punctual fault identification through Machine Learning techniques

Έγκαιρη ταυτοποίηση
βλαβών με
αλγορίθμους
Μηχανικής Mάθησης
Α ρ ι σ τ ο τ έ λ ε ι ο Π α ν ε π ι σ τ ή μ ι ο Θ ε σ σ α λ ο ν ί κ η ς ,
Τ μ ή μ α Η λ ε κ τ ρ ο λ ό γ ω ν Μ η χ α ν ι κ ώ ν κ α ι Μ η χ α ν ι κ ώ ν Υ π ο λ ο γ ι σ τ ώ ν ,
Ε ρ γ α σ τ ή ρ ι ο Ε π ε ξ ε ρ γ α σ ί α ς Π λ η ρ ο φ ο ρ ί α ς κ α ι Υ π ο λ ο γ ι σ μ ώ ν .
Ψ α ρ ο δ ή μ ο υ Μ α ρ ί α , Α Ε Μ : 8 9 4 6 ,
Σ υ μ ε ω ν ί δ η ς Α ν δ ρ έ α ς , 1 3 I ο υ λ ί ο υ 2 0 2 1

Περιεχόμενα
Εισαγωγή
◦ Σκοπός Διπλωματικής Εργασίας
◦ Βιβλιογραφική Μελέτη
◦ Η συνεισφορά μας
Υλοποίηση
◦ Πειραματικό Περιβάλλον
◦ Τεχνολογική Επισκόπηση
Αξιολόγηση
◦ Τεχνικών ανίχνευσης
◦ Τεχνικών Ταξινόμησης
◦ T-test
Ιούλιος 2021 Έγκαιρη ταυτοποίηση βλαβών με αλγορίθμους μηχανικής μάθησης 2
Συμπεράσματα
Μελλοντική Εργασία
Δημοσιεύσεις / Διακρίσεις
Πηγές

Εισαγωγή
Εφαρμογή Αλγορίθμων Μηχανικής
Μάθησης σε παραγωγικούς τομείς
◦ Αυτοκινητοβιομηχανία
◦ Ανανεώσιμες πηγές ενέργειας
Ιούλιος 2021 3
Βιομηχανικό Πλαίσιο
◦ Μετάβαση από Προληπτική σε
Προβλεπτική συντήρηση στα πλαίσια
της 4ης βιομηχανικής επανάστασης [1]
◦ Αύξηση Χρόνου Ζωής Μηχανημάτων
◦ Μείωση χρόνου αδράνειας
◦ Βελτίωση τελικού προϊόντος
Έγκαιρη ταυτοποίηση βλαβών με αλγορίθμους μηχανικής μάθησης

Σκοπός της διπλωματικής
εργασίας
1. Έρευνα και εφαρμογή κλασσικών και καινοτόμων τεχνολογιών στον
τομέα της Ανίχνευσης και Ταξινόμησης Ανωμαλιών σε χρονοσειρές.
2. Σύγκριση τεχνικών Μηχανικής Μάθησης και αξιολόγηση της
απόδοσης τους.
3. Υλοποίηση ενός πλήρες και ευπροσάρμοστου εργαλείου
ταυτοποίησης βλαβών.
4. Ενίσχυση βιομηχανίας στην μετάβαση σε προβλεπτική συντήρηση.

Βιβλιογραφική Μελέτη
Ανίχνευση Ανωμαλιών
◦ Υλοποίηση και σύγκριση
◦ Γραμμικής Παλινδρόμησης,
◦ Τυχαία Δάση,
◦ Δένδρα Απόφασης,
◦ Μηχανών Διανυσμάτων Υποστήριξης (ΜΔΥ),
◦ Αναδρομικά Νευρωνικά Δίκτυα (ΑΝΔ) και
◦ Long Short Term Μemory (LSTM) δίκτυα [2][3][4]
◦ Συνδυασμός Συνελικτικών Νευρωνικών Δικτύων (ΣΝΔ) και LSTM βαθιάς εκμάθησης
διπλής κατεύθυνσης (Deep Learning Bi-directional LSTM) [5]
◦ Matrix Profile [36]

Βιβλιογραφική Μελέτη
Ταυτοποίηση Μοτίβων
◦ Αναγνώριση
◦ Νευρωνικά Δίκτυα βαθύ επιπέδου, ΣΝΔ, ΑΝΔ, Περιορισμένες
Μηχανές Boltzmann βαθύ επιπέδου [7]
◦ Αυτό-Οργανωμένος Χάρτης – κατηγοριοποίηση εισερχόμενα
μοτίβα σε νέες η προκαθορισμένες ομάδες [6], [10]
◦ Mueen –Keogh (ΜΚ) και οι επεκτάσεις του για ανακάλυψη
μοτίβων μεταβαλλόμενου μήκους [14]
◦ Δυναμική Χρονική Στρέβλωση (Dynamic Time Warping) [8],
[9]
◦ Matrix Profile [11]
◦ Ταξινόμηση
◦ Δένδρα Απόφασης, συνδυασμοί πινάκων απόφασης ,
ομαδοποίηση με τον κοντινότερο γείτονα [12], [13]
◦ Faiss [15]

Η Συνεισφορά μας
1. Αυτόματη αναγνώριση μοτίβων στο στάδιο της προ - επεξεργασίας
με ενσωμάτωση τεχνικών αναγνώρισης μοτίβων.
2. Χρήση μη ή/και ημί - επιβλεπόμενων τεχνικών που παρουσιάζουν
μικρές απαιτήσεις ύπαρξης ιστορικών δεδομένων.
3. Ανάπτυξη ποικίλων ευπροσάρμοστων σε διαφορετικά σενάρια
χρήσης τεχνικών Μηχανικής Μάθησης .
4. Συγκριτική μελέτη τεχνικών Μηχανικής Μάθησης σε πραγματικά
βιομηχανικά δεδομένα.
5. Υλοποίηση συνδυαστικής μεθόδου ανίχνευσης ανωμαλιών και
μετέπειτα κατηγοριοποίησης τους ως ένα πλήρες πακέτο
ταυτοποίησης βλαβών.

Υλοποίηση

Πειραματικό Περιβάλλον
Μηχάνημα λείανσης (grinding machine) που αναλύθηκε
σε πειραματικό περιβάλλον από την βιομηχανία
παραγωγής του.
Χαρακτηριστικά Δεδομένων
◦ Διάρκεια ΚΠ: ~23 secs
◦ Ρυθμός Δειγματοληψίας: 2ms
◦ 10 μετρήσεις αισθητήρων
Αισθητήρες
Wheelhead Power
Wheelhead Actual Speed
X Axis Force
X Axis Commanded Speed
X Axis Actual Speed
X Axis Actual Position
X Axis Real Position
C Axis Torque
C Axis Commanded Speed
Φυσιολογικός Κύκλος Παραγωγής (ΚΠ)

Προκλήσεις Πειραματικού
Περιβάλλοντος
1. Οι εργαστηριακές δοκιμές προσφέρουν
περιορισμένο πλήθος δεδομένων οπότε καθίσταται
δύσκολη η πλήρης αξιολόγηση μεθόδων ή/ και η
χρήση επιβλεπομένων τεχνικών.
2. Τα δεδομένα της ροής παραγωγής δεν
διαχωρίζονται ανά Κύκλους Παραγωγής (ΚΠ).
3. Τα δεδομένα που συλλέγονται αντικατοπτρίζουν
την κατάσταση ενός καινούργιου και σχετικά
υγιούς μηχανήματος οπότε το πλήθος σφαλμάτων
είναι μικρό.
4. Τα σφάλματα παρουσιάζουν ποικιλομορφία και
απαιτούν την υλοποίηση ευπροσάρμοστων
μεθοδολογιών ανάλυσης.
Τύποι Σφαλμάτων:
Πρόωρης επαφής
Ακουστική Παραμόρφωση
Παραμόρφωση Δόνησης

Δομή εργαλείου ταυτοποίησης
Προ - επεξεργασία
Ανάλυση
Δεδομένων
Ταυτοποίηση
Σφαλμάτων
Ανίχνευση
Σφαλμάτων
Ταξινόμηση
Σφαλμάτων
Απόκτηση
Δεδομένων
Γραφική Απεικόνηση

Τεχνική Επισκόπηση
Προ – επεξεργασία
◦ Ταυτοποίηση ΚΠ
◦ Φιλτράρισμα ΚΠ
Ανάλυση Δεδομένων
◦ Ανίχνευση Σφαλμάτων
◦ Αλγορίθμους Εντοπισμού Σημείων
Αλλαγής Κλίσης (ΕΣΑΚ)
◦ Matrix Profile (MP)
◦ Faiss
◦ LSTM
◦ Ταξινόμηση Σφαλμάτων
◦ MP
◦ Mueen’s Algorithm for Similarity Search (MASS)
◦ Dynamic Time warping (DTW)
◦ Faiss
◦ Faiss with MP/CPD
◦ MPDist
DTW

Ταυτοποίηση ΚΠ με τον Matrix Profile και τον MASS αλγόριθμο.
Ιστορικά
Δεδομένα
Ανιχνευμένος ΚΠ

ΕΣΑΚ
Φιλτράρισμα
ταχύτητας
Περικοπή των ΚΠ με φίλτρο ταχύτητας και αλγορίθμους ΕΣΑΚ

Μη επιβλεπόμενη τεχνική
Ανίχνευσης Σφαλμάτων
Αλγόριθμοι ΕΣΑΚ
◦ Pelt
◦ Binary Segmentation
◦ Window Sliding
Διαφορά Σημείων
Αλλαγών Κλίσης
Αυτόματη επιλογή κατάλληλου αλγορίθμου ΕΣΑΚ και εξομάλυνσης με βάση ενός
μηχανισμού παραμετροποίησης που αναπτύχθηκε με το ray πακέτο της python
Τεχνικές Εξομάλυνσης
◦ Moving Average
◦ Exponential Average
◦ Savitzky-Golay
Λειτουργία μεθόδου:

Ημί-επιβλεπόμενες τεχνικές
Ανίχνευση μοτίβων
(αλγόριθμος Matrix
Profile)
◦ Αυτόματη ή μη
παραμετροποίηση
Σφάλματα
Δείγμα
Ανίχνευση
Σφάλμα
Faiss βιβλιοθήκη
καταλογοποίησης
◦ Εξαγωγή στατιστικών
◦ Επιλογή χαρακτηριστικών
(Aλγόριθμος Relief)

Επιβλεπόμενη τεχνική
LSTM Networks
◦ Μόνο για σφάλματα
πρόωρης επαφής
◦ Απαραίτητη επιπλέον
ΕΣΑΚ προ-
επεξεργασία για
βελτίωση
αποτελεσμάτων
Σημεία Αλλαγής
Κλίσης
Σφάλμα

Ταξινόμηση Σφαλμάτων
Αξιοποίηση ιστορικών δειγμάτων (samples) σφαλμάτων για
κατηγοριοποίηση εισερχόμενων Κύκλων Παραγωγής (query)
Αλγόριθμος Παράμετροι Τιμές Αλγόριθμος Παράμετροι Τιμές
MP – Automated
Window
Correlation
Threshold
0.98 Faiss με
στατιστικά
χαρακτηριστικά
Index Indexflatl2
Upper Window Length of query Features (chosen
with Relief)
Media, Percentile
95, percentile 80
DTW Open_end True Faiss με
υπακολουθίες
Automatic
window *
CPD
Open_begin True MPDist Automatic
window *
CPD
Pattern Asymmetric MASS
*Ανάπτυξη μηχανισμών εύρεσης αυτόματου παραθύρου.

Δείγμα Νέος ΚΠ
Πρόωρη επαφή Ακουστική Παραμόρφωση Παραμόρφωση Δόνησης

Αξιολόγηση Ανίχνευσης
Σφαλμάτων
Μετρικές Αξιολόγησης
Καλύτερο αποτέλεσμα με Precision = Recall = F1 = 1 Faiss και LSTM
Πίνακας σύγχυσης
Ανίχνευση
ενός ΚΠ ως
σφάλμα
Μη ανίχνευση
ενός ΚΠ ως
σφάλμα
ΚΠ σφάλματος TP FN
ΚΠ κανονικής
λειτουργίας
FP TN

Ταξινόμησης
Σφαλμάτων
Πίνακα Σύγχυσης:
σφάλματος ως
τύπο Α
σφάλματος ως
τύπο Β ή Γ
ΚΠ σφάλματος τύπου Α TP FN
ΚΠ σφάλματος τύπου Β
ή Γ
FP TN
Μέγιστο αποτέλεσμα
Precision = Recall = F1 = 1
Μετρικές Αξιολόγησης:

Αξιολόγηση Ταξινόμησης
Σφαλμάτων
Μέθοδος Μέση τιμή F1 score
Faiss με στατιστικά χαρακτηριστικά 0.95
MPDist 0.86
Matrix Profile (MP) 0.85
Faiss με υπακολουθίες 0.79
MASS 0.77
DTW 0.56
Καλύτερο αποτέλεσμα μέσης τιμής F1 score – Faiss με στατιστικά χαρακτηριστικά

T-test
Αλγόριθμος 1 Αλγόριθμος 2 T value P value
DTW MASS -1.20733 0.293812
DTW MP -2.03858 0.111122
DTW Faiss -2.77668 0.049988
DTW Faiss-MP -1.80211 0.145879
DTW MPDist -2.2972 0.083195
MASS MP -0.57628 0.595302
MASS Faiss -1.15537 0.312257
MASS Faiss-MP -0.13167 0.901602
MASS MPDist -0.6505 0.550841
MP Faiss -0.80779 0.464508
MP Faiss-MP 0.862261 0.437171
MP MPDist 0 1
Faiss Faiss-MP 3.041144 0.038359
Faiss MPDist 1.38675 0.237796
Faiss-MP MPDist -1.73422 0.157901
Αλγόριθμος 1 Αλγόριθμος 2 T value P value
Faiss MP 3.2 0.08
Ανίχνευσης με f1 score ως μετρική
Ταξινόμησης με f1 score ως μετρική
Null hypothesis: Αναμενόμενες F1 score τιμές δεν έχουν στατιστικά σημαντική διαφορά
Alpha: 0.1 - 10% αβεβαιότητα
3 διαθέσιμα F1 scores για ταξινόμηση (βαθμοί ελευθερίας=4) και 2 για Ανίχνευση (βαθμοί ελευθερίας =2)

Συμπεράσματα
1. Αναπτύχθηκε ένας αυτόματος μηχανισμός ανίχνευσης Κύκλων
Παραγωγής (ΚΠ).
2. Υλοποιήθηκαν τεχνικές αναγνώρισης ανωμαλιών με δυνατότητα
γενίκευσης σε πολλαπλούς τύπους βλαβών.
3. Αξιοποιήθηκαν μη και ημί-επιβλεπόμενες τεχνικές Μηχανικής
Μάθησης που παρουσιάζουν χαμηλές απαιτήσεις ιστορικών
δεδομένων και μεγάλη προσαρμοστικότητα.
4. Ολοκληρώθηκε το αρχικό στάδιο αξιολόγησης των τεχνικών με
προοπτική σύγκλισης σε ποιο σταθερά αποτελέσματα κατά την
εξέλιξη της παραγωγής.
5. Υλοποιήθηκε ένα πλήρες εργαλείο ταυτοποίησης βλαβών που
προσφέρει ένα φιλικό προς τον χρήστη περιβάλλον για την
ανάκτηση και ανάλυση των δεδομένων.

Μελλοντική Εργασία
• Αξιολόγηση
• Ενίσχυση της πειραματικής αξιολόγησης με επιπλέον δεδομένα
• Αξιολόγηση σε μη ελεγχόμενο περιβάλλον (ανάπτυξη σε γραμμή
παραγωγής)
• Τεχνικές
• Επέκταση χρήσης του LSTM δικτύου για την ανίχνευση και άλλων τύπων
σφαλμάτων
• Ενίσχυση της Faiss μεθόδου με δοκιμή άλλων δεικτών
• Επέκταση τεχνικών για πρόβλεψη βλαβών
• Εργαλείο
• Εφαρμογή σε περισσότερα μηχανήματα και αξιολόγηση της
προσαρμοστικότητας του
• Δυναμική ανανέωση των ιστορικών δειγμάτων.

Διακρίσεις, Δημοσιεύσεις
Παρουσίαση στην ημερίδα «Machine Learning and Artificial Intelligence
for Quality 4.0 – Digital Tech Talk» μέσα στα πλαίσια του ευρωπαϊκού
έργου Qu4lity (https://qu4lity-project.eu/project/machine-learning-
and-artificial-intelligence-for-quality-4-0/)

Πηγές
[1] T. P. Carvalho, F. A. A. M. N. Soares, R. Vita, R. da P. Francisco, J. P. Basto,
and S. G. S. Alcalá, “A systematic literature review of machine learning
methods applied to predictive maintenance,” Comput. Ind. Eng., vol. 137, p.
106024, 2019, doi: https://doi.org/10.1016/j.cie.2019.106024.
[2] R. Accorsi, R. Manzini, P. Pascarella, M. Patella, and S. Sassi, “Data Mining
and Machine Learning for Condition-based Maintenance,” Procedia Manuf.,
vol. 11, pp. 1153–1161, 2017, doi:
https://doi.org/10.1016/j.promfg.2017.07.239.
[3] Q. Wang, S. Bu, and Z. He, “Achieving Predictive and Proactive
Maintenance for High-Speed Railway Power Equipment with LSTM-RNN,” IEEE
Trans. Ind. Informatics, pp. 1–1, Jan. 2020, doi: 10.1109/tii.2020.2966033.
[4] A. Z. Hinchi and M. Tkiouat, “Rolling element bearing remaining useful life
estimation based on a convolutional long-short-Term memory network,” in
Procedia Computer Science, 2018, vol. 127, pp. 123–132, doi:
10.1016/j.procs.2018.01.106.
[5] S. Zhang, Y. Wang, M. Liu, and Z. Bao, “Data-Based Line Trip Fault
Prediction in Power Systems Using LSTM Networks and SVM,” IEEE Access,
vol. 6, pp. 7675–7686, Dec. 2017, doi: 10.1109/ACCESS.2017.2785763.
[6] F. Wu, T. Wang, and J. Lee, “An online adaptive condition-based
maintenance method for mechanical systems,” Mech. Syst. Signal Process.,
vol. 24, no. 8, pp. 2985–2995, Nov. 2010, doi: 10.1016/j.ymssp.2010.04.003.
[7] J. Wang, Y. Chen, S. Hao, X. Peng, and L. Hu, “Deep learning for sensor-
based activity recognition: A survey,” Pattern Recognit. Lett., vol. 119, pp. 3–
11, Mar. 2019, doi: 10.1016/j.patrec.2018.02.010.
[8] B. Liu, J. Li, C. Chen, W. Tan, Q. Chen, and M. Zhou, “Efficient motif
discovery for large-scale time series in healthcare,” IEEE Trans. Ind.
Informatics, vol. 11, no. 3, pp. 583–590, Jun. 2015, doi:
10.1109/TII.2015.2411226.

Πηγές
[9] C. D. Truong and D. T. Anh, “A novel clustering-based
method for time series motif discovery under time warping
measure,” Int. J. Data Sci. Anal., vol. 4, no. 2, pp. 113–126, Sep.
2017, doi: 10.1007/s41060-017-0060-3.
[10] R. Brito and H. Bassani, “Self-Organizing Maps with
Variable Input Length for Motif Discovery and Word
Segmentation,” Jul. 2018, pp. 1–8, doi:
10.1109/IJCNN.2018.8489090.
[11] C. C. M. Yeh et al., “Time series joins, motifs, discords and
shapelets: a unifying view that exploits the matrix profile,” Data
Min. Knowl. Discov., vol. 32, no. 1, pp. 83–123, Jan. 2018, doi:
10.1007/s10618-017-0519-9. [
12] N. Mehdiyev, J. Krumeich, D. Enke, D. Werth, and P. Loos,
“Determination of Rule Patterns in Complex Event Processing
Using Machine Learning Techniques,” in Procedia Computer
Science, 2015, vol. 61, pp. 395–401, doi:
10.1016/j.procs.2015.09.168.
[13] G. He, Y. Duan, R. Peng, X. Jing, T. Qian, and L. Wang, “Early
classification on multivariate time series,” Neurocomputing,
vol. 149, no. PB, pp. 777–787, Feb. 2015, doi:
10.1016/j.neucom.2014.07.056.
[14] Y. Mohammad and T. Nishida, “Exact multi-length scale and
mean invariant motif discovery,” Appl. Intell., vol. 44, no. 2, pp.
322–339, Mar. 2016, doi: 10.1007/s10489-015-0684-8.
[15] https://github.com/facebookresearch/faiss/wiki

Ευχαριστώ για
την προσοχή σας
Ιούλιος 2021
ΈΓΚΑΙΡΗ ΤΑΥΤΟΠΟΊΗΣΗ ΒΛΑΒΏΝ ΜΕ ΑΛΓΟΡΊΘΜΟΥΣ ΜΗΧΑΝΙΚΉΣ
ΜΆΘΗΣΗΣ 30

Punctual fault identification through Machine Learning techniques

Recommended

Recommended

More Related Content

What's hot

What's hot (16)

Similar to Punctual fault identification through Machine Learning techniques

Similar to Punctual fault identification through Machine Learning techniques (20)

More from ISSEL

More from ISSEL (20)

Punctual fault identification through Machine Learning techniques