Η παρουσίαση περιγράφει διάφορες πτυχές για τη σημασία της υπεύθυνης έρευνας στην Τεχνητή Νοημοσύνη (ΤΝ). Τονίζεται η σημασία της έρευνας στην ΤΝ καθώς ήδη εφαρμόζεται σε κρίσιμες εφαρμογές όπως η υγεία και αφορά πλέον σχεδόν όλες τις επιστημονικές περιοχές πέρα από την πληροφορική και τις επιστήμες μηχανικού. Παρουσιάζονται βασικά ζητήματα όπως: μεροληψία, διαφάνεια, αξιοπιστία, ερμηνευσιμότητα και περιβαλλοντικό αποτύπωμα, καθώς και ηθικά και κοινωνικά διλήμματα όπως η ιδιωτικότητα, η αυτονομία, η ανισότητα πρόσβασης και η συγκέντρωση ισχύος. Γίνεται ιδιαίτερη αναφορά στις προκλήσεις που αφορούν την παραπληροφόρηση και σχετικές δραστηριότητες για την αντιμετώπισή της με χρήση τεχνικών ΤΝ. Προτείνονται καλές πρακτικές και τέλος παρουσιάζονται συστάσεις για χρήση της παραγωγικής ΤΝ στην έρευνα.

1. Καλές Πρακτικές και Πολιτικές για
την Υπεύθυνη Έρευνα στην
Τεχνητή Νοημοσύνη
Δρ. Γιάννης Κομπατσιάρης
Διευθυντής ΕΚΕΤΑ/ΙΠΤΗΛ (Ερευνητής Α’)

2. Σημασία της Έρευνας στην ΤΝ
• ΤΝ δεν είναι μόνο τα Μεγάλα Γλωσσικά
Mοντέλα (LLMs)
– Chatbots, “ChatGPT”
• Π.χ. η Μηχανική Όραση (Computer Vision)
χρησιμοποιείται ήδη σε πολλές εφαρμογές
– Ρομποτική, Υγεία, Αυτόνομη Οδήγηση,
Ανάλυση
Δορυφορικών
Εικόνων

3. Σημασία της Έρευνας στην ΤΝ
• ΤΝ δεν είναι μόνο εφαρμογές διασκέδασης –
καθημερινής ευκολίας
• Υπαρκτές και Κρίσιμες Εφαρμογές της ΤΝ
1000+
εφαρμογές
(2025):
https://www.fda.gov/medical-devices/so
ftware-medical-device-samd/artificial-
intelligence-and-machine-learning-aiml-
enabled-medical-devices

4. Σημασία της Έρευνας στην ΤΝ
Ποσοστό AI-engaged εργασιών ανά περιοχή, 1985–2023 (Πηγή: Duede et al. 2024)
• ΤΝ δεν αφορά μόνο την Πληροφορική

5. Προκλήσεις στην Έρευνα ΤΝ
Αλγόριθμοι
• Mεροληψία (bias), Eρμηνευσιμότητα (explainability), Aξιοπιστία
(reliability), Aναπαραγωγιμότητα, (reproducibility), Aνθεκτικότητα
(robustness)
• Υπερβολή ως προς τα αποτελέσματα και τον αντίκτυπο
Ηθική - Κοινωνία
• Ανισότητες, ισότιμη πρόσβαση
• Ιδιωτικότητα
• Ασφάλεια
• Περιβαλλοντικό αποτύπωμα
Οικονομία
• Επιρροή μεγάλων εταιρειών και συγκέντρωση ισχύος

6. Παραδείγματα Μεροληψίας

7. Θεμελιώδεις Αρχές για Υπεύθυνη Έρευνα
στην ΤΝ
• Ανθρώπινα δικαιώματα, κοινωνική δικαιοσύνη,
ηθικός αντίκτυπος
• Διαφάνεια, αξιοπιστία
• Λογοδοσία (ευθύνη - εποπτεία)
• Διεπιστημονικότητα
• Συμμετοχικότητα και διαφορετικότητα
• Ευημερία ανθρώπων και πλανήτη
– Δίκαιη οικονομική ανάπτυξη
– Πρόσβαση σε όλους
Σχέδιο για τη μετάβαση της Ελλάδας στην εποχή της Τεχνητής Νοημοσύνης

8. Παραπληροφόρηση:
• Παραπλάνηση του κοινού: επηρεάζει τη λήψη αποφάσεων και
τις πεποιθήσεις
• Υπονόμευση της δημοκρατίας: χειραγώγηση των εκλογών
• Δημόσια υγεία: θεωρίες συνωμοσίας
• Εθνική ασφάλεια: πολεμικές συρράξεις και φυσικές
καταστροφές
• Οικονομικές επιπτώσεις
• Επιδείνωση των συγκρούσεων και πόλωσης: κοινωνικές και
πολιτικές εντάσεις
• Επιβλαβής φήμη και υπόληψη προσώπων
ΤΝ κατά της Παραπληροφόρησης
Παράδειγμα για Έρευνα στην ΤΝ με κοινωνικό αντίκτυπο

9. ΤΝ κατά της Παραπληροφόρησης
Παράδειγμα για Έρευνα στην ΤΝ με κοινωνικό αντίκτυπο
https://www.theatlantic.com/ideas/archive/2020/09/
future-propaganda-will-be-computer-generated/6164
00/
Source: https://en.wikipedia.org/wiki/Deepfake

10. ΤΝ κατά της Παραπληροφόρησης
Παράδειγμα για Έρευνα στην ΤΝ με κοινωνικό αντίκτυπο

11. Τι κάνουμε στο ΕΚΕΤΑ-ΙΠΤΗΛ
• Έρευνα και ανάπτυξη εργαλείων ΤΝ για α)
επαλήθευση/διασταύρωση περιεχομένου,
β) μείωση μεροληψίας ΤΝ, γ) αύξηση
διαφάνειας/ επεξηγησιμότητας ΤΝ δ)
μείωση περιβαλλοντικού αποτυπώματος
• Στενή και μακροχρόνια συνεργασία με
ειδησεογραφικούς οργανισμούς
– Deutsche Welle
– AFP
• Εκπαίδευση
– Ομιλίες, Σχολεία
– Τμήμα Δημοσιογραφίας ΑΠΘ
• Υποστήριξη fact checking
– Μεσογειακό Παρατηρητήριο
Παραπληροφόρησης
• Συνεισφορά σε σχετικές πολιτικές
– Εθνική Επιτροπή Βιοηθικής και Τεχνο-ηθικής

12. Καλές Πρακτικές
• Ηθικός αντίκτυπος της έρευνας
– Συνεχής ενημέρωση, ταχεία εξέλιξη
• Διαφανής μεθοδολογία και τεκμηρίωση
• Προσβάσιμα και ανοιχτά δεδομένα
• Πλήρης υποστήριξη ανοιχτού κώδικα
• Συμμετοχικές διαδικασίες
• “ΑΙ ambassador”

13. Καλές Πρακτικές
Παράδειγμα: Model Card
Mitchell, M., Wu, S., Zaldivar, A., Barnes, P., Vasserman, L., Hutchinson, B., ... & Gebru, T. (2019, January). Model cards for model reporting.
In Proceedings of the conference on fairness, accountability, and transparency (pp. 220-229).

14. Υποστήριξη της Έρευνας στην ΤΝ
• Πρόσβαση σε δεδομένα και APIs (Διεπαφές)
• Ανοικτά σύνολα δεδομένων
• Πλαίσιο συνεργασίας – υποχρεώσεων μεγάλων
εταιριών
• Ενημέρωση και υποστήριξη για την
πολυπλοκότητα νομικού και ρυθμιστικού
πλαισίου
• Πρόσβαση σε μακροπρόθεσμη και σταθερή
χρηματοδότηση

15. Παραγωγική ΤΝ στην Έρευνα: Ευκαιρίες &
Κίνδυνοι
Ευκαιρίες:
• Επιτάχυνση ερευνητικής διαδικασίας
• Υποστήριξη σε συγγραφή, μετάφραση,
ανάλυση
Κίνδυνοι:
• Λανθασμένη πληροφόρηση
• Παραβίαση IP & δεδομένων
• Επιπτώσεις στην ακεραιότητα της έρευνας

16. Παραγωγική ΤΝ στην Έρευνα: Ευκαιρίες &
Κίνδυνοι

17. Συστάσεις για Ερευνητές
• Δήλωση χρήσης ΤΝ (εργαλείο, έκδοση, ρόλος)
• Διασφάλιση απορρήτου & πνευματικής
ιδιοκτησίας
• Ελεγχόμενη χρήση ΤΝ σε peer review ή
αξιολογήσεις
• Υπό προϋποθέσεις
• Ευθύνη στον Ερευνητή
• Συνεχής επιμόρφωση & περιβαλλοντική
συνείδηση

18. Συστάσεις για Οργανισμούς
• Εκπαίδευση όλων των ρόλων στη χρήση ΤΝ
• Καλλιέργεια διαφανούς κουλτούρας
• Ενσωμάτωση οδηγιών στις εσωτερικές πολιτικές
• Προώθηση ασφαλών περιβαλλόντων χρήσης ΤΝ
• Κώδικες συμπεριφοράς & αξιολόγησης κινδύνου
• Πλαίσιο δεοντολογίας για την ΤΝ
• Συνεργασία μεταξύ Επιτροπών Ηθικής

19. Διεθνείς Πρωτοβουλίες και Οδηγοί
• UNESCO Recommendation on AI Ethics
• OECD AI Principles
• European AI Act - GDPR
• Σχέδιο για τη μετάβαση της Ελλάδας στην
εποχή της Τεχνητής Νοημοσύνης
• Συμπεράσματα από συναφή έργα και
Επιτροπές

20. Συμπεράσματα - Συζήτηση
• Απαιτητικό πλαίσιο
• Ενημέρωση - Εκπαίδευση
• Ισορροπία μεταξύ υποστήριξης έρευνας και
ηθικών ζητημάτων ΤΝ
• Να μη χαθεί ο βασικός στόχος της έρευνας
• Τα ηθικά ζητήματα να μην είναι μια άσκηση tick
boxing
• Έλεγχος επιρροής και συνεργασία με μεγάλες
εταιρείες
• Νομικά θέματα

21. Ευχαριστώ για την προσοχή σας!
email: ikom@iti.gr
https://mklab.iti.gr/