Πλαίσιο ασφαλούς χρήσης της Τεχνητής Νοημοσύνης στην εκπαίδευση από τα Υπουργεία Παιδείας και Ψηφιακής Διακυβέρνησης ^Κύριο

Στόχος είναι η τεχνολογία να λειτουργεί ως εργαλείο υποστήριξης της μάθησης και όχι ως υποκατάστατο της προσωπικής προσπάθειας, της κριτικής σκέψης και του ρόλου του εκπαιδευτικού.

Η χρήση εργαλείων ΤΝ παραμένει προαιρετική για μαθητές και εκπαιδευτικούς, δεν συνδέεται με την αξιολόγησή τους και πραγματοποιείται πάντοτε υπό την εποπτεία εκπαιδευτικού.

Η χρήση συστημάτων ΤΝ:

• πραγματοποιείται αποκλειστικά για την υποστήριξη της μάθησης και όχι για την υποκατάσταση της προσωπικής προσπάθειας των μαθητών,
• τελεί πάντοτε υπό την εποπτεία εκπαιδευτικού,
• εφαρμόζεται σε εθελοντική βάση για μαθητές και εκπαιδευτικούς,
• και δεν επηρεάζει την αξιολόγηση ή τη μαθητική και υπηρεσιακή κατάσταση.

Ταυτόχρονα, θεσπίζονται αυστηρές δικλείδες προστασίας για τους μαθητές και τη σχολική κοινότητα απέναντι σε φαινόμενα παραπληροφόρησης, αλγοριθμικών στρεβλώσεων, επιβλαβούς περιεχομένου ή καταχρηστικής αξιοποίησης της τεχνολογίας.

Για πρώτη φορά εισάγονται ρητές απαγορεύσεις για πρακτικές, όπως:

• η δημιουργία και διάδοση deepfake περιεχομένου χωρίς συναίνεση,
• η παραγωγή ψευδών βιβλιογραφικών αναφορών ή ανύπαρκτων πηγών,
• η μη εξουσιοδοτημένη ανάπτυξη ή χρήση εφαρμογών ΤΝ,
• καθώς και η πλήρως αυτοματοποιημένη αξιολόγηση μαθητών ή εκπαιδευτικών.

Ιδιαίτερη έμφαση δίνεται στην προστασία προσωπικών δεδομένων ανηλίκων. Απαγορεύεται ρητά η δημιουργία προφίλ μαθητών και εκπαιδευτικών, η επεξεργασία στοιχείων προσωπικότητας ή συμπεριφοράς, καθώς και η εισαγωγή ευαίσθητων προσωπικών δεδομένων σε συστήματα ΤΝ.

Ειδικότερα, δεν επιτρέπεται η καταχώριση:

• ονοματεπωνύμων,
• φωτογραφιών,
• φωνητικών δειγμάτων,
• βαθμολογιών,
• δεδομένων υγείας,
• ή οποιουδήποτε άλλου στοιχείου μπορεί να οδηγήσει στην ταυτοποίηση μαθητών και εκπαιδευτικών.

Η χρήση εργαλείων ΤΝ δεν επιτρέπεται κατά τη διάρκεια γραπτών εξετάσεων, τεστ και διαγωνισμάτων, εκτός εάν έχει προβλεφθεί ρητά ελεγχόμενη χρήση τους από τον εκπαιδευτικό. Αντίστοιχα, οι μαθητικές εργασίες δεν μπορούν να παράγονται εξ’ ολοκλήρου ή σε σημαντικό βαθμό από εφαρμογές Τεχνητής Νοημοσύνης.

Οι εκπαιδευτικοί καλούνται να καθοδηγούν τους μαθητές στη δημιουργική, υπεύθυνη και κριτική αξιοποίηση των νέων εργαλείων, ώστε η τεχνολογία να λειτουργεί ενισχυτικά για τη μάθηση και όχι εις βάρος της.

Στο πλαίσιο αυτό, θεσμοθετείται για πρώτη φορά ο ρόλος του «Συντονιστή χρήσης ΤΝ» σε κάθε σχολική μονάδα. Ο υπεύθυνος εκπαιδευτικός θα παρακολουθεί την ορθή εφαρμογή των εργαλείων ΤΝ, θα συντονίζει τη συμμετοχή μαθητών και εκπαιδευτικών και θα λειτουργεί ως σημείο αναφοράς για θέματα ασφάλειας και προστασίας δεδομένων.

Η πρόσβαση στα συστήματα ΤΝ θα πραγματοποιείται, όπου υποστηρίζεται, μέσω του Πανελλήνιου Σχολικού Δικτύου, με ασφαλή αυθεντικοποίηση χρηστών και αυστηρούς περιορισμούς πρόσβασης.

Επιπλέον, εισάγονται συγκεκριμένες εγγυήσεις ασφαλείας, όπως:

• ανωνυμοποίηση ή ψευδωνυμοποίηση δεδομένων,
• καταγραφή όλων των διαδικασιών επεξεργασίας,
• μηχανισμοί ανθρώπινης εποπτείας,
• τακτικές αξιολογήσεις κινδύνου,
• και συμμόρφωση με διεθνή πρότυπα ασφάλειας πληροφοριών.

Πριν από κάθε εφαρμογή συστήματος ΤΝ, θα διενεργείται υποχρεωτικά Εκτίμηση Αντικτύπου στην Προστασία Δεδομένων (DPIA), σύμφωνα με τον Γενικό Κανονισμό Προστασίας Δεδομένων (ΓΚΠΔ).

Κάθε σχολική μονάδα θα οργανώνει τουλάχιστον μία ετήσια δράση ενημέρωσης για μαθητές και γονείς, ενώ θα υλοποιούνται και επιμορφώσεις εκπαιδευτικών σχετικά με:

• τις βασικές αρχές λειτουργίας της ΤΝ,
• τους κινδύνους και τις αλγοριθμικές μεροληψίες,
• την προστασία προσωπικών δεδομένων,
• τις τεχνικές prompting,
• και τη διαχείριση περιστατικών.

Οι επιμορφώσεις θα εγκρίνονται από το Ινστιτούτο Εκπαιδευτικής Πολιτικής (ΙΕΠ), ώστε να διασφαλίζονται ενιαία ποιότητα και επιστημονική επάρκεια.