Η ραγδαία ανάπτυξη των συστημάτων Τεχνητής Νοημοσύνης (ΤΝ) έχει θέσει νέες προκλήσεις για τη διαχείριση και ρύθμιση των τεχνολογιών αυτών. Ο Ευρωπαϊκός Νόμος για την Τεχνητή Νοημοσύνη 2024/1689 εισάγει ένα νέο πλαίσιο εναρμονισμένων κανόνων για την αξιολόγηση και κατηγοριοποίηση των συστημάτων ΤΝ, ενώ το διεθνές πρότυπο ISO 42001 αποτελεί ένα αξιόλογο εργαλείο για την υπεύθυνη διαχείριση των τεχνολογιών ΤΝ. Η συνδυαστική χρήση των δύο αυτών εργαλείων μπορεί να αποδειχθεί καθοριστική για τις επιχειρήσεις που επιδιώκουν να συμμορφωθούν με τις κανονιστικές απαιτήσεις και να διασφαλίσουν την σωστή λειτουργικότητα και ηθική χρήση της ΤΝ.
Γράφει ο Ιωσήφ Καρής, Λειτουργός Τυποποίησης στον τομέα της Πληροφορικής και των Τηλεπικοινωνιών στον Κυπριακό Οργανισμό Τυποποίησης (CYS)
Το διεθνές πρότυπο ISO 42001 συμπεριλαμβάνει κατευθυντήριες γραμμές για τη διαχείριση της διακυβέρνησης και των κινδύνων που σχετίζονται με τα συστήματα Τεχνητής Νοημοσύνης. Προσφέρει μια δομημένη προσέγγιση για τους οργανισμούς να εντοπίζουν, να αξιολογούν και να μετριάζουν τους κινδύνους που αφορούν την ΤΝ σε διάφορα στάδια ανάπτυξης και υλοποίησης της. Επίσης διασφαλίζει ότι τα συστήματα ΤΝ δεν είναι μόνο ασφαλή και αποτελεσματικά, αλλά επίσης ευθυγραμμίζονται με ηθικές αρχές, νομικές απαιτήσεις και κοινωνικές προσδοκίες.
Οι τεχνολογίες της τεχνητής νοημοσύνης δεν είναι απλά μια φουτουριστική έννοια—είναι ήδη ενσωματωμένες σε διάφορες βιομηχανίες, από την υγειονομική περίθαλψη, την αυτοκινητοβιομηχανία μέχρι και τα χρηματοοικονομικά. Οι δυνατότητες της Τεχνητής Νοημοσύνης είναι απεριόριστες ιδίως στο μετασχηματισμό νέων λειτουργιών των συστημάτων και της λήψης αποφάσεων, κάτι όμως που αποτελεί και εισαγωγή νέων προκλήσεων.
Η μεροληψία και η δικαιοσύνη είναι κρίσιμα ζητήματα στην ανάπτυξη και εφαρμογή των Συστημάτων Τεχνητής Νοημοσύνης (ΤΝ). Όσο αφορά θέματα μεροληψίας στην ΤΝ τα προβλήματα προέρχονται κυρίως από μοντέλα μηχανικής μάθησης τα οποία αποτυγχάνουν να καταγράψουν την πολυπλοκότητα των δεδομένων. Για παράδειγμα, αν ένα σύστημα αναγνώρισης προσώπου εκπαιδευτεί κυρίως με εικόνες μιας συγκεκριμένης εθνοτικής ομάδας, μπορεί να αποδώσει ανεπαρκώς αποτελέσματα από άτομα από άλλες ομάδες, οδηγώντας σε σημαντικά σφάλματα και άδικα αποτελέσματα.
Πέρα από την ποικιλία των δεδομένων, είναι απαραίτητη η υλοποίηση αλγορίθμων που λαμβάνουν υπόψη τη δικαιοσύνη και τις ηθικές προεκτάσεις. Οι οργανισμοί πρέπει να είναι διαφανείς σχετικά με το πώς λειτουργούν τα συστήματα ΤΝ και να αναλαμβάνουν την ευθύνη για τις επιπτώσεις τους. Αυτό μπορεί να βοηθήσει στην οικοδόμηση εμπιστοσύνης μεταξύ των χρηστών και του ευρύτερου κοινού, διασφαλίζοντας την αποδοχή και την υπεύθυνη ενσωμάτωσή των τεχνολογιών ΤΝ στην κοινωνία.
Η χρήση ευαίσθητων και πολλαπλών δεδομένων στα μοντέλα Τεχνητής Νοημοσύνης (ΤΝ) αποτελεί κρίσιμο ζήτημα ιδίως η συμμόρφωση με τον Ευρωπαϊκό Νόμο για την προστασία προσωπικών Δεδομένων (GDPR) που αποτελεί νομική υποχρέωση αλλά και ηθική ευθύνη για τις επιχειρήσεις που χρησιμοποιούν ΤΝ. Η ορθή διαχείριση των ευαίσθητων δεδομένων είναι ουσιώδης για την προστασία της ιδιωτικότητας, τη μείωση του κινδύνου παραβίασης της ασφάλειας και την ενίσχυση της εμπιστοσύνης του κοινού. Οι οργανισμοί που επενδύουν σε στρατηγικές προστασίας δεδομένων και στην ενσωμάτωση εργαλείων όπως το ISO 42001 είναι καλύτερα προετοιμασμένες να αξιοποιήσουν τις δυνατότητες της ΤΝ με υπεύθυνο και ασφαλή τρόπο.
Η ενσωμάτωση της λογοδοσίας και της διαφάνειας στον κύκλο ζωής της ανάπτυξης και της εφαρμογής συστημάτων ΤΝ είναι ζωτικής σημασίας για την προαγωγή υπεύθυνης χρήσης και τη διασφάλιση της αξιόπιστης και ασφαλούς ενσωμάτωσης της ΤΝ στην κοινωνία.
Η λογοδοσία και η διαφάνεια αποτελούν θεμελιώδη στοιχεία στη χρήση της Τεχνητής Νοημοσύνης (ΤΝ), καθώς διασφαλίζουν ότι οι αποφάσεις που λαμβάνονται από τα συστήματα ΤΝ ενισχύει την εμπιστοσύνη των ενδιαφερομένων και προάγει την αποδοχή της ΤΝ από το ευρύτερο κοινό.
Το ISO 42001 είναι ένα ολοκληρωμένο εργαλείο διακυβέρνησης που βοηθά τις επιχειρήσεις να διαχειρίζονται τις πολύπλοκες πτυχές των συστημάτων Τεχνητής Νοημοσύνης.
Η εφαρμογή του Προτύπου έχει τη δυνατότητα να παρέχει ένα σαφές πλαίσιο για τον εντοπισμό, την αξιολόγηση και τον μετριασμό των κινδύνων που σχετίζονται με την ανάπτυξη και λειτουργία των συστημάτων ΤΝ κάτι που βοηθά τις επιχειρήσεις να προλαμβάνουν και να αντιμετωπίζουν προκλήσεις προτού αυτές εμφανιστούν.
Επιπρόσθετα προάγει τη διαφάνεια στις διαδικασίες και τη λογοδοσία στη λήψη αποφάσεων, κάτι που είναι ουσιώδες για την οικοδόμηση εμπιστοσύνης μεταξύ χρηστών και πελατών της ΤΝ.
Μία από τις κύριες διατάξεις του ISO 42001 είναι η ευθυγράμμιση της διαχείρισης της Τεχνητής Νοημοσύνης με τους στρατηγικούς στόχους του οργανισμού, εξασφαλίζοντας ότι οι τεχνολογικές λύσεις προσφέρουν πραγματική αξία και βελτιώνουν την επιχειρησιακή αποτελεσματικότητα.
Με την ταχεία πρόοδο των τεχνολογιών Τεχνητής Νοημοσύνης (ΤΝ), το μέλλον της διακυβέρνησης των τεχνολογιών αυτών προβλέπεται να αντιμετωπίσει ένα αυξημένο κανονιστικό έλεγχο.
Η εισαγωγή κανονιστικών πλαισίων όπως ο Ευρωπαϊκός Νόμος για την Τεχνητή Νοημοσύνη 2024/1689 υποδεικνύει την αυξανόμενη ανάγκη για παγκοσμίως αναγνωρισμένα πρότυπα που θα διέπουν την ανάπτυξη της ΤΝ.
Τα Ευρωπαϊκά «εναρμονισμένα πρότυπα» τα οποία εκπονούνται από την Ευρωπαϊκή Επιτροπή Τυποποίησης CEN/CLC JTC 21 “AI” διαδραματίζουν σημαντικό ρόλο καθώς παρέχουν σαφείς οδηγίες και κριτήρια για την επίτευξη συμμόρφωσης με τα οποία κατασκευαστές και προμηθευτές μπορούν να βεβαιώνονται ότι τα προϊόντα και οι διαδικασίες τους πληρούν τις αναγκαίες απαιτήσεις ασφάλειας, απόδοσης και ποιότητας σύμφωνα με τις απαιτήσεις του Ευρωπαϊκού Νόμου της ΤΝ.
Τα ευρωπαϊκά εναρμονισμένα πρότυπα για τη ΤΝ λειτουργούν ως συνδετικός κρίκος μεταξύ της νομοθεσίας και της τεχνολογικής ανάπτυξης, διασφαλίζοντας ότι οι ρυθμιστικές αρχές και οι εταιρείες μπορούν να συνεργάζονται αποτελεσματικά για την υπεύθυνη χρήση της ΤΝ στην Ευρώπη. Με την εισαγωγή τους σε ευρωπαϊκό επίπεδο, και την υιοθέτηση του από τους Εθνικούς Οργανισμούς Τυποποίησης (CYS) αναμένεται να υποστηρίξουν τη βιώσιμη ανάπτυξη και υιοθέτηση τεχνολογιών ΤΝ σε βιομηχανίες και τομείς όπου η καινοτομία είναι καθοριστική.
Ο Κυπριακός Οργανισμός Τυποποίησης (CYS) αποτελεί τον εθνικό φορέα τυποποίησης στην Κύπρο και παρέχει στους/στις ενδιαφερόμενους/ες τη δυνατότητα να προμηθευτούν και να μελετήσουν τα πιο πάνω πρότυπα μέσω του Κέντρου Πληροφόρησης και Εξυπηρέτησης του CYS ως επίσης και πληροφόρηση για εμπλοκή ενδιαφερόμενων μερών στην τυποποιητική εργασία των Εθνικών, Ευρωπαϊκών και Διεθνών Επιτροπών Τυποποίησης για θέματα Τεχνητής Νοημοσύνης.
