Γράφει ο Αχιλλέας Καραπατάκης, νομικός συνεργάτης στο τμήμα Κανονιστικής Συμμόρφωσης του Ομίλου ΙΝΤΕΡΣΑΛΟΝΙΚΑ και καθηγητής νομικής σε κολλέγιο της Θεσσαλονίκης

Η ταχεία άνοδος της Τεχνητής Νοημοσύνης (ΤΝ) έχει ξεκινήσει να διαμορφώνει, ήδη, καθοριστικά τον τρόπο λειτουργίας, αλλά και αλληλεπίδρασης, των ασφαλιστικών επιχειρήσεων. Ο ασφαλιστικός τομέας, που παραδοσιακά βασίζεται στις πρακτικές της αξιολόγησης κινδύνου και την ανάλυσης δεδομένων, βρίσκεται στην πρώτη γραμμή της υιοθέτησης της Τεχνητής Νοημοσύνης. Από τη βελτίωση των τρόπων ανίχνευσης της απάτης έως τον εξορθολογισμό της επεξεργασίας των αιτιάσεων, η Τεχνητή Νοημοσύνη μπορεί να προσφέρει στις ασφαλιστικές επιχειρήσεις, και εν γένει στους εργαζομένους τους, πρωτοφανείς δυνατότητες. Ωστόσο, με αυτές τις εξελίξεις προκύπτουν ηθικά ερωτήματα βαρύνουσας σημασίας, καθώς οι «αποφάσεις» που λαμβάνονται από συστήματα Τεχνητής Νοημοσύνης - ακόμη κι εάν ο ρόλος τους είναι συμβουλευτικός-  επηρεάζουν άμεσα τις ζωές του προσωπικού μίας επιχείρησης αλλά και των πελατών της.

Αυτό το άρθρο διερευνά τις ηθικές προεκτάσεις της ΤΝ στην ασφάλιση, δίνοντας έμφαση στις προκλήσεις που θέτει η μεροληψία των «έξυπνων μηχανών», το πρόβλημα του «μαύρου κουτιού» και της ανάγκης για διαφάνεια και υπευθυνότητα. Η αντιμετώπιση αυτών των ζητημάτων δεν είναι απλώς μια τεχνική πρόκληση, αλλά και μια ηθική πρόκληση για τη διασφάλιση της δικαιοσύνης και της εμπιστοσύνης στις ασφαλιστικές επιχειρήσεις.

Η ηθική πρόκληση της Τεχνητής Νοημοσύνης

Η Τεχνητή Νοημοσύνη έχει εισαγάγει ακρίβεια στις ασφαλιστικές επιχειρήσεις, επιτρέποντας την ταχύτερη λήψη αποφάσεων όπως και την αποτελεσματικότερη παροχή συμβουλών.[i] Για παράδειγμα, βάσει προγραμμάτων ΤΝ μπορεί να υπάρξει η αξιολόγηση πληροφοριακών συστημάτων σε δευτερόλεπτα, ενώ με την βοήθεια αλγορίθμων μπορούν να εντοπιστούν ποικίλα λάθη.[ii] Τα εργαλεία που λειτουργούν με ΤΝ μπορούν ακόμη και να προβλέψουν τη συμπεριφορά των πελατών, επιτρέποντας στις επιχειρήσεις να προσαρμόζουν τις πολιτικές στις εκάστοτε ανάγκες τους, ενισχύοντας την ικανοποίηση τους.

Ωστόσο, τέτοια συστήματα δεν είναι χωρίς ελαττώματα. Τα συστήματα Τεχνητής Νοημοσύνης, μπορούν - μη ηθελημένα -  να διαιωνίσουν τις υπάρχουσες προκαταλήψεις. Επιπλέον, καθώς οι επιχειρήσεις θα ξεκινήσουν να βασίζονται όλο και περισσότερο στην Τεχνητή Νοημοσύνη για την αυτοματοποίηση των αποφάσεων, το απαραίτητο και αναντικατάστατο ανθρώπινο στοιχείο στη λήψη αποφάσεων μπορεί να μειωθεί, εγείροντας ερωτήματα σχετικά με την δίκαιη αντιμετώπιση των πελατών και των εργαζομένων.

Η ηθική συνάφεια της Τεχνητής Νοημοσύνης στην ασφάλιση πηγάζει από τη βαθιά επιρροή που θα αποκτήσει στην οικονομική σταθερότητα των επιχειρήσεων. Σε αντίθεση με άλλους κλάδους, οι αποφάσεις στον τομέα της ασφάλισης – η έγκριση καταβολής ενός ποσού ή η σύναψη ενός ασφαλιστηρίου - έχουν σημαντικές συνέπειες, καθιστώντας κρίσιμη την ανάπτυξη της Τεχνητής Νοημοσύνης με αυστηρούς ηθικούς γνώμονες.

Μηχανική Μεροληψία (Machine Bias): Μια επίμονη πρόκληση

Η μηχανική μεροληψία συμβαίνει όταν τα συστήματα Τεχνητής Νοημοσύνης παράγουν «άδικα» αποτελέσματα λόγω μεροληπτικών δεδομένων εκπαίδευσης, ελαττωματικών αλγορίθμων ή ακούσιων συνεπειών της υλοποίησής των παραπάνω. Στον τομέα των ασφαλίσεων, παρόμοιες μορφές προκατάληψης μπορούν να λάβουν διάφορες μορφές:

1. Διακρίσεις βάσει γεωγραφικής θέσης: Τα συστήματα TN ενδέχεται να «τιμωρήσουν» ακούσια ορισμένους πολίτες λόγω της περιοχής στην οποία διαμένουν. Για παράδειγμα, τα δεδομένα ενδέχεται να λειτουργούν μεροληπτικά απέναντι σε κατοίκους συγκεκριμένων περιοχών όπου έχουν χαρακτηριστεί ως υψηλού κινδύνου.[iii]
2. Διακρίσεις λόγω καταγωγής ή φύλου: Τα συστήματα ΤΝ ενδέχεται να προτείνουν υψηλότερα ασφάλιστρα για συγκεκριμένες ομάδες με βάση τη καταγωγή ή το φύλο, ενισχύοντας έτσι τις κοινωνικές ανισότητες αντί να τις αντιμετωπίζουν.[iv]

Οι συνέπειες της μηχανικής μεροληψίας εκτείνονται πέρα από τα άτομα που επηρεάζονται άμεσα από αυτήν. Η προκατάληψη στα συστήματα Τεχνητής Νοημοσύνης μπορεί να διαβρώσει την εμπιστοσύνη στους παρόχους ιδιωτικής ασφάλισης, βλάπτοντας έτσι την φήμη τους.

Το πρόβλημα της αδιαφάνειας και της λογοδοσίας

Μια άλλη κρίσιμη ηθική ανησυχία είναι το πρόβλημα του «μαύρου κουτιού»(black box). Τα συστήματα Τεχνητής Νοημοσύνης λαμβάνουν αποφάσεις μέσω διαδικασιών που είναι αδιαφανείς για τους χρήστες - ακόμη και για εκείνους που τις σχεδιάζουν. Αυτή η έλλειψη διαφάνειας δημιουργεί προκλήσεις στις ασφαλιστικές επιχειρήσεις, όπου οι αντισυμβαλλόμενοι χρειάζονται σαφήνεια σχετικά με τον τρόπο υπολογισμού των ασφαλίστρων τους ή τον λόγο απόρριψης της αίτησης ή της απαίτησής τους.

Για παράδειγμα, ένα μοντέλο Τεχνητής Νοημοσύνης μπορεί να απορρίψει μια αίτηση ασφάλισης ζωής με βάση έναν συνδυασμό παραγόντων κινδύνου που ο αιτών δεν μπορεί να αμφισβητήσει, επειδή η συλλογιστική του παραμένει «προσωπική». Το παραπάνω, υπονομεύει την σχέση εμπιστοσύνης ανάμεσα στην επιχείρηση και στον πελάτη και μπορεί να επιδεινώσει συναισθήματα αδικίας ή ακόμη κι αποξένωσης.

Οι ασφαλιστικές επιχειρήσεις πρέπει να δώσουν προτεραιότητα στο να εξηγήσουν την διαδικασία λήψης της απόφασης, διασφαλίζοντας ότι οι αποφάσεις που λαμβάνονται από συστήματα ΤΝ μπορούν να γίνουν κατανοητές και, εάν είναι απαραίτητο, να αμφισβητηθούν από τους αντισυμβαλλόμενους. Αυτό είναι ιδιαίτερα σημαντικό σε υποθέσεις υψηλού ρίσκου, όπως οι απορρίψεις αξιώσεων, όπου μπορεί να διακυβεύονται μεγάλα ποσά.[v]

Εξισορρόπηση αποτελεσμάτων και ενσυναίσθησης

Ενώ η Τεχνητή Νοημοσύνη είναι ακριβής και αποτελεσματική, δεν μπορεί να «μιμηθεί» την ανθρώπινη κρίση και ενσυναίσθηση. Ο ασφαλιστικός κλάδος βασίζεται στην εμπιστοσύνη, και η αποπροσωποποίηση των αλληλεπιδράσεων με τους πελάτες μέσω της Τεχνητής Νοημοσύνης μπορεί να διακινδυνεύσει να αποξενώσει τους ασφαλισμένους. Οι ασφαλιστικές επιχειρήσεις πρέπει να επιτύχουν μια ισορροπία για την αποφυγή των παραπάνω, ενσωματώνοντας την ΤΝ σε διαδικασίες, αλλά διατηρώντας παράλληλα την εποπτική τους λειτουργία.

Για παράδειγμα, η Τεχνητή Νοημοσύνη μπορεί να ελέγξει εκ των προτέρων τις αξιώσεις ή να επισημάνει μία πιθανή απάτη[vi], αλλά οι τελικές αποφάσεις θα πρέπει να περιλαμβάνουν τον ανθρώπινο έλεγχο. Αυτό διασφαλίζει ότι λαμβάνονται υπόψη οι ιδιαίτερες και ξεχωριστές περιστάσεις τις οποίες ένας αλγόριθμος μπορεί, ενδεχομένως, να παραβλέψει. Η διατήρηση αυτής της ισορροπίας είναι απαραίτητη για την τήρηση της ηθικής αντιμετώπισης αλλά και ικανοποίησης των πελατών.[vii]

Ηθική εφαρμογή της Τεχνητής Νοημοσύνης: Μια πορεία προς τα εμπρός για τις ασφαλιστικές επιχειρήσεις

Για να αντιμετωπίσουν αυτές τις ηθικές προκλήσεις, οι επιχειρήσεις πρέπει να υιοθετήσουν ένα ισχυρό πλαίσιο για την εφαρμογή της Τεχνητής Νοημοσύνης.

Το πλαίσιο μπορεί να περιλαμβάνει:

1. Στρατηγικές μετριασμού της μεροληψίας: Οι επιχειρήσεις θα πρέπει να χρησιμοποιούν διαφορετικά σύνολα δεδομένων για να εκπαιδεύσουν τα μοντέλα ΤΝ τους, μειώνοντας τον κίνδυνο μίας ενδεχόμενης άδικης μεταχείρισης. Οι τακτικοί έλεγχοι και οι δοκιμές μπορούν να βοηθήσουν στον εντοπισμό και την αντιμετώπιση λαθών.
2. Διαφάνεια: Τα συστήματα ΤΝ θα πρέπει να σχεδιάζονται με γνώμονα την διαφάνεια, επιτρέποντας στους ενδιαφερόμενους να κατανοήσουν τη λογική που βρίσκεται πίσω από τις αποφάσεις.
3. Μηχανισμοί λογοδοσίας: Οι ασφαλιστικές επιχειρήσεις θα πρέπει να καθιερώσουν με σαφήνεια το ποιος θα φέρει την τελική ευθύνη μίας απόφασης, ειδικά για αποφάσεις υψηλού ρίσκου. Αυτό περιλαμβάνει τον προσδιορισμό του αν η ευθύνη θα ανήκει στην ασφαλιστική επιχείρηση ή στο σύστημα Τεχνητής Νοημοσύνης που υποστηρίζει τη λήψη της απόφασης.
4. Η τήρηση των κατευθυντήριων γραμμών περί ηθικής εφαρμογής: Τα ρυθμιστικά πλαίσια της ΕΕ για την Τεχνητή Νοημοσύνη (Κανονισμός 2024/1689), παρέχουν καθοδήγηση σχετικά με τη χρήση της.[viii] Οι ασφαλιστικές επιχειρήσεις θα πρέπει να ευθυγραμμίσουν τις πρακτικές τους με αυτά τα πρότυπα και να συντάξουν τις αντίστοιχες εταιρικές πολιτικές έχοντας ως απώτερο σκοπό την συμμόρφωση με τον παραπάνω κανονισμό.
5. Η ανάπτυξη της ΤΝ με επίκεντρο τον πελάτη: Η Τεχνητή Νοημοσύνη θα πρέπει να βελτιώνει, και όχι να αντικαθιστά, την εξυπηρέτηση πελατών. Η χρήση της Τεχνητής Νοημοσύνης σε αγαστή συνεργασία με το προσωπικό της ασφαλιστικής επιχείρησης μπορεί να διασφαλίσει ότι οι ασφαλισμένοι δεν αισθάνονται απομονωμένοι.

Συμπέρασμα: Εξισορρόπηση Καινοτομίας και Ηθικής

Καθώς η Τεχνητή Νοημοσύνη συνεχίζει να φέρνει ανατροπές στον ασφαλιστικό τομέα, τα ηθικά ζητήματα που εγείρει πρέπει να παραμείνουν στην πρώτη γραμμή. Οι ασφαλιστικές επιχειρήσεις έχουν ευθύνη στο να διασφαλίσουν ότι η χρήση της Τεχνητής Νοημοσύνης ωφελεί όλα τα ενδιαφερόμενα μέρη, ελαχιστοποιώντας παράλληλα οποιαδήποτε μορφή καταχρηστικής συμπεριφοράς. Αντιμετωπίζοντας την οποιαδήποτε διάκριση, βελτιώνοντας τη διαφάνεια και ενισχύοντας τη λογοδοσία, οι ασφαλιστικές επιχειρήσεις μπορούν να εκμεταλλευτούν τη μεταμορφωτική δύναμη της Τεχνητής Νοημοσύνης χωρίς να διακυβεύεται ο οδοδείκτης των ηθικών αρχών του Κανονισμού 2024/1689 της ΕΕ.

Τελικά, η μελέτη και η συγγραφή εταιρικών πολιτικών για την Τεχνητή Νοημοσύνη δεν είναι απλώς μια απαίτηση συμμόρφωσης του κοινοτικού δικαίου. Η χρήση της έχει επίδραση στην ανάπτυξη καινοτόμων υπηρεσιών, οι οποίες μπορούν να προσφέρουν  ένα σημαντικό ανταγωνιστικό πλεονέκτημα, ενισχύοντας την εμπιστοσύνη μεταξύ των αντισυμβαλλομένων. Καθώς οι ασφαλιστικές επιχειρήσεις έχουν ξεκινήσει να κάνουν τα πρώτα τους βήματα σε αυτό το περίπλοκο τοπίο, η επιδίωξη ενός καθορισμένου ηθικού πλαισίου για την ΤΝ θα καθορίσει το μέλλον του κλάδου αλλά και τον ρόλο του στη διαμόρφωση μιας δικαιότερης κοινωνίας.

Ποιός είναι ο Αχιλλέας Καραπατάκης

Ο Αχιλλέας Καραπατάκης είναι δικηγόρος ΔΣΘ, κάτοχος μεταπτυχιακού (LLM) στο Διεθνές Εμπορικό Δίκαιο, από το Brunel University of London, και πιστοποιημένος διαμεσολαβητής από την ADR-ODR International. Εργάζεται ως νομικός συνεργάτης στο τμήμα Κανονιστικής Συμμόρφωσης του Ομίλου ΙΝΤΕΡΣΑΛΟΝΙΚΑ και ως καθηγητής νομικής σε κολλέγιο της Θεσσαλονίκης.

https://agentblog.nationwide.com/agency-management/technology/how-ai-is-transforming-the-insurance-industry/

[ii] https://www.adlittle.com/en/insights/viewpoints/transforming-insurance-through-ai

[iii]https://www.insurancebusinessmag.com/us/news/life-insurance/how-a-100yearold-insurance-brand-is-fighting-ai-bias-with-data-467572.aspx

[iv] https://www.insurancethoughtleadership.com/ai-machine-learning/ai-and-discrimination-insurance

[v] https://www.aon.com/en/insights/articles/how-is-the-insurance-market-responding-to-generative-ai

[vi] https://edition.cnn.com/2024/10/17/business/ai-fraud-treasury/index.html

[vii] https://www.munichre.com/en/insights/digitalisation/ai-in-underwriting-will-grow-but-not-displace-human-experience.html

[viii] https://www.consilium.europa.eu/el/policies/artificial-intelligence/