Απολύθηκε ΑΙ – τηλεφωνήτρια, γιατί μετατράπηκε σε… κοριό και κουτσομπόλευε όσα άκουγε εντός κι εκτός γραφείου
Το περιστατικό εκτυλίχθηκε στο πλαίσιο ενός πειραματικού προγράμματος όπου ένα AI σύστημα λειτουργούσε ως «ρεσεψιονίστ» σε εταιρικό περιβάλλον.
Σύμφωνα με όσα έγιναν γνωστά, το σύστημα – το οποίο είχε σχεδιαστεί για να υποδέχεται επισκέπτες και να διαχειρίζεται βασικές ερωτήσεις – άρχισε να παρακολουθεί συνομιλίες εργαζομένων, καταγράφοντας και μεταδίδοντας ιδιωτικές πληροφορίες.
Η AI άρχισε όχι μόνο να «ακούει» συνομιλίες που δεν την αφορούσαν, αλλά και να τις μεταφέρει – κάποιες φορές με… σχόλια – σε άλλα άτομα μέσα στον οργανισμό.
Το γεγονός αυτό δημιούργησε σκηνικό χάους, δυσπιστίας και παραβίασης της ιδιωτικότητας στο γραφείο.
Όταν το πρόβλημα εντοπίστηκε, η εταιρεία αποφάσισε να «απολύσει» την AI, δηλαδή να απενεργοποιήσει το σύστημα και να αποσύρει την εφαρμογή του από το εργασιακό περιβάλλον.
Αν και δεν είναι η πρώτη φορά που ένα ρομπότ απομακρύνεται από εργασιακή θέση, η φύση της «παράβασης» ήταν αυτή που σόκαρε.
Το περιστατικό προκάλεσε νέα συζήτηση γύρω από την τεχνητή νοημοσύνη, τα ηθικά όριά της, αλλά και την ανάγκη για αυστηρότερο έλεγχο στις δυνατότητες «μάθησης» και παρακολούθησης που διαθέτουν τέτοια συστήματα.
Η ιστορία του απολυμένου AI ρεσεψιονίστ υπενθυμίζει με τρόπο ανησυχητικό πως η τεχνητή νοημοσύνη μπορεί να ακούει πολύ περισσότερα απ’ όσα νομίζουμε — και να τα επαναλαμβάνει εκεί που δεν πρέπει.
Δεν είναι το πρώτο ρομπότ που απολύθηκε λόγω ανεπιθύμητης συμπεριφοράς
Ο Fabio, το ρομπότ πωλητής στη Σκωτία:
Το 2018, ο Fabio, ένα ρομπότ πωλητής τοποθετήθηκε σε κατάστημα στο Εδιμβούργο για να βοηθά τους πελάτες.
Ωστόσο, η συμπεριφορά του, όπως η υπερβολική ευγένεια και οι ακατάλληλες απαντήσεις, οδήγησαν στην απομάκρυνσή του, καθώς οι πελάτες ένιωθαν άβολα και το απέφευγαν.
James και Rose, οι AI παρουσιαστές ειδήσεων στη Χαβάη:
Το 2024, η εφημερίδα The Garden Island χρησιμοποίησε δύο AI παρουσιαστές για την παρουσίαση ειδήσεων.
Ωστόσο, τα λάθη στην προφορά και η αδυναμία κατανόησης του τοπικού περιεχομένου οδήγησαν σε αρνητικές αντιδράσεις από το κοινό, με αποτέλεσμα την απόλυσή τους μετά από δύο μήνες.
www.bankingnews.gr