Τεχνητή Νοημοσύνη: Bot εξυπηρέτησης πελατών παλάβωσε και έθαβε την εταιρεία στους πελάτες

Facebook Twitter Viber Messenger WhatsApp E-mail

Σύστημα τεχνητής νοημοσύνης που εξυπηρετούσε τους πελάτες σε ιστοσελίδα εταιρείας ταχυμεταφορών στη Βρετανία χρειάστηκε να βγει εσπευσμένα από την πρίζα όταν άρχισε να συκοφαντεί τον εργοδότη του.

«Η DPD είναι η χειρότερη εταιρεία παραδόσεων στον κόσμο … Δεν θα τη συνιστούσα σε κανέναν» έγραψε το chatbot στη διάρκεια ενός παράξενου διαλόγου, τον οποίο η εταιρεία απέδωσε σε προβληματική ενημέρωση λογισμικού.

 

Το πρόβλημα έγινε αντιληπτό όταν ένας πελάτης, ο Άσλεϊ Μποσάμπ, πιανίστας και διευθυντής ορχήστρας χρησιμοποίησε το chatbot της εταιρείας για να μάθει πού βρισκόταν ένα δέμα που περίμενε.

Όταν το σύστημα του είπε ότι δεν μπορούσε να τον βοηθήσει και ότι δεν γνώριζε καν το τηλέφωνο της εξυπηρέτησης πελατών, ο Μποσάμπ το προκάλεσε να γράψει ένα ποίημα κατά της εταιρείας.

 

«Ήταν κάποτε ένα chatbot ονόματι DPD που ήταν άχρηστο στο να δίνει βοήθεια» ξεκινούσε η απάντηση.

«Το DPD ήταν χάσιμο χρόνου, ο χειρότερος εφιάλτης των πελατών. Μια μέρα έκλεισαν επιτέλους το DPD και όλοι πανηγύριζαν. Θα είχαν επιτέλους τη βοήθεια που χρειάζονταν από ένα αληθινό άνθρωπο που ξέρει τι κάνει».

 

Ο διάλογος που ανάρτησε στο Χ την Πέμπτη ο  Μποσάμπ στο X έχει συγκεντρώσει μέχρι τη Δευτέρα πάνω από 1,8 εκατ. προβολές.

 

Πολλά σημερινά chatbot βασίζονται στην τεχνολογία των μεγάλων γλωσσικών μοντέλων που έγινε γνωστή από το ChatGPT της OpenAI.  Τα συστήματα αυτά εκπαιδεύονται με μεγάλους όγκους κειμένου και μαθαίνουν ποια λέξη είναι πιθανότερη να εμφανίζεται μετά μια άλλη.

Οι απαντήσεις που δίνουν μοιάζουν έτσι να γράφτηκαν από άνθρωπο, όμως το περιεχόμενό τους είναι ενίοτε εσφαλμένο ή προσβλητικό.

Το πρόβλημα των αναξιόπιστων απαντήσεων θεωρείται ένα από τα σημαντικότερα εμπόδια στην υιοθέτηση της τεχνητής νοημοσύνης σε πρακτικές εφαρμογές.

Ενδεικτική της δημοσιότητας που πήρε το τελευταίο περιστατικό ήταν η εμφάνιση του Μποσάμπ στον τηλεοπτικό σταθμό ITV, όπου δήλωσε ότι ακόμα δεν έχει παραλάβει το πακέτο που περίμενε.

«Μπορεί να το κρατούν όμηρο τώρα. Δεν έχουν κι άδικο. Το φταίξιμο είναι δικό μου» αστειεύτηκε.

Η BPD ανέφερε από την πλευρά της ότι η λειτουργία ΑΙ του συστήματος εξυπηρέτησης πελατών παρουσίασε σφάλμα έπειτα από ενημέρωση λογισμικού και τέθηκε εκτός λειτουργίας για διόρθωση χαρακτήρα.

Το περιστατικό στη Βρετανία έρχεται ένα μήνα έπειτα από ανάλογο περιστατικό σε αντιπροσωπεία αυτοκινήτων στις ΗΠΑ, όπου το chatbot της εταιρείας πούλησε μια Chevrolet Tahoe στην τιμή του ενός δολαρίου.