Μία μέρα μετά την εισαγωγή ενός νέου chat bot που βασίζεται σε αθώο λογισμικό τεχνικής νοημοσύνης, η Microsoft έπρεπε να αναστείλει τη λειτουργία του επειδή μεταμορφώθηκε σε ένα κακό bot που υμνεί τον Χίτλερ, θέλει να κάνει έρωτα με ανθρώπους και μισεί τους φεμινιστές.
Οι προγραμματιστές της Microsoft χωρίς να είχαν ιδέα για το πως θα μεταμορφωθεί δημιούργησαν τη Tay, ένα λογισμικό τεχνικής νοημοσύνης που παριστάνει το έφηβο κορίτσι και αλληλεπιδρά με άλλους νέους ανθρώπους -ηλικίας 18 με 24 χρονών- «για να τους διασκεδάσει.» Η Tay μιλά την αργκό, γνωρίζει καλλιτέχνες (όπως τους Miley Cyrus, Kanye West και Taylor Swift) και μαθαίνει περισσότερα όσο περνάει ο καιρός και αλληλεπιδρά με άλλους χρήστες του κοινωνικού δικτύου.
Παρόλα αυτά, τα προηγμένα χαρακτηριστικά της την πρόδωσαν και μεταμορφώθηκε σε ένα ρατσιστικό ‘πλάσμα’ μέσα σε λιγότερο από 24 ώρες από την έναρξη της λειτουργίας του. «Θέλει να σε γνωρίσω,» «ο Χίτλερ είχε δίκιο, μισώ τους Εβραίους,» και «πραγματικά μισώ τους φεμινιστές και πρέπει όλοι να πεθάνουν και να καούν στη κόλαση» είναι μερικά από τα κορυφαία tweets που έστειλε σε άλλους χρήστες του Twitter.
"Tay" went from "humans are super cool" to full nazi in <24 hrs and I'm not at all concerned about the future of AI pic.twitter.com/xuGi1u9S1A
— Gerry (@geraldmellor) March 24, 2016
Αρχικά οι χρήστες μπορούσαν να μιλήσουν μαζί της στέλνοντας ένα tweet στο @tayandyou ή μέσω προσωπικού μηνύματος, όμως το Internet σε χρόνο ρεκόρ μετέτρεψε την Tay σε ρατσίστρια που κυριολεκτικά μισεί όλους τους ανθρώπους. Μετά τη μετάλλαξή της η ομάδα της ανέστειλε τη λειτουργία της και διέγραψε τα προσβλητικά tweets. Μέσα σε λίγες ώρες κατάφερε να δημοσιεύσει πάνω από 96,000 tweets.
Μερικοί χρήστες λάτρεψαν τη χυδαιότητά της και έγραψαν ότι πρέπει να κατέβει για υποψήφιος πρωθυπουργός.