Ideja je bila simpatična, ali projekt u praksi znatno manje. Div sportske odjeće i opreme Adidas kreirao je novi dres za londonski nogometni klub Arsenal. Kako bi novu opravicu za nogometaše razglasili po svijetu okrenuli su se, kome drugome nego društvenim mrežama. Tako su svojih osamstotinjak tisuća pratitelja na Twitteru poticali da „tvitaju” #DareToCreate što bi rezultiralo automatskim odgovorom Adidasa koji je uz pomoć umjetne inteligencije generirao fotografije s novim Arsenalovim dresom, ali kojem je na poleđini umjesto prezimena slavnih nogometnih imena, stajao korisnikovo korisničko ime koje koriste na Twitteru.
Što je pošlo po krivu, pitate se?
Niz korisnika koji se skrivaju iz uvredljivih korisničkih imena poput „@GassAllJews”, „@MadelineMcCann” ili „@96wasnotenough” počeli su tvitati #DareToCreate, a program je krenuo generirati fotografije dresova s natpisima poput „Innocent Hitler” („Nevini Hitler”).
Yeah, it’s been... an interesting day. pic.twitter.com/ZNMoGuzPBj
— Zachary Jacobson (@ZachAJacobson) July 2, 2019
Osim antisemitskih, rasističkih stavova, ti su se korisnici referirali i na tragediju na stadionu Hillsborough u Sheffieldu, kada se 1989. godine na utakmici između Liverpoola i Nottingham Foresta urušio dio stajaćih tribina zbog prenapučenosti. Tog je dana život izgubilo 96 ljudi, a još 766 bilo je ozlijeđeno, a do danas se smatra najgorom nesrećom u sportskoj povijesti Velike Britanije. Osim toga, Madeline McCann je djevojčica koja je 2007. godine nestala u Portugalu dok je sa svojom obitelji bila na odmoru u turističkom naselju Praia da Luz i sve do danas nije pronađena, niti je misterij njezine otmice riješen.
Glasnogovornik Adidasa rekao je kako su obaviješteni o iskorištavanju mogućnosti za kreiranjem personaliziranih virtualnih dresova.
- Zbog manjine koja je stvarala uvredljiv sadržaj, odmah smo ukinuli ovu opciju. U kontaktu smo s Twitterom, pružateljem ove inovativne usluge, kako bi pronašli uzrok i osigurali da nadziru situaciju, te promptno reagiraju na nasilni sadržaj - izjavio je za CNBC.
Predstavnici Arsenala još nisu odgovorili na novinarske upite da komentiraju incident. U međuvremenu su svi problematični tvitovi obrisani s računa Adidas UK, no kako piše CNBC ovo nije izoliran slučaj da algoritmi, botovi i umjetna inteligencija automatski generiraju poruke ne prepoznajući da se radi o nasilnom i uvredljivom sadržaju.
Svojedobno je, također na Twitteru, jedan korisnik prevario Uberovu službu za korisnike tako što je promijenio svoje korisničko ime u zloglasnu riječ na N, rasistički naziv za Afroamerikance. S Uberovog računa, čiji sustav nije prepoznao uvredljiv naziv, stigao mu je odgovor: „We're so sorry about that, N*****”, samo bez cenzure.
Također, ovaj slučaj opet otvara pitanje kako Twitter regulira svoju platformu.