- What: Sainsbury's stops using facial recognition after a customer was wrongly identified
- Impact: Highlights risks of biased or faulty AI in retail environments
Breska matvörukeðjan Sainsbury‘s hefur ákveðið að hætta við notkun á gervigreindarstýrðu andlitsgreiningarkerfi í verslun sinni í East Dulwich í London eftir að viðskiptavinur var ranglega greindur sem búðarþjófur og vísað úr versluninni. Á vef Guardian segir að hinn 46 ára gamli Matt Arnold hafi verið í versluninni að kaupa vörur fyrir uppistandsviðburð þegar tveir verslunarstjórar gengu að honum og sögðu að það væri ekki hægt að afgreiða hann vegna fyrra atviks. Hann var beðinn um að yfirgefa verslunina í fylgd starfsmanna en á leiðinni út kom hann auga á viðvörun á eftirlitsskjá þar sem rauður hringur var dreginn um andlit hans. „Ég skammaðist mín og fannst ég bæði smánaður og máttlaus,“ segir Matt. Höfuðstöðvar Sainsbury‘s báðu Matt afsökunar daginn eftir og hafa stöðvað notkun Facewatch-hugbúnaðarins í versluninni á meðan verið er að rannsaka atvikið. Fyrirtækið segir að atvikið hafi orsakast af mannlegum mistökum frekar en tækninni sjálfri. Sainsbury‘s notar andlitsgreiningu til að bera kennsl á búðarþjófa og aðra sem hafa gerst sekir um afbrot. Tæknin hefur þó áður komið keðjunni í vandræði en í september í fyrra var öðrum viðskiptavini, Warren Rajah, vísað út úr verslun í Elephant and Castle í London eftir að sami hugbúnaður greindi hann ranglega.