Фото: retail-optimiser.de
технологіїтехнології в рітейлісупермаркетиВелика Британіяштучний інтелект
Мережа супермаркетів Sainsbury’s тимчасово відмовилася від використання штучного інтелекту після того, як технологія помилково сприйняла одного з покупців за злодія, а охорона вигнала його з магазину. Про це повідомляє The Guardian.
Інцидент стався з Меттом Арнольдом у Лондоні.
Чоловік робив покупки в супермаркеті. Після сканування товарів та картки Nectar на касі самообслуговування до нього підійшли двоє менеджерів і сказали, що не можуть його обслужити через інцидент, який стався раніше. Потім його попросили піти, і вони спробували вивести його з магазину.
Виходячи, Арнольд побачив на моніторі системи відеоспостереження своє обличчя, обведене червоним. Він попросив співробітників магазину залишити його покупки у візку, щоб його друг міг прийти й забрати їх.
Думаю, вони (менеджери) були зніяковілі цим, що цілком зрозуміло, але погодилися. І мій колега зайшов сплатити та забрати покупки приблизно через п’ять хвилин. Співробітники навіть не задумалися, не показали, що розуміють, що магазинний злодій так не вчинить. Просто сліпо дотримувалися вказівок машини, — сказав чоловік.
Наступного дня головний офіс Sainsbury’s вибачився перед Арнольдом і призупинив використання технології Facewatch з підтримкою ІІ в магазині на час проведення розслідування. Однак Арнольд стверджує, що використання цієї технології слід призупинити у всіх магазинах, і він стурбований масштабами застосування ШІ у суспільстві.
Будь-яку людину можуть помилково звинуватити, і в якийсь момент це виявиться хтось уразливий, хтось із проблемами психічного здоров’я, такими як тривожність. Крім того, мене турбує те, як це може підірвати впевненість у собі у молодих людей або у тих, хто менш схильний чи здатний постояти за себе, як це зробив я, — сказав Арнольд.
За словами представників Sainsbury’s, інцидент стався через людську помилку, а не через технологію розпізнавання осіб.
Клієнти можуть бути впевнені, що система Facewatch має точність 99,98% і кожен збіг перевіряється кваліфікованим менеджером, — заявили вони.
Мережа супермаркетів Sainsbury’s використовує технологію розпізнавання осіб для ідентифікації магазинів та інших злочинців, заявляючи, що це робиться для захисту персоналу від зловживань. Однак, технологія постійно стикається з проблемами.
