Мережа супермаркетів Sainsbury’s тимчасово відмовилася від використання системи штучного інтелекту для сканування облич в одному зі своїх лондонських магазинів. Таке рішення ухвалили після того, як технологія помилково ідентифікувала покупця як крадія, через що менеджери попросили його покинути приміщення.
Мережа супермаркетів Sainsbury’s тимчасово відмовилася від використання системи штучного інтелекту для сканування облич в одному зі своїх лондонських магазинів. Таке рішення ухвалили після того, як технологія помилково ідентифікувала покупця як крадія, через що менеджери попросили його покинути приміщення.
Як зазначає The Guardian, інцидент стався з 46-річним промоутером Меттом Арнольдом. Під час оплати товарів на касі самообслуговування до нього підійшли працівники та заявили, що не можуть його обслужити через «попередній інцидент». Чоловіка попросили вийти, і під час суперечки він помітив на моніторі камери відеоспостереження своє обличчя, обведене системою у червоне коло.
«Я був збентежений, навіть пригнічений, відчував себе приниженим і безпорадним», — поділився враженнями Арнольд.
Покупець зазначив, що персонал не намагався проаналізувати ситуацію, а «просто сліпо виконував накази машини». Він висловив занепокоєння тим, як некритично суспільство покладається на рішення алгоритмів, і наголосив, що подібна помилка може мати значно важчі наслідки для людей із тривожними розладами або тих, хто не здатен за себе постояти.
Наступного дня головний офіс Sainsbury’s перепросив перед клієнтом та повідомив про призупинення роботи системи Facewatch у цьому магазині на час розслідування. Проте і ритейлер, і розробник ШІ-системи заперечують безпосередній технічний збій. За їхніми словами, алгоритм спрацював коректно, а помилка сталася через людський фактор під час обробки сповіщення. Представники компанії запевняють, що точність системи Facewatch становить 99,98%, і кожен збіг додатково перевіряє навчений співробітник.
Раніше система спостереження на базі штучного інтелекту помилково прийняла пакет чипсів за вогнепальну зброю внаслідок чого учня американської школи заарештували.
