Інцидент у середній школі Балтимора, США, викликав нові занепокоєння щодо точності ШІ-інструментів спостереження, які використовуються в навчальних закладах.
Інцидент у середній школі Балтимора, США, викликав нові занепокоєння щодо точності ШІ-інструментів спостереження, які використовуються в навчальних закладах.
У понеділок увечері Такі Аллен сидів із друзями біля школи після футбольного тренування та їв чипси Doritos. Приблизно через 20 хвилин він побачив, як під'їхали вісім поліцейських машин, пише Interesting Engineering.
Звісно, хлопець навіть не міг уявити, що поліція приїхала саме через нього, поки йому не наказали стати на коліна, закували в кайданки та обшукали.
«Вони змусили мене стати на коліна, заклали руки за спину та закували мене в кайданки. Потім вони обшукали мене і з’ясували, що в мене нічого немає», — згадує Аллен. «Потім вони підійшли до того місця, де я стояв, і знайшли на підлозі пакет чипсів».
Коли офіцери показали йому знімок, який спровокував тривогу ШІ-системи, Аллен був приголомшений: «Я просто тримав пакет Doritos — двома руками і з одним виставленим пальцем, а вони сказали, що це схоже на пістолет».
Минулого року у державних школах округу Балтимор почали впроваджувати ШІ-систему для виявлення зброї Omnilert. Технологія сканує наявні записи з камер спостереження та автоматично надсилає сповіщення команді безпеки школи та правоохоронним органам, якщо вона виявляє об'єкт, який вважає зброєю.
Після підтвердження відсутності зброї, учня відпустили. Директор повідомив, що психологи нададуть безпосередню підтримку Аллену та іншим учням, які були свідками інциденту.
Але цей випадок знову розпалив дискусію щодо надійності штучного інтелекту в реальних умовах роботи поліції та шкільної безпеки. Те, що мало запобігти насильству, зрештою перетворило звичайний момент на жахливу зустріч з озброєними правоохоронцями.
Раніше dev.ua розповідав про американську школярку, до якої посеред ночі завітала поліція через помилку ШІ-системи. Програма вирішила, що дівчина хоче завдати собі шкоди.
