Пам’ятаєте випадок, коли шкільна ШІ-система помилково прийняла пакет чипсів учня за вогнепальну зброю? У середній школі у Флориді трапилася схожа ситуація, але через кларнет. Хоча цього разу керівництво школи та розробник ШІ кажуть, що система спрацювала правильно.
Пам’ятаєте випадок, коли шкільна ШІ-система помилково прийняла пакет чипсів учня за вогнепальну зброю? У середній школі у Флориді трапилася схожа ситуація, але через кларнет. Хоча цього разу керівництво школи та розробник ШІ кажуть, що система спрацювала правильно.
Шкільна система безпеки зі штучним інтелектом ZeroEyes прийняла кларнет за зброю, пише Ars Technica.
Поліція миттєво відреагувала на повідомлення ШІ-системи про «чоловіка у камуфляжі, який тримає підозрілий предмет, націлений у коридор, так само як тримають гвинтівку під час стрільби».
Натомість не знайшовши жодних доказів присутності стрільця, поліцейські перевірили інформацію у диспетчерів. Ті підтвердили: детальніший аналіз зображень вказує на те, що «підозріла гвинтівка могла бути музичним інструментом».
Серед охоплених панікою учнів, що ховалися в кабінеті музики, поліція врешті знайшла підозрюваного — школяра, одягненого у військового персонажа з різдвяного фільму 'Red One' з нагоди святкової вечірки в школі.
Співзасновник ZeroEyes Сем Алаймо вважає, що штучний інтелект у цьому випадку діяв саме так, як мав би, застосувавши підхід «краще перестрахуватися, ніж потім шкодувати».
«Ми не вважаємо, що зробили помилку, як і школа», — сказав Алаймо. «Краще було відправити, ніж не відправляти».
Поліція поїхала після того, як розгублений учень підтвердив: він «навіть не усвідомлював», що те, як він тримав кларнет, могло спровокувати тривогу.
Проте речник ZeroEyes заявив, що хлопець «навмисно тримав інструмент у положенні гвинтівки, притиснутої до плеча». І замість того щоб з’ясувати, чому зображення не перевірили ретельніше для запобігання хибній тривозі, школа, схоже, погодилася з ZeroEyes і переклала провину на учня.
У листі до батьків директорка школи Мелісса Лаудані зазначила: «Хоча жодної загрози для закладу не було, я хотіла б попросити вас поговорити з вашими дітьми про небезпеку імітації зброї на території школи».
