В США школьная система безопасности на базе искусственного интеллекта приняла за пистолет пачку чипсов Doritos в руках старшеклассника Таки Аллена и вызвала полицию.
Инцидент произошёл в средней школе Кенвуд в Балтиморе, штат Мэриленд. По приезде в учебное заведение вооружённые полицейские задержали подростка после футбольной тренировки, передает habr.com
Аллен рассказал, что полицейские направили на него оружие, приказали лечь на землю и задержали. Однако несовершеннолетний не совершил ничего противозаконного. Полицию оповестило ложное срабатывание системы обнаружения огнестрельного оружия, за которое ИИ принял мятый пакет чипсов.
Молодой человек рассказал о своих переживаниях, отметив ощущение, что школа вообще о нём не заботится. Персонал школы не интересовался состоянием школьника после инцидента. Семья Алленов сочла, что реакция полиции была чрезмерно агрессивной.
Система использует ИИ, подключаясь к камерам видеонаблюдений школы и оповещая службу безопасности и правоохранительные органы. Программное обеспечение для системы разработала компания Omnialert, которая признала ложное срабатывание, но подчеркнула, что пакет «очень напоминал оружие». По мнению разработчика ПО, система «функционировала так, как предполагалось», поскольку она «отдавала приоритет безопасности и осведомлённости посредством быстрой человеческой проверки».
Omnialert пообещала провести тщательный анализ инцидента для повышения точности системы.
Школы Балтимора разослали родителям письмо, в котором передали сообщение Omnilert и отметили, что пострадавшим учащимся будут доступны услуги консультации.
Аллен заявил, что никто с ним не связывался и не проверял его состояние после инцидента. Подросток беспокоится по поводу возвращения в школу: «Если я съем ещё одну пачку чипсов или выпью что-нибудь, у меня такое чувство, что они придут снова».