Департамент полиции Сиэтла использует программное обеспечение ИИ для анализа записей с камер наблюдения и поведения офицеров

Сиэтл - один из немногих городов, где полицейские управления используют платформу искусственного интеллекта для просеивания тысяч часов записей с камер наблюдения, в поисках моделей поведения полицейских, которые могут быть учтены в ходе обучения.

Сиэтл является "якорным клиентом" для этого программного обеспечения, по словам чикагского стартапа Truleo, основанного в 2021 году, который вырос из платформы, впервые разработанной для анализа телефонных звонков и текстовых сообщений между банкирами Уолл-стрит.

Департамент полиции Сиэтла использует эту технологию с 2021 года, сообщает компания.

Полиция Сиэтла отказалась отвечать на вопросы об использовании Truleo. Пресс-секретарь сказала, что "еще слишком рано говорить об измеримых результатах".

"Однако мы с нетерпением ждем возможных результатов, которые Truleo может дать в будущем, и мы продолжаем придерживаться принципов работы полиции, основанной на данных и доказательствах", - сказала сотрудник отдела общественной информации полиции Валери Карсон.

Полицейские департаменты генерируют тысячи часов записей, сделанных с помощью камер наблюдения. Идея Truleo заключается в использовании искусственного интеллекта для сканирования записей в поисках звуковых сигналов, которые могут помочь выявить закономерности, например, проблемы, которые могут возникнуть у патрульных при взаимодействии с населением. Затем департаменты могут решать проблемы с помощью обучения до того, как они обострятся.

"Конечный продукт аудиоанализа Truleo - это богатый анализ тысяч разговоров, позволяющий отделам быстро выявлять инциденты, связанные с риском, и тенденции в масштабах отдела", - говорится в сообщении компании в блоге, объясняющем принцип работы платформы ИИ.

На прошлой неделе Axios сообщил об этой технологии, отметив, что она может получить более широкое распространение после смерти Тайра Николса в Мемфисе, где полиция "разразилась шквалом команд, которые были запутанными, противоречивыми, а иногда и вовсе невыполнимыми", сообщает The New York Times.

"Сегодня, когда мы оплакиваем гибель людей и крушение доверия в Мемфисе, не теряйте надежды, что решение найдено", - написал на этой неделе генеральный директор Truelo Энтони Тассоне в LinkedIn. "Как и большинство департаментов, полиция Мемфиса просматривает менее 1% видеозаписей с камер наблюдения, потому что для человека просто слишком много данных для просмотра. Однако существует автоматизированная аналитика, и эта технология помогает обеспечить культуру подотчетности и профессионализма, особенно в то время, когда департаменты так молоды и полны новобранцев".

Truleo называет калифорнийские полицейские управления в Аламеде, Этуотере и Вальехо в качестве текущих клиентов, а также управления во Флориде, Алабаме и Пенсильвании. Компания Atwater использовала данные, полученные в результате анализа записей, проведенного Truleo, для создания показателей эффективности, которые представляют собой "статистику бейсбольных карточек для полицейских", - говорит Truleo.

В тематическом исследовании, проведенном компанией, утверждается, что в полицейском управлении Аламеды на 36% сократилось применение силы сотрудниками после того, как Truleo проанализировала записи с нательных камер и использовала полученные результаты для проведения тренингов.

В исследовании, в котором сравнивались данные за шестимесячный период в 2021 году и шестимесячный период в 2022 году, также отмечается снижение на 30% количества непрофессиональных высказываний, используемых офицерами, и увеличение на 12% степени соблюдения норм поведения со стороны людей, с которыми они общались.

До использования искусственного интеллекта Truleo AI в департаменте Аламеда сержанты выборочно проверяли около 1% записей с камер наблюдения своих сотрудников, говорится в исследовании.

Однако у такого программного обеспечения есть потенциальные проблемы, говорит Ос Кис, докторант кафедры человекоцентрированного дизайна и проектирования в Университете Вашингтона, который выступал против использования искусственного интеллекта в нательных камерах.

На базовом уровне нательные камеры фиксируют каждое взаимодействие полицейского с другими людьми, а также могут записывать изображения и звук разговоров поблизости или действий, в которых полицейский не участвует. По словам Киз, нательная камера на полицейском становится своего рода блуждающим цифровым инструментом наблюдения.

Есть основания опасаться, что ИИ неправильно интерпретирует то, что он слышит на аудиозаписях с нательных камер, сказал Кис. Даже самый лучший ИИ с трудом может правильно определить сарказм, а ряд моделей обработки естественного языка демонстрируют предвзятость по расовому, этническому и гендерному признакам.

Исследование, проведенное по заказу Washington Post, показало, что смарт-динамики Amazon и Google на 30% хуже понимали людей, которые не говорили по-английски с американским акцентом. Показатель точности для носителей с китайским, индийским или испанским акцентом составил около 80%.

Если объединить проблему блуждающих камер наблюдения с проблемой понимания ИИ всего спектра человеческой речи, то получится проблема, говорит Киз.

Анализ записей с камер наблюдения "может быть действительно полезной практикой не только для обучения, но и для выявления таких вещей, как незарегистрированные случаи жестокости или преследования", - сказал Кис.

Но поскольку это так важно, "совершенно неуместно" использовать систему, которая не прошла независимую экспертизу, отметил Кис.