Скандал в Канаде: полиция показала ИИ-изображение наркотиков, вызвавшее бурю обсуждений

Полиция Ванкувера подтвердила использование ИИ для обработки снимка, связанного с задержанием, после того как пользователи заметили на изображении несуществующие банкноты и другие признаки генерации

Полиция Ванкувера оказалась в эпицентре скандала после публикации в социальной сети X изображения, которое касалось задержания по делу о наркотиках и было обозначено как созданное с помощью искусственного интеллекта. После того как пользователи выявили на фотографии признаки генерации, правоохранительным органам пришлось удалить изображение и заменить его оригиналом.

Опубликованный полицией снимок должен был продемонстрировать изъятые наличные и наркотики. На первый взгляд изображение выглядело правдоподобно, однако при более тщательном рассмотрении пользователи заметили характерные ошибки, часто встречающиеся в генеративных моделях. В частности, на фотографии находились банкноты номиналом $50, ошибочно обозначенные как 20-долларовые, а на одной из $100 купюр вместо номинала было указано лишь «00».

После появления критических замечаний канадский телеканал CTV News запросил разъяснения у полиции Ванкувера. Сержант Адам Доналсон (Adam Donalson) сообщил, что искусственный интеллект использовался для удаления имен обвиняемых с фотографии перед её публикацией. Однако это объяснение вызвало дополнительные вопросы, так как исходное изображение было фотографией изъятых предметов, разложенных на картоне и подписанных маркером.

Позже представитель полиции сообщил, что изображение, обработанное при помощи ИИ, было удалено и заменено оригинальной фотографией, обрезанной так, чтобы исключить личные данные подозреваемых.

Инцидент вызвал особенно сильную реакцию на фоне растущих опасений относительно применения генеративного искусственного интеллекта в работе правоохранительных органов. В последние годы в различных странах уже были случаи, когда сотрудники полиции использовали нейросети для составления документов, анализа данных наблюдения и даже обработки доказательств, что неоднократно приводило к ошибкам и спорам о допустимости таких методов.

Некоторые пользователи социальных сетей обвинили полицию Ванкувера в подрыве доверия к расследованию. Один из комментаторов заметил, что публикация изображения с элементами, созданными искусственным интеллектом, могла повлиять на восприятие дела потенциальными присяжными. Другие пользователи с иронией указывали, что удаление спорной публикации только усилило недоверие к действиям полиции.

Ситуация в Ванкувере стала очередным примером того, как внедрение генеративного искусственного интеллекта в работу правоохранительных органов сталкивается с основной проблемой: даже незначительное изменение доказательств с помощью ИИ может поставить под сомнение достоверность всей представленной информации.