В платформу Clearview AI, которая распознаёт лица по базам, получаемым сканированием Интернета, добавлена защита от злоупотребления полицейскими. Перед работой в систему нужно ввести номер расследуемого дела и вид преступления. Так разработчик пытается улучшить свой имидж, подпорченный обвинениями в нарушении приватности тех, чьи фото извлекаются из соцсетей без их ведома.
Предотвратить злоупотребления со стороны полицейских при использовании программного обеспечения для распознавания лиц — такую задачу попытались решить разработчики системы Clearview AI. Для этого они ввели в неё новую функцию — каждый раз, когда полицейский хочет начать поиск, система требует, чтобы он ввёл номер дела и вид расследуемого преступления.
Предполагается, что нововведение повысит прозрачность использования распознавания лиц, поскольку в ходе работы системы в ней будет создаваться легко проверяемая запись всех поисковых запросов. В дополнение к этому компания Clearview, разработчик системы, будет учить полицейских честному и добросовестному обращению с ней.
Система Clearview AI выполняет распознавание лиц по базам данных, получаемым сканированием Интернета. В связи с этим компания Clearview подвергается обвинениям в нарушении приватности тех, кто размещает свои фотографии в социальных сетях и на иных ресурсах. Добавление в систему средств контроля полицейских рассматривается как всего лишь отвлекающий манёвр, призванный утихомирить страсти.
Компания отвергает обвинения, указывая, что не она, а правоохранительные агентства, применяющие систему, несут ответственность за правильность обращения с ней и с биометрическими данными людей. Однако подобные комментарии лишь усиливают опасения по поводу сомнительной этической позиции компании. Clearview игнорировала приватность людей, когда создавала свою огромную базу данных. Она собирала в неё изображения из таких ресурсов, как Facebook и YouTube, не уведомляя об этом ни пользователей, ни сами платформы.
На этом фоне вряд ли кого-то успокоит тот факт, что такой производитель теперь будет сам обучать кого-то этике работы с распознаванием лиц. В прошлом компания продемонстрировала весьма умеренное понимание вопросов приватности, и теперь многие сомневаются, что у неё получится убедительно говорить на эти темы.
Независимо от борьбы вокруг проблем приватности, важен сам опыт добавления в систему функционала для контроля работы правоохранителей. Встраивание в высокотехнологичные системы защиты от злоупотребления и использования в личных целях следует признать полезным.
