Компьютерное зрение (Computer Vision, CV) – это теория и технология создания устройств, которые способны обнаружить и отследить объект, а затем, на основании собранной информации, распознать этот объект. В материалах по информационной безопасности компьютерное зрение ещё иногда называют техническим зрением.
С точки зрения науки, компьютерное зрение относится к технологиям, которые получают данные из изображений, видео или даже из трехмерных данных, например с медицинского оборудования.
Чтобы компьютер смог «видеть» используют технологии машинного обучение.
Машинное обучение – это подход в программировании, при котором алгоритм учится «решать» какую-либо задачу. Самый популярный пример машинного обучения – создание алгоритма, который проводит классификацию фотографий, где на одних изображены кошки, на других собаки.
Для того чтобы научить компьютер «видеть» необходимы большие объемы данных. На этом массиве данных обучается искусственный интеллект: выделяет общие признаки, комбинации признаков, свойства для дальнейшей идентификации похожих объектов.
Система распознавания лиц — это программа глубокого машинного обучения для распознавания образов, задача которой заключается в автоматическом определении лица на изображении или видеопотоке и идентификация человека путем с помощью анализа человеческого лица.
Принципы работы системы распознавания лиц
Большинство людей знакомы с технологией распознавания лиц по фильмам, книгам или из других источников. При этом там не объясняется, как подобные системы различают лица людей. А для защиты от систем распознавания неплохо было бы знать, как работает эта технология.
Работа наиболее распространенных алгоритмов распознавания базируется на системе маркеров (точек) на лице. Оценка проходит по этим точкам и связям между ними. По сути, эти маркеры формируют индивидуальный отпечаток, при сравнении с которым подтверждается соответствие с другими образцами, предоставленными для сравнения. При таком сравнении система сама оценивает, насколько высока вероятность совпадения.
Маркеры на лице – это ключевые элементы, по которым происходит сравнение. Чаще всего сравнение происходит по группе маркеров. Связи между маркерами в такой группе и между этими группами и формируют уникальный идентификатор. К таким группам относятся форма лица, положение рта, носа и глаз, линия волос и т.п. При этом не обязательно определять все точки или группы маркеров на лице. Даже части базовых признаков будет достаточно для идентификации. При этом некоторые системы распознавания умеют сами добавлять недостающие маркеры и области, в том месте, где они предположительно должны находиться.
Из этого краткого описания становится понятно, что для того чтобы помешать распознаванию лица такими системами, нужно помешать обнаружить эти маркеры. В этом направлении проводилось множество. Но здесь важно, что большинство таких решений работают с конкретными методами распознавания и идентификации, т.е. для каждой системы распознавания лиц такая защита разрабатывается индивидуально. Поэтому все способы рассматривать нет смысла, остановимся только на универсальных методах защиты.
Защита от распознавания лиц в сети интернет
Ни для кого не секрет, что компании, сервисы и агентства, работающие в сети, уже давно занимаются сбором информации о пользователях. Эта информация используется по большей части для того, чтобы убедить сделать покупку, на которую пользователь не решились во время прошлого посещения магазина, или предложить товар, который может по каким-то причинам вас заинтересовать. Это реализуется на основании поведения в сети, которое отслеживается этими сервисами, такие данные хранятся, тщательно анализируется, и используются по мере необходимости.
Но со временем приоритеты в развитии подобных систем меняются, и на первое место уверенно выходит идентификация личности, что в перспективе упростить этим компаниям сбор данных и даст гораздо больше информации о пользователе. Для работы с такими данными сейчас повсеместно используются нейронные сети – специальные программы способные к самообучению. Для обучения такой системе нужно показывать образцы материалов, с которыми она будет работать, например изображения. В процессе программа учится находить закономерности, по которым впоследствии сможет определить, что или кто находится на изображении. Но для обучения нейронной сети нужно большое количество данных, ведь точность распознавания впоследствии напрямую будет зависеть от того, на каком количестве материалов нейронная сеть училась.
В общем виде схема работы с нейронной сетью может выглядеть примерно так: для решения задачи обучения собирается база общедоступных фото, например из социальных сетей. При этом пользователи соцсети не знают, что их фотографии попадают в базу для распознавания лиц. Затем изображения из базы используются для обучения и тестирования нейронной сети. Впоследствии эта база дополняется другими доступными изображениями и используется для идентификации личности. Перспективы прямо скажем так себе…
Но опасность здесь не только в том, что в случае необходимости, по этой базе вас легко можно будет идентифицировать. Недолго осталось до того момента когда нейронные сети научатся точно сравнивать изображения. Но таких сервисов и структур много, кто собирает информацию, разрабатывает собственные приложения. А теперь представьте, если со временем все крупнейшие корпорации объединятся, и у них будет общий банк ваших данных. И в этот момент мы уже говорим о централизованной базе с огромным количеством данных на большинство жителей страны или даже мира.
Специалисты по информационной безопасности выказывают серьезную озабоченность тем, насколько распространились системы распознавания лиц, и насколько выросла их эффективность. Само собой разумеется, что есть необходимость в инструментах для защиты от потенциальных злоупотреблений подобными системами и несанкционированного применения систем распознавания.
Законодательство нашей страны в сфере информации и технологий искусственного интеллекта оставляет желать лучшего. Нет никакого механизма, регулирующего сбор биометрических данных. Любой желающий может заказать или написать программу, которая будет собирать фото по социальным сетям, или установить камеру на углу своего дома с функцией распознавания лиц. И за это не последует каких-либо санкций.
Именно поэтому следует знать, как защитить себя от таких людей и организаций, которые хотят завладеть вашими биометрическими данными.
Сразу отметим, что решений проблемы несанкционированного использования систем идентификации не существует, поэтому здесь речь идет не о борьбе за контролируемое использование таких систем, а о том, чтобы нарушить их нормальную работу, и не раскрывать свои персональные (биометрические) данные. И в этом направлении есть интересные разработки, на одной из которых остановимся поподробнее.
Группа исследователей на кафедре компьютерных наук Чикагского университета провели исследование, в результате которого разработали методику обработки изображений, которые впоследствии вводят системы распознавания лиц в заблуждение.
Такие фотографии внешне ничем не отличаются от необработанных, но искусственный интеллект не в состоянии узнать в них оригинальное изображение. Добавление таких изображений в базу, по которой проходит обучение, подрывает работу нейронной сети.
Принцип работы данной методики очень простой. Перед публикацией в социальной сети пользователь делает обработку изображения на компьютере с помощью программы Fawkes. В результате обработки фото становится непригодным для анализа, такое изображение мешает алгоритму обучения, добавляя в базу неверные данные для анализа. Но главное, что ни программа распознавания, ни обслуживающий персонал такой программы не в состоянии распознать изображения с такой обработкой. И если впоследствии система распознавания попытается выполнить сравнение с оригинальным изображением, поиск по базе не даст положительных результатов.
Приложение протестировано и доказало свою эффективность против самых популярных систем распознавания. При этом алгоритмы обработки фотографий, которые используются социальными сетями при загрузке изображений, никак не влияют на эффективность защиты при использования приложения.
Защита от распознавания лиц камерами видеонаблюдения
Кроме всемирной сети, довольно неоднозначно выглядит ситуация, связанная с сохранением анонимности на улицах городов. Ни у кого ведь не вызывают удивления камеры, установленные в магазинах, на улицах и у банкоматов. Ведь это средство безопасности, на которое возлагаются надежды по защите материальных ценностей.
Но на самом деле это не только инструмент обеспечения безопасности, но и средство для идентификации и контроля. И когда встает вопрос о том, как защитить свое лицо от камер наблюдения, первой идеей, которая приходит на ум сегодня, будет медицинская маска. Но в случае с маской все не так просто, как кажется на первый взгляд, и маска не всегда сможет помочь вам справиться с поставленной задачей.
Известно, что в Китае разработчики одними из первых научили свои системы распознавания работать с изображениями людей в масках. Причиной этому может быть то, что ношение масок в общественных местах в Китае стало нормой задолго до пандемии COVID-19. Системы распознавания начали определять и идентифицировать людей, на лицо которых одета маска, уже только по верхней части лица. А на сегодняшний день на это уже способны большинство систем распознавания по всему миру. Но это вовсе не значит, что маска в данном случае бесполезна.
По результатам исследований, самым универсальным методом защиты от распознавания является использование медицинских масок в паре с солнцезащитными очками. Такая маскировка не вызывает удивления в условиях нынешней ситуации с COVID и способна защитить от идентификации.
Сама по себе маска снижает точность определения, но не исключает возможность идентификации. Эффективность в данном случае зависит от типа и размера маски. Но в любом случае на лице остается много открытых маркеров для точной идентификации, и система распознавания способна достроить недостающие точки с приемлемой точностью. Дополняя же такую маскировку темными очками, мы скрываем большинство ключевых маркеров, и оставшегося количества уже недостаточно для распознавания лица человека.
Пока что это рабочий метод защиты, но спрогнозировать, сколько времени нужно, чтобы научить нейронные сети обходить подобные защитные меры, не представляется возможным. Ознакомьтесь с видео, в нем также содержится полезная информация о том, как защититься от систем распознавания лиц.
Перспективы развития искусственного интеллекта и систем распознавания лиц
Идея искусственного интеллекта зародилась еще со времен появления первых персональных компьютеров, но разработка подобных систем постоянно сталкивалась с разными техническими и морально-этическими преградами. Сегодня такие разработки вышли на новый уровень. Выдающиеся успехи отмечают в отраслях, работающих над созданием нейронных сетей и компьютерного зрения, которые обучаются на огромных потоках данных, в том числе и на видео с камер наружного наблюдения. Разработчики активно внедряют элементы искусственного интеллекта в различные системы и сервисы, и этическая сторона работы таких проектов вызывает много вопросов.
Простой пример: беспилотный автомобиль, управляется искусственным интеллектом, в нем едет пассажир – владелец данного авто. Происходит нештатная ситуация, которая не была смоделирована при обучении искусственного интеллекта и он принимает неправильное решение и попадает в аварию. Кто в данном случае будет нести ответственность? Человек, кто купил этот автомобиль, но не управлял им или те, кто его создавал? А что, если возникнет ситуация, когда ИИ придется выбирать между жизнью человека в машине и пешехода? Как он поступит в таком случае? Чья жизнь для него будет в приоритете, если сложилась безвыходная ситуация? Это вопросы, которые долгое время будут без ответов.
Технологии искусственного интеллекта стремительно развиваются. Возможно, через 10-20 лет будет разработана полноценная система искусственного интеллекта, имеющая широкий профиль применения и способная на принятие самостоятельных решений и моральную оценку человеческих поступков. Можно подумать, что это из области фантастики и с реальностью ничего общего не имеет. Но это не так. Давайте посмотрим, какой уровень развития технологий у нас сегодня.
Уже в ближайшее время Сбербанк сможет узнавать клиентов по лицу в офисах и банкоматах, по голосу при звонке в контактный центр, вы сможете расплатится одним взглядом в камеру в торговых точках или снимать деньги в банкоматах. Конечно, технология разрабатывается для удобства и безопасности клиентов. Доступ к счету теперь не будет зависеть от ваших документов, которыми могут завладеть злоумышленники, человеку не нужно будет везде носить с собой карты или телефоны, для расчета на кассе. Но ведь у подобных нововведений есть и обратная сторона.
В Сбербанке утверждают, что не будут использовать данную технологию без согласия клиента, но, само собой разумеется, база с биометрическими данными клиентов будет собираться, храниться и анализироваться. В скором времени и другие банки и организации внедрят подобные технологии, базы пользовательских данных будут расти, а потом придет момент, когда эти данные будут объединены в единую базу, которая может стать инструментом тотального контроля. Но даже если не думать настолько глобально, и так понятно, что наличие централизованной базы с этими данными это опасный инструмент в руках злоумышленников, которые могут получить к ней несанкционированный доступ.
Подводя итоги можно сказать, что на сегодня у нас ещё есть методы для борьбы за конфиденциальность, но никто не знает, когда появятся технологии, которые научаться распознавать и обходить имеющиеся способы защиты. Поэтому, дабы защитить себя и личные данные, и помешать развитию нейронных сетей в этом направлении, рекомендуем серьезно относиться к хранению персональной информации, загружать в интернет только правильно обработанные изображения и защищать лицо от камер наблюдения на улицах.
Существуют ли в настоящее время какие-либо разработки прикладной защиты от системы распознавания лиц с помощью видеокамер? Имеется в виду система создания электромагнитного шума, специальный лак на лицо, точечные отражатели… Неужели люди беззащитны против такого контроля?
Здравствуйте. На данный момент можно использовать принтованную одежду с изображениями животных. В таком случае ИИ путается и не может определить человека. Однако, это временно и выглядит нелепо со стороны.
Можно использовать маски человеческого лица. Камеру можно «потушить» электромагнитным импульсом, но для этого нужно собрать устройство. Тушит все. Телефон, телевизор, компьютер. Работает на небольшом расстоянии. Камеры сейчас имеют высокое разрешение съемки, поэтому данный способ вряд ли подойдет.
Отражатели, как вы выразились, тоже не будут иметь нужного эффекта, ввиду того, что камера не работает по отраженному сигналу. Она работает с обычным изображением. Как вариант, можно повесить обычные зеркала, тогда нейронная сеть запутается. Но вы готовы ходить со стеклом на лице?