Внезапно искусственный интеллект (ИИ) повсюду. Умные технологии привносят в нашу жизнь целый ряд преимуществ: от оптимизации повседневных задач до научных прорывов.
Преимущества ИИ и машинного обучения (МО) также включают автоматизацию повторяющихся задач, анализ огромных объемов данных и минимизацию человеческих ошибок.
Но как эти преимущества применяются в отрасли физической безопасности и есть ли у них недостатки?
Мы спросили на этой неделе Круглый стол экспертов: Каковы преимущества и недостатки использования искусственного интеллекта (ИИ) в физической безопасности?
Эксперт № 1
Интеграция искусственного интеллекта (ИИ) в физическую безопасность — это критически важный разговор прямо сейчас.
Давайте начнем с положительных моментов. Во всей отрасли ИИ используется для автоматизации рутинных задач, чтобы сэкономить время операторам безопасности. Это позволяет операторам безопасности изменить свою точку зрения с простого реагирования на упреждающую.
Это повышает общую эффективность работы.
Теперь о недостатках.
Хотя ИИ позволяет нам мечтать о большем, мы часто мечтаем слишком много.
ИИ не заменит работу операторов безопасности.
Его следует использовать как дополнительный уровень защиты, а не единственный.
Для эффективной интеграции ИИ в безопасность необходимо четкое информирование о его возможностях и ограничениях, гарантирующее, что его применение в реальных условиях будет практичным.
Эксперт № 2
Использование искусственного интеллекта в физической безопасности дает многочисленные преимущества.
Во-первых, ИИ обеспечивает интеллектуальный мониторинг с помощью таких функций, как интеллектуальные камеры наблюдения и распознавание лиц, повышая эффективность и точность наблюдения, одновременно снижая количество человеческих ошибок.
Во-вторых, ИИ может анализировать большие данные в режиме реального времени, быстро обнаруживая ненормальное поведение, тем самым повышая бдительность и скорость реагирования системы безопасности.
Кроме того, ИИ может выполнять распознавание образов, обучение и адаптацию к различным средам, постоянно повышая уровень интеллекта систем безопасности.
Однако существуют проблемы и недостатки использования ИИ.
Во-первых, высокая стоимость может стать препятствием для развертывания систем безопасности ИИ, включая расходы на закупку оборудования, обслуживание и обучение персонала.
Во-вторых, вопросы конфиденциальности и безопасности данных требуют особого внимания, особенно в отношении сбора и обработки личной информации.
Более того, системы ИИ могут сталкиваться с такими проблемами, как неправильная идентификация и пропущенные обнаружения, что требует постоянной оптимизации и корректировки алгоритмов для повышения точности и стабильности.
Эксперт № 3
Преимущества использования ИИ намного превзошли любые потенциальные недостатки в нашей отрасли. Количество каналов с камер в мире сегодня ошеломляет. Просто неразумно ожидать, что люди будут эффективно контролировать их все.
ИИ помогает организациям отслеживать эти каналы 24/7/365 на предмет аномалий и привлекает внимание операторов к событиям, требующим дальнейшего изучения, таким как проверка сигнала тревоги.
Он также помогает предотвратить праздношатание и другое нежелательное поведение, автоматизируя голосовые сообщения и включая свет, одновременно усиливая ответ, если состояние сохраняется.
Чем больше мы сможем автоматизировать рутинные процессы, тем больше времени наши клиенты смогут потратить на более важные обязанности, связанные с клиентами. ИИ также может собирать ценные метаданные для операционных и отделов продаж, чтобы проверять соответствие или маркетинговые кампании.
Основные недостатки могут быть связаны с недобросовестным использованием данных, которое нарушает конфиденциальность или пересекает этические границы.
Все мы должны обеспечить ответственное использование ИИ.
Эксперт № 4
Технологии ИИ предоставляют ряд мощных возможностей, когда речь идет о физической безопасности, таких как обнаружение и классификация объектов и их характеристик с помощью видеонаблюдения, а также анализ аудио и других действий на сцене.
По мере того, как ИИ продолжает развиваться, он способен еще больше повысить точность аналитических алгоритмов.
Например, с ИИ эти алгоритмы могут обнаруживать объекты, даже если они частично скрыты или в сложных условиях освещения, обеспечивая дополнительный уровень видимости и безопасности.
Однако принятие подхода, основанного на оценке риска, к ИИ имеет решающее значение, поскольку существует несколько областей, в которых технология может представлять опасность для людей и общества при неправильном использовании.
К ним относятся конфиденциальность данных (особенно биометрических данных), потенциальная предвзятость и автоматизированные процессы или решения, которые могут быть неправильными.
Но при ответственном подходе к ИИ его можно использовать для значительного улучшения систем физической безопасности и создания более безопасного мира.
Эксперт № 5
Преимуществом использования искусственного интеллекта в физической безопасности является автоматизация определенных задач.
Сюда входит подсчет количества людей в помещении или определение того, был ли обзор камеры наклонен или заблокирован каким-либо препятствием, например листьями или перестановкой в комнате.
Недостатком является возможность чрезмерной зависимости от программного обеспечения.
Результаты искусственного интеллекта должны быть проверены человеком, прежде чем будет принято окончательное решение о действиях.
Эксперт № 6
Наложение искусственного интеллекта (ИИ) на существующие технологии принесет огромные выгоды в сфере физической безопасности. Например, в технологии AV-over-IP мы рассматриваем возможность использования
ИИ для автоматического создания закладок, когда в видеопотоке происходят заметные события. Это облегчит задачи операторов диспетчерской и добавит дополнительный уровень безопасности. Конечно, у новых инструментов ИИ есть и недостатки.
Пока не совсем ясно, насколько надежными могут быть инструменты ИИ с видеоматериалами. Мы можем увидеть увеличение количества ложных тревог и больше видеоматериалов, записываемых в диспетчерских, чем необходимо.
В целом, все еще много неизвестного о том, как ИИ изменит будущее безопасности. Я предвижу, что большинство результатов будут положительными.
Эксперт № 7
Нет сомнений, что ИИ может нарушить работу всех видов отраслей. В области физической безопасности ИИ меняет системы с использования в первую очередь в качестве реактивных инструментов для расследований на инструменты, которые можно использовать в различных операционных функциях.
Некоторые из захватывающих новых вариантов использования включают складские и производственные установки. Раньше камеры видеонаблюдения использовались только для расследования претензий, но с усовершенствованными моделями большого зрения теперь их используют кросс-функциональные бизнес-партнеры для мониторинга и отправки оповещений при обнаружении ненормальных или небезопасных схем движения, отсутствия защитного снаряжения (например, кто-то без каски в зоне строительства) и многого другого.
В розничной торговле маркетинговые команды используют инструменты движения и тепловые карты на основе ИИ, чтобы понять эффективность показов и размещения продуктов.
С любой новой технологией мы должны быть внимательны к рискам и развертыванию. Нам нужно более глубокое обучение продуктам, а также четкие этикетки, элементы управления и разрешения, чтобы команды, которые используют эти инструменты, понимали свои ограничения и ожидания.
Эксперт № 8
ИИ — это умножитель силы, позволяющий группам безопасности любого размера перейти к проактивной стратегии. При предотвращении преступлений жизненно важно быстро обнаруживать, сдерживать и реагировать. Разработчики в отрасли достигли мультимодальности, объединяя компьютерное зрение, большие языковые модели и другие входные сигналы, чтобы предоставить ИИ почти человеческое понимание того, что происходит на месте видеонаблюдения.
Это позволяет быстро реагировать на угрозы, улучшать метаданные на проактивных этапах и проводить разговорный криминалистический поиск. Некоторые организации обеспокоены точностью, в частности, пропущенными идентификациями угроз или ложными тревогами.
Захватывающая новость заключается в том, что такие команды ИИ, как наша, ежедневно решают сложные проблемы приложений безопасности.
Например, припаркованные автомобили постоянно бросают вызов проактивному видеонаблюдению.
Наша команда преодолела это, разработав новые алгоритмы, которые почти исключают ложные тревоги и фокусируются только на движущихся транспортных средствах. ИИ прокладывает путь к захватывающему будущему для нашей отрасли.
Эксперт № 9
Автоматизируя рутинные задачи и улучшая возможности обнаружения и реагирования на угрозы в кибербезопасности, ИИ позволяет группам безопасности сосредоточиться на более стратегических мероприятиях.
Вероятно, что специалисты по кибербезопасности вскоре будут использовать инструменты ИИ в качестве интерфейса для менее знакомых инструментов, подобно тому, как программисты в настоящее время используют ИИ для генерации кода на основе описания задачи при написании кода для незнакомых языков программирования.
Однако один из недостатков быстрого внедрения ИИ в приложениях безопасности предприятий заключается в том, что ускоренный цикл разработки и ограниченная база пользователей означают, что эти инструменты не прошли обширного реального тестирования безопасности. В результате некоторые инструменты безопасности ИИ могут включать уязвимости, которые могут быть использованы субъектами угроз.
Это похоже на последние тенденции взлома корпоративных приложений передачи файлов или корпоративных VPN, которые произошли до текущего увеличенного цикла разработки для включения ИИ на основе требований инвесторов.
Весьма вероятно, что в краткосрочной перспективе мы увидим использование нулевых дней против решений кибербезопасности на базе ИИ.
Эксперт № 10
Способный распознавать закономерности и тенденции, а также распознавать людей, транспортные средства и объекты, AI/ML может усилить безопасность, быстро и точно обнаруживая попытки вторжения, предполагаемую преступную деятельность и нарушения безопасности.
Опасность использования этого революционного инструмента такая же, как и при использовании любого другого инструмента — использовать его ненадлежащим образом.
Отношение к AI/ML как к непогрешимому или опора на него как на единственный источник информации или, что еще хуже, позволение ему принимать решения за нас приведет к нежелательным и потенциально трагическим результатам. Искусственный интеллект не захватывает мир — по крайней мере, пока.
Но неправильное использование этого нового инструмента или непонимание того, что это всего лишь инструмент, приведет к плохим результатам, как для нас, так и для технологии.
Неправильное использование приведет к общественному недоверию и, возможно, запрету технологии, что лишит возможности использовать чрезвычайно эффективный инструмент.
Эксперт № 11
Искусственный интеллект (ИИ) в корпоративной безопасности обеспечивает колоссальную эффективность и расширенные возможности, такие как обнаружение угроз в реальном времени и точная идентификация аномалий с помощью таких технологий, как системы обнаружения аномалий (ADS) или считыватели номерных знаков (LPR).
ИИ также может автоматизировать рутинные задачи, интегрироваться с различными системами безопасности и анализировать большие объемы данных для прогнозирования потенциальных рисков, делая операции более масштабируемыми и экономически эффективными. Однако эта технология не лишена недостатков.
К основным проблемам относятся значительные проблемы с конфиденциальностью, зависимость от качественных данных, высокие затраты на вход и сложность обслуживания системы.
Кроме того, ИИ может непреднамеренно создавать хаос, если его использовать не по назначению, например, с помощью сгенерированных ИИ глубоких подделок или поддельных сообщений, которые могут нанести ущерб репутации и экономическому благополучию организации.
Хотя ИИ может значительно расширить возможности специалистов по безопасности за счет автоматизации процессов и просеивания данных, крайне важно подчеркнуть, что критический анализ и упреждающее смягчение угроз, предоставляемые аналитиками-людьми, остаются незаменимыми.
Эксперт № 12
Искусственный интеллект предлагает предприятиям надежные возможности для оптимизации повседневных операций, что позволяет сотрудникам сосредоточиться на мышлении в целом, а не на более монотонных задачах.
Что касается физической безопасности, например, программы ИИ могут потреблять видеозаписи CCTV и отличать известных людей от неизвестных, отслеживать модели поведения людей и предупреждать об аномалиях, позволяя группам физической безопасности отслеживать и соответствующим образом реагировать на самые важные угрозы физической безопасности.
Однако ИИ далек от совершенства, и ошибки случаются. При использовании ИИ в физической безопасности ставки намного выше; часто это напрямую влияет на людей.
Подобно случаям использования ИИ для целей генеративной или логической безопасности, ИИ физической безопасности также должен иметь тесный человеческий надзор с определенной ответственностью за настройку модели, справедливость и проверку оповещений или выходных данных.
Эти гарантии не только помогают обеспечить непредвзятое обнаружение, но и помогают гарантировать, что гражданские свободы и права человека не будут ущемлены.
Экспер № 13
Преимущества использования ИИ часто упоминались, включая значительное сокращение ложных срабатываний с помощью аналитики благодаря точному распознаванию объектов на основе ИИ для людей и транспортных средств.
По мере развития технологий способность распознавать пользовательские объекты предоставила организациям еще больше способов надежно отслеживать объекты.
ИИ позволил отделам безопасности и операций стать более активными в отношении угроз в режиме реального времени, а не просто реагировать на события, которые произошли в прошлом.
Превратив камеры безопасности в сложные устройства Интернета вещей, ИИ стал способным «помощником», круглосуточно отслеживающим несколько видеопотоков.
Выполнение такой обыденной задачи позволяет людям тратить время на более важные обязанности, гарантируя, что важные события не будут пропущены.
Любые недостатки будут связаны с неправильным использованием технологии ИИ, например, сбором и анализом больших объемов персональных данных, что приведет к нарушению конфиденциальности.
Неправильно обученные системы ИИ могут наследовать предвзятость в своих обучающих данных, что приведет к дискриминационной практике.
Эксперт № 14
Искусственный интеллект преобразует отрасль, делая это время захватывающим для бизнеса.
ИИ предлагает многочисленные преимущества, такие как улучшенная бизнес-аналитика для установщиков систем безопасности, сигнализации и пожаротушения, и поддерживает будущее этих предприятий с помощью услуг на основе ИИ.
Дилеры могут использовать данные из интеллектуальных решений для более эффективного управления учетными записями и проверки сигналов тревоги, сокращая ложные срабатывания.
ИИ также создает новые источники дохода с помощью таких ценных услуг, как удаленный и проактивный видеомониторинг. Однако мы только начинаем изучать потенциал ИИ.
Наиболее ценные варианты использования будут определены в ходе тестирования и со временем, что покажет истинное влияние этой технологии.
Эксперт № 15
Инновации в технологиях преобразуют контроль физического доступа, значительно повышая безопасность и эффективность.
Эти системы могут заблаговременно выявлять нарушения или аномалии, автоматизировать отчетность и анализировать данные для выявления тенденций доступа.
Например, определение времени самой загруженной регистрации в здании может быть выполнено бесперебойно, оптимизируя распределение ресурсов и усиливая меры безопасности.
Однако мы должны учитывать более масштабные последствия ИИ.
Например, важно учитывать необходимость защиты персональных данных и поддержания безопасности любых систем.
Поскольку технологии продолжают стремительно развиваться, поиск правильного баланса между преимуществами и потенциальными недостатками этих технологий будет иметь решающее значение для наиболее эффективного внедрения.
Эксперт № 16
Рост ИИ продолжает стимулировать значительные успехи в области биометрической идентификации, особенно бесконтактного распознавания отпечатков пальцев и лиц.
Данные показывают, что технология, привлекающая наибольшие расходы на исследования и разработки, — это распознавание лиц в нескольких формах, включая мобильные устройства, видеонаблюдение, сопоставление паспортов/лицензий и выделенный контроль доступа.
Внедрение бесконтактных биометрических технологий (особенно лиц) сильно повлияло на COVID-19 из-за требований санитарии и необходимости проверки личности при ношении маски.
Хотя ИИ предлагает множество преимуществ с точки зрения расширенных разрешений на доступ, существуют этические и стоимостные соображения. Этическое использование распознавания лиц для совершения преступлений и использования на стадионах постоянно пересматривается во всем мире, с разной степенью принятия в разных странах.
Получение заявлений о влиянии на конфиденциальность от клиентов до того, как их бизнес примет биометрическую технологию, поощряется, и клиенты должны быть готовы заплатить больше за свое оборудование, чтобы получить преимущества от ИИ.
Эксперт № 17
Искусственный интеллект (ИИ) становится все более распространенным в системах физической безопасности, предлагая различные преимущества, но также имея некоторые недостатки.
Ключевым преимуществом является улучшенное обнаружение угроз, когда ИИ может анализировать большие объемы данных и точно определять потенциальные угрозы безопасности гораздо быстрее, чем операторы-люди.
Это приводит к улучшению времени реагирования и уменьшению количества ложных тревог.
К недостаткам относятся проблемы конфиденциальности (поскольку ИИ собирает конфиденциальные данные), потенциальная предвзятость и дискриминация, а также высокие первоначальные затраты на развертывание решения ИИ последнего поколения.
Эксперт № 18
Нет сомнений, что ИИ оказывает огромное влияние на физическую безопасность в целом, практически в каждом аспекте рынка.
Это становится основным аргументом в пользу продажи и востребованной функцией, хотя продукт может использовать ИИ самыми разными способами.
Например, использование ИИ может быть явным — максимизируя эффективность анализа данных — или использоваться в фоновом режиме для улучшения качества видео на основе анализа сцены.
Как и другие технологии, такие как облако, ИИ предоставляет широкий спектр возможностей, и то, как и когда вы решите их реализовать, может иметь большое значение для вашего бизнеса.
На данный момент это и модное слово, и реальность, и нам нужно информировать рынок о широком спектре приложений ИИ и фактическом влиянии на текущие и будущие технологии.
Выводы.
ИИ постоянно развивается, и его потенциальные преимущества продолжают расти как в обществе в целом, так и в индустрии физической безопасности.
Однако важно помнить, что ИИ — это инструмент, и как любой инструмент, его можно использовать как во благо, так и во зло.
Ответственная разработка и внедрение имеют решающее значение для максимизации преимуществ ИИ для индустрии безопасности и для всего человечества.
