AI와 감시 시스템의 진화

Jun 21, 2023

이번 Help Net Security 인터뷰에서 Oddity의 CTO인 Gerwin van der Lugt는 감시의 미래와 AI의 영향력에 대해 논의합니다. 그는 또한 조직이 시스템이 편견을 지속하거나 개인의 권리를 침해하는 것을 방지할 수 있는 방법에 대해 자세히 설명합니다.

Oddity는 상대적으로 젊은 회사이며 처음부터 개인 정보 보호 및 윤리적인 소프트웨어 관행을 고려할 수 있었습니다. 우리는 "설계에 의한 개인정보 보호" 원칙을 실천합니다. 예를 들어, 기존 비디오 관리 시스템에는 이미 해당 기능이 있으므로 당사 소프트웨어는 비디오 데이터를 기본 설정으로 전혀 저장하지 않습니다.

또한 당사는 교육 목적으로 고객 데이터를 사용하지 않습니다. 대부분의 경우 설치는 인터넷에 연결되어 있지 않으며 유지 관리 및 문제 해결을 위해 물리적 액세스가 필요합니다. 우리는 이러한 불편에도 불구하고 여전히 그만한 가치가 있다고 믿습니다. 특히 감시 대상자가 자신의 개인 정보를 거의 통제할 수 없는 구금 센터와 같은 민감한 구역의 경우 더욱 그렇습니다. 결국, 우리 소프트웨어는 사람들을 돕고 보호하기 위한 것이며, 우리의 목표는 개인 정보 보호에 가능한 한 적은 영향을 미치면서 그렇게 하는 것입니다.

성공적인 카메라 감시 배포에는 보안 카메라, 센서 및 기타 하드웨어, 영상 관리 시스템, 네트워크 자체 간의 섬세한 상호 작용이 필요합니다. 가장 큰 과제는 최신 카메라의 계속 증가하는 대역폭 요구 사항을 지원할 수 있는 네트워크 인프라를 구축하는 것입니다.

감시 설치는 시간이 지남에 따라 증가하는 경향이 있으며, 카메라 수가 증가하면 네트워크의 대역폭 제한에 도달합니다. 결함이 있는 카메라를 교체하는 것은 단일 카메라에만 영향을 미치기 때문에 유지 관리 작업이 쉽습니다. 네트워크 인프라를 교체하여 대역폭 양을 두 배 또는 세 배로 늘리는 것은 훨씬 어려우며 설치 전반에 걸쳐 네트워크 하드웨어를 확인하고 교체해야 합니다.

필요한 대역폭 양을 줄이기 위해 카메라의 프레임 속도나 비트 전송률 설정을 줄여 이 문제를 해결하려는 통합업체를 자주 볼 수 있습니다. 처음에는 실행 가능한 솔루션처럼 보이지만 AI 기반 감시의 경우 문제가 발생할 수 있습니다. 기계 학습 모델은 인간의 눈으로 거의 감지할 수 없는 사소한 시각적 차이에 민감합니다. 특히 알고리즘이 고품질 입력에 대해 학습된 경우 품질이 낮은 비디오 스트림으로 인해 어려움을 겪을 수 있습니다.

따라서 감시 네트워크 인프라를 처음부터 구축할 때는 대역폭 용량을 충분히 늘릴 수 있도록 미리 계획하고 구축하는 것이 좋습니다. 이를 통해 장기적으로 비용을 절감하고 AI 기반 미래에 대비한 설치를 보장할 수 있습니다!

물리적 하드웨어 측면에서는 위의 권장 사항에 따라 충분한 대역폭을 확보하는 것이 중요한 요소입니다.

더 중요한 것은 감시의 미래는 AI이며, 조직은 AI를 염두에 두고 감시 시스템을 설계해야 한다는 것입니다. 일반적인 카메라 감시 센터에서는 여전히 사람들이 비디오 피드가 있는 매트릭스 스크린의 벽을 보고 있을 수 있지만, 사고가 발생하면 곧 사전에 경고를 받을 수 있습니다. 동일한 수의 직원을 사용하면 훨씬 더 효과적입니다.

첫 번째 단계는 가장 관심 있는 사건 유형을 결정하는 것입니다. AI 솔루션은 다양한 사건 유형에 대해 존재합니다. 처음부터 AI를 고려하고 가능한 한 빨리 AI 공급업체를 참여시키는 것이 중요합니다. 2023년 현재 AI는 아직 인간을 완전히 대체할 준비가 되어 있지 않습니다. 조직에서는 인간이 참여하는 하이브리드 배포를 설정하는 동시에 격차를 계속 모니터링하고 채우는 것이 현명할 것입니다.

AI 모델은 훈련에 사용된 데이터 세트의 영향을 받습니다. AI 공급업체는 편견이 발생하지 않도록 데이터 세트를 신중하게 조정하고 균형을 맞추는 것이 필수적입니다. 데이터 세트의 균형을 맞추는 것은 데이터 세트에 보이는 인간이 현실을 잘 표현하고 특정 인간 특성에 대한 편견이 없는지 확인해야 하는 수동 프로세스입니다. 우리의 경우, 우리는 전 세계의 다양한 행위자 그룹을 사용하여 훈련 데이터 세트의 균형을 유지하기 위해 폭력을 행사합니다. 게다가, 그러한 편향을 정기적으로 테스트하는 것은 큰 도움이 될 수 있습니다.