AI 피해로부터 사회 보호: 국제앰네스티 Matt Mahmoudi 및 Damini Satija(1부)

Jun 20, 2023

인권 단체의 두 연구원은 사회 정책과 기술의 교차점은 물론 공공 부문의 AI 사용과 관련된 문제에 대해 논의합니다.

와 협력하여

와 협력하여

이메일로 업데이트 받기

유효한 이메일 주소를 입력하세요

가입 해주셔서 감사합니다

개인 정보 정책

국제앰네스티는 전 세계적으로 천만 명 이상의 직원과 자원봉사자를 모아 사회 정의를 옹호하고 있습니다. Damini Satija와 Matt Mahmoudi는 감시, 차별, 편견과 같은 분야에서 정부, 거대 기술, 인공 지능과 같은 기술의 역할에 중점을 두는 인권 단체의 부서인 Amnesty Tech에서 일하고 있습니다.

Me, Myself, AI 팟캐스트의 이번 에피소드에서 Matt와 Damini는 진행자 Sam Ransbotham 및 Shervin Khodabandeh와 함께 정부 및 공공 부문 기관이 얼굴 인식 시스템을 사용하는 경우와 같이 AI 도구가 인권을 위험에 빠뜨릴 수 있는 시나리오를 강조합니다. 사회 운동가 또는 알고리즘을 추적하여 공공 주택 접근 및 아동 복지에 대한 자동화된 결정을 내립니다. Damini와 Matt는 AI 기술이 편견, 차별, 불평등과 같은 인간 문제를 해결할 수 없다고 경고합니다. 이는 인간의 개입과 공공 정책의 변화를 가져올 것입니다.

자동화된 기술의 사용으로 인해 발생하는 의도하지 않은 부정적인 결과에 맞서기 위해 조직이 무엇을 할 수 있는지 자세히 알아보려면 2023년 9월 13일에 방송되는 Matt 및 Damini와의 대화 2부인 다음 에피소드를 시청하세요.

Matt Mahmoudi는 강사, 연구원, 조직자입니다. 그는 얼굴 인식 기술을 금지하고 뉴욕시에서 팔레스타인 점령 지역에 이르기까지 인종차별화된 공동체에 대한 사용을 폭로하기 위한 국제앰네스티의 연구 및 옹호 활동을 주도해 왔습니다. 그는 Jo Cox Ph.D.의 첫 수상자였습니다. 그는 케임브리지 대학교에서 장학금을 받고 인종 자본주의의 새로운 개척지로서 디지털 도시 인프라를 연구했으며 사회학 부교수로 남아 있습니다. 그의 연구는 The Sociological Review 및 International Political Sociology 저널과 Digital Witness(Oxford University Press, 2020)라는 책에 게재되었습니다. 곧 출간될 그의 책은 디지털 주변부의 이주자: 통제의 새로운 도시 개척자(캘리포니아 대학교 출판부, 2023)입니다.

Damini Satija는 알고리즘 차별, 복지 자동화, 정부 감시 및 기술 형평성에 중점을 두고 데이터 및 인공 지능 분야에서 일하는 인권 및 공공 정책 전문가입니다. 그녀는 Algorithmic Accountability Lab의 책임자이자 Amnesty Tech의 부국장입니다. 그녀는 이전에 데이터 및 AI 윤리에 관해 영국 정부의 고문으로 일했으며 유럽 평의회에서 AI 및 인권에 대한 정책 전문가로서 영국을 대표했습니다. 그녀는 컬럼비아대학교 국제공공문제대학원에서 행정학 석사 학위를 취득했습니다.

Me, Myself, AI 팟캐스트를 즐기고 계시다면 LinkedIn에서 계속 대화해 보세요. 지금 AI for Leaders 그룹에 참여하세요.

지금 가입하세요 "

Apple Podcast, Spotify 또는 Google Podcast에서 Me, Myself, AI를 구독하세요.

셰르빈 코다반데: 많은 고객이 자신의 조직에서 좋은 일을 위해 AI를 사용하는 것을 목표로 합니다. 오늘 방송에서는 인공지능 도구를 활용해 인권을 보호하는 데 집중하는 두 명의 연구자를 만나봅니다.

다미니 사티야:저는 다미니 사티자입니다...

매트 마흐무디:…저는 국제앰네스티의 Matt Mahmoudi입니다…

다미니 사티야:… 그리고 당신은 나, 나 자신, AI의 말을 듣고 있습니다.

샘 랜스보텀: 비즈니스 인공 지능에 관한 팟캐스트인 Me, Myself, and AI에 오신 것을 환영합니다. 각 에피소드마다 AI로 혁신을 이루고 있는 인물을 소개합니다. 저는 Boston College의 분석 교수인 Sam Ransbotham입니다. 저는 또한 MIT Sloan Management Review의 AI 및 비즈니스 전략 객원 편집자이기도 합니다.