테크크런치의 여성 인공 지능 시리즈의 일환으로, AI에 집중하는 여성 학자들과 기타 사람들에게 그들이 잘 알려져 있지 않은 - 그리고 오랜 기간 손해를 보지 않은 - 시간을 주기 위해 라크시미 라만, CIA의 AI 이사를 인터뷰한 결과, 라만은 CIA에 AI를 사용하는 방법과 새로운 기술을 받아들이면서도 책임감 있게 배치하는 균형에 대해 이야기했다.
라만은 장기간 정보 분야에 종사해왔다. 2002년에 일리노이 주립 대학교에서 학사 학위를, 시카고 대학교에서 컴퓨터 과학 석사 학위를 취한 후 소프트웨어 개발자로 CIA에 합류했다. 몇 년 뒤, 그녀는 기관의 경영진으로 전환했고, 결국 CIA 전반의 기업 데이터 과학 노력을 이끌게 되었다.
인지 도구로서의 AI
이사로서 라만은 CIA 전반에서 AI 활동을 조율, 통합 및 추진하고 있다. “우리는 AI가 우리의 임무를 지원하기 위해 여기 있는 것으로 생각하고 있습니다,”라고 그녀는 말했다. “AI 사용의 전선에서는 인간과 기계가 함께 있습니다.”
AI는 CIA에게 새로운 것이 아니다. 라만에 따르면, CIA는 약 2000년부터 데이터 과학 및 AI의 응용 분야를 탐색해왔다, 특히 자연어 처리(즉, 텍스트 분석), 컴퓨터 비전(이미지 분석) 및 비디오 분석 영역에서. 라만은 새로운 트렌드에 대한 열망이 있으며, 사생활 분야에서 발생한 AI의 사용 방법이라고 덧붙였다.
갈등의 기술
AI를 사용하는 데에 있어 CIA에 대해 의심하는 이유는 여럿 있습니다.
2022년 2월, 로널드 와이든 및 마틴 하인리히 상원의원들은 공개서신에서, 미 국민 및 미국 기업에 대한 조사를 제한한 상태에서도, CIA가 미국시민에 대한 정보를 수집한 비밀 데이터 저장소를 보유하고 있다는 것을 밝혀냈습니다. 그리고 지난해, 국가 정보국 총괄국 보고서에 따르면, 렉시스넥시스와 사야리 애널리틱스 같은 데이터 브로커로부터 미국 정보 기관(이에는 CIA도 포함됨)이 거의 감시 없이 미국 국민 데이터를 구매하고 있다고 나타났습니다.
CIA가 이러한 데이터를 분석하는 데에 AI를 사용한다면, 많은 미국 국민이 분명히 이의를 제기할 것입니다. 이는 민의적 자유를 침해하는 명백한 행위가 될 것이며, AI의 한계 때문에 심각한 부조리한 결과를 초래할 수 있습니다.
그러나 라만은 CIA가 미국 법률을 준수하고 또한 모든 윤리적 가이드라인을 준수하며 AI를 '편향을 완화하는 방식'으로 사용한다고 강조했다.
'좀 더 신중한 접근 방식이라고 할 것입니다,'라고 그녀는 말했다. '우리가 취하는 접근은 사용자가 사용 중인 AI 시스템에 대해 최대한 이해할 수 있도록 하는 것을 의미합니다. 윤리적 AI를 구축하는 것은 AI 개발자, 개인 정보 보호 및 민의 사무실 등 모든 이해관계자가 관여해야 한다는 것을 의미합니다.'
그에 따라, AI 시스템이 설계된 목적에 관계없이, 시스템 설계자가 시스템의 단점이 발생할 수 있는 영역을 명확히 해야 합니다. 최근 한 연구에서, 북캐롤라이나 주립 대학교 연구원들은 얼굴 인식 및 총격 탐지 알고리즘을 사용하는 경찰관들이 해당 기술이나 그들의 부족한 점을 잘 모르는 채 사용하고 있음을 밝혔습니다.
'AI가 생성한 모든 콘텐츠는 사용자에게 명확하게 이해 되어야 하며, 즉 AI가 생성한 내용 레이블링하고 AI 시스템 작동 방식에 대한 명확한 설명을 제공해야 한다.' 라만은 말했다. '우리 기관에서 하는 모든 일은 우리의 법적 요구를 준수하고, 우리 사용자 및 협력사 및 이해관계자들에게 모든 관련 법률, 규정 및 가이드라인에 대해 인지하도록 하여, 우리는 이 모든 규칙을 준수하고 있습니다.'
이 기자는 분명히 그것이 사실이기를 희망합니다.
