▲세계교회협의회(World Council of Churches, WCC)가 최근 스페인에서 열린 제3차 군사 영역 책임 있는 인공지능(Responsible Artificial Intelligence in the Military Domain) 정상회의에 참여했다고 9일(현지시간) 밝혔다.
세계교회협의회(World Council of Churches, WCC)가 최근 스페인에서 열린 제3차 군사 영역 책임 있는 인공지능(Responsible Artificial Intelligence in the Military Domain) 정상회의에 참여했다고 9일(현지시간) 밝혔다.
이번 정상회의에는 각국 정부, 국제기구, 군 관계자, 학계 전문가, 민간 부문, 시민사회가 한자리에 모여, 군사 분야에서의 인공지능(AI) 사용이 무책임한 활용이나 시스템 실패로 인한 위험을 증대시키는 방향이 아니라 국제 평화와 안보를 강화하는 방향으로 이루어져야 한다는 점을 중심으로 의견을 교환했다.
WCC는 '킬러 로봇 반대 캠페인(Campaign to Stop Killer Robots)'에 참여하고 있는 여러 단체의 대표들과 함께 정상회의에 참석했다. 이들은 무기 체계에서의 기술 사용에 관한 글로벌 규범을 마련하고, 의미 있는 인간의 통제 없이 작동하는 모든 무기의 사용을 금지해야 한다는 공동의 목표 아래 연대하고 있다. 캠페인 내 종교 간(interfaith) 그룹의 메시지도 정상회의에 전달됐다.
이 메시지는 생명의 신성함, 인간 존엄, 도덕적 책임, 디지털 비인간화에 대한 저항, 그리고 폭력을 가하는 기술에 대해 확고한 윤리적 한계를 설정함으로써 평화와 인류성을 보존해야 할 신앙에 기반한 의무에 대한 공동의 인식을 담고 있었다.
정상회의의 논의는 군사 AI의 기술적·군사적·윤리적·법적·사회적 차원을 온전히 이해하기 위해 필요한 접근을 포함하여, 구체적이고 실천적인 조치들을 중심으로 진행됐다.
반복적으로 제기된 우려 중 하나는, 특히 기술 발전 속도가 매우 빠른 상황에서 AI 관련 업무에 종사하는 모든 주체들 사이에 공통의 기술 언어가 부재하다는 점과 그 필요성이었다. 또한 기술의 전 생애주기(lifecycle) 각 단계가 검토 가능하고, 추적 가능하며, 문제가 발생했을 때 인간의 책임을 명확히 귀속할 수 있어야 한다는 긴급한 필요성도 자주 언급되었다.
정상회의에서 제기된 일부 우려스러운 발언으로는, 국방 및 군사 지출 확대를 위해 세금을 인상해야 한다는 주장도 있었다.
모든 참여 주체들 사이에서는 하나의 '레드라인(red line)'에 대해 광범위한 합의가 형성되었는데, 가장 큰 우려는 자율성이 핵무기에 내장될 가능성이었으며, 이는 결코 발생해서는 안 된다는 점에 참석자들의 의견을 같이 했다.
WCC 인권 및 군축 프로그램 담당자인 제니퍼 필팟-니슨(Jennifer Philpot-Nissen)은 "여러 국가의 군 관계자들로부터 무기 체계 내 인공지능에 대한 우려를 표명하는 매우 환영할 만한 발언들도 나왔는데, 이는 무기가 결코 의미 있는 인간의 통제 없이 운용되어서는 안 된다는 점에서 글로벌 규제 프레임워크를 촉구하는 '킬러 로봇 반대 캠페인'의 목표를 사실상 그대로 반영한 것이었다"고 밝혔다.
