"잔혹해진 전쟁" AI로 자동 살상…윤리적 대안 마련돼야 > 한국교계뉴스 Korean News

• 목록

미국-이란 전쟁 속 AI 기술 활용

AI 추론 과정 인간은 파악 불가능

죄책감과 책임감마저 AI에게 전가

자동 살상 현실화와 책임 소재 모호

AI 전쟁 활용 막기 위한 노력 절실

[앵커]

미국과 이스라엘의 이란 폭격으로 시작된 이번 중동 전쟁에서 AI가 활용된 점은 인류에게 깊은 고민을 안겨줬습니다.

AI 시스템은 더욱 잔혹하고 비인간적인 형태로 전쟁에 활용되며 인간의 도덕성을 무감각하게 만들고 있다는 지적이 나오고 있습니다.

최창민 기자가 보도합니다.

[기자]

현재 미국과 이스라엘, 이란 간 전쟁에서 AI가 어떤 방식으로 활용되고 있을까. 

먼저 위성과 항공 정찰, 휴민트 등 수많은 전쟁 정보를 AI 엔진에게 학습시킵니다.

AI는 수천가지 시나리오를 검증해 최선의 공격 방안 몇 가지를 사령관에게 제안하고 인간은 이중 한 가지를 고릅니다.

과거 수십 명의 전쟁 전문가들이 수일에 걸쳐 다양한 변수를 고려해 분석하던 작업이 단 몇 십초 만에 끝나는 겁니다.

[박태웅 의장 / 녹서포럼]

"옛날에는 작전 상황실에서 위관급 영관급 장교가 온갖 데이터를 갖고 와서 몇 시간 며칠을 했어야 될 작업이에요. 이게 AI가 붙으니까 몇 십초 만에 끝나는 거죠. 그것도 실시간으로 계속 바뀌면서 그 많은 변수들을 실시간으로 조합하는 건 인간이 못 하거든요."

문제는 이 과정에서 인간은 방대한 데이터를 학습한 AI가 어떤 추론으로 그 같은 결론을 냈는지 알 수 없습니다.

또 AI가 내놓은 몇 가지 방안 중 하나를 골라 스위치를 누르는 과정에서 죄책감과 책임감마저 AI에게 전가됩니다.

더 심각한 문제는 효율성만 따지는 AI에게는 무고한 양민이 얼마나 희생되는지에 대한 주저함이 없다는 겁니다.

[박태웅 의장 / 녹서포럼]

"인간은 AI가 판단한 거니까 하고 스위치를 누르는 거예요. 자기가 직접 판단해서 못 누를 일을 하는 거죠. 왜냐하면 내가 결정한 건 정리한 게 아니니까 그렇게 해서 그 죄책감과 양심과 책임감을 슬쩍 밀어붙일 수가 있는 거죠."

국가인공지능전략위원회는 AI 기술이 전쟁에서 의사결정 속도를 높이고 자동 살상을 현실화할 수 있지만 무고한 인명 피해에 대한 책임 소재가 모호해지는 윤리적 결함이 드러날 것이라고 전망했습니다.

기독교계에서도 AI 기술이 전쟁에 무분별하게 활용되는 것에 대해 반대의 목소리가 높아지고 있습니다.

[강원돈 은퇴교수 / 한신대학교 기독교윤리학]

"미국이 AI 기술을 활용해서 정밀 타격을 하고 그래서 개전 첫날 하메네이를 폭사시키지 않았습니까? 앞으로 AI가 전쟁 기술을 비약적으로 발전시켜 나갈 것이라고 예상을 하는데요. 굉장히 심각한 논의를 하고 그 규율할 수 있는 방안을 찾아야 된다고 생각합니다."

미국 도널드 트럼프 대통령은 최근 한국을 비롯한 국제 사회에 호르무즈 해협에 대한 파병을 요청하고 있지만 기독교계에서는 참전 반대 목소리가 높습니다.

[강원돈 은퇴교수 / 한신대학교 기독교윤리학]

"미국과 이스라엘이 즉각 그 전쟁 행위를 중단하고요. 그리고 전쟁에 대한 책임을 지고요. 전쟁 배상해야 된다고 생각하고 있습니다. 이게 이런 식으로 종결되지 않는다고 하면 세계대전으로 비화할 수 있어요."

전쟁에 AI 기술이 활용되면서 인간의 도덕성과 책임성마저 무감각해지는 가운데 전쟁 확산을 막기 위한 국제 사회의 노력이 절실해지고 있습니다.

CBS뉴스 최창민입니다.

[영상 기자 이정우] [영상 편집 이민]