[키워드로 세상읽기] 인공지능 혁명기, 눈 부릅뜨고 우리의 미래를 지켜야 할 때 > 칼럼

• 목록

나는 컴퓨터를 전공하지 않은 시니어이다. 그럼에도 인공지능(AI)에 대해 자주 칼럼을 쓰는 이유는 우리의 미래 자산과 인권, 그리고 생존 그 자체를 AI가 좌우할 수 있는 시대가 도래했기 때문이다. 우리는 흔히 인공지능을 먼 나라의 일로 치부하곤 한다. 하지만 지금 세계는 거대한 혁명기를 맞고 있다. 최근 클로드 미토스 사태, 전투형 로봇의 등장, 전쟁터의 인공지능 등 몇 가지 사건만 간추려 보아도 위기감은 피부로 와닿는다.

가장 먼저 우리의 자산을 위협하는 것은 스스로 목표를 설정하고 행동하는 "에이전틱 AI"의 진화다. 앤스로픽사는 "클로드 미토스(Claude Mythos)"가 전세계 금융망을 해킹할 수 있다고 발표했다. 이 모델은 보안상의 취약점을 단시간에 식별해낸다.

그 파급력이 얼마나 컸던지 미 재무장관과 연준 의장은 워싱턴에 모인 주요 대형 은행 CEO들과 긴급 회동을 갖고 사이버 위협에 대한 대책을 논의했다. 미토스의 일반 공개는 유보됐다.

인권과 생명의 영역에서도 AI는 무서운 속도로 인간의 통제권을 위협하고 있다. 이스라엘-가자 분쟁, 미-이란 분쟁에서 인공지능은 방대한 데이터를 분석해 빠른 시간 내 목표물을 선정한다. 10%에 달하는 오류는 무시되고, 버튼이 눌리는 순간 폭탄은 목표지를 향해 날아간다. 인공지능은 누가 죽든지 눈 하나 끔뻑 하지 않는다.

물리적 공간도 예외는 아니다. 작년 12월, 중국의 로봇 기업 엔진AI는 T800 휴머노이드 로봇이 자사 CEO를 발로 차서 날려버리는 영상을 공개해 전 세계를 놀라게 했다. 물론 이 장면은 기술력을 입증하기 위해 CEO가 직접 기획한 홍보용 시연이었다. 그러나 로봇이 인간을 발로 차는 모습은 홍보영상치고는 어딘가 불길하다.

인공지능은 우리에게 무한한 생산성을 약속하는 동시에 전례 없는 물리적, 윤리적 위기를 던지고 있다. 학교 숙제에서부터 전쟁터의 폭격까지 기계의 판단을 맹신하는 '자동화 편향'으로 가고 있다. 기계에게 권한을 넘겨주는 만큼, 그 바탕이 되는 윤리적, 법적 토대를 얼마나 견고하게 구축하느냐에 우리의 생존이 달려 있다. 우리 모두가 쉼 없이 눈을 부릅뜨고 미래를 감시해야 할 때다.

이재호(유튜브 ‘sbnr club’ 운영자)