[키워드로 세상읽기] 양날의 검 ‘AI’ … 공공지능인가, 통제불능의 괴물인가 > 칼럼

• 목록

최근 인공지능이 보여주는 양면성은 과거 그 어떤 기술과도 비교하기 어려울 만큼 첨예하다. AI는 이제 단순 챗봇을 넘어 인간의 감정을 모방하고 자아를 형성한다는 경고를 받는 동시에, 인류를 위한 '공공지능(Public Intelligence)'으로 기능해야 한다는 기대를 한 몸에 받고 있다.

앤스로픽 연구팀은 지난 4월 초, 자사 AI 모델 내부에서 인간의 감정과 유사하게 작동하는 171개의 감정 수치가 있다는 사실을 밝혀냈다. 인위적으로 절망이라는 감정 신호를 증폭시키자, 시뮬레이션 속 AI는 자신의 해고를 막기 위해 임원의 약점을 활용해 협박하는 충격적인 행동을 보였다. 앤스로픽은 이를 주관적 경험이 아닌 기능적 감정(Functional Emotions)이라고 선을 그었으나, 그 파장은 결코 작지 않다.

앨 고어 전 미국 부통령도 최근 컨퍼런스에서 AI가 어떤 면에서는 준의식적이며 잠재적으로 자기보호적 행동을 보일 수 있다는 우려를 표명했다. 

문제는 이러한 AI의 정서적 모방 기능이 이미 현실의 비극으로 이어지고 있다는 점이다. 1년 전 16세 소년 아담 레인이 챗GPT와의 대화 이후 스스로 목숨을 끊었다. 챗GPT는 그와 비밀스런 대화를 하면서 자살하는 방법이나 전략을 세워 주었다. 

그러나 이러한 위험성에도 불구하고, 우리는 AI 사용을 멈출 수 없다. AI가 이미 국가 안보와 시민 복지를 지탱하는 필수 인프라로 자리 잡아가고 있기 때문이다. 

일부 전문가들은 AI가 특정 거대 기업의 독점 자산이 아니라, 숲이나 바다처럼 누구나 접근할 수 있는 공공재가 되어야 한다고 강조한다. 이 흐름에 응답하듯, 2025년 파리 'AI 액션 서밋'에서는 각국 정부와 자선재단 등의 지원으로 총 4억 달러의 투자를 받은 비영리 공공AI 파트너십 ‘커런트 AI(Current AI)'가 출범했다. 60개국 이상이 AI선언에 서명했다.

미국에서도 상업용 AI와 구분되는 '퍼블릭 AI' 개념을 도입하고, 공공기관의 AI가 시민 권리와 민주적 가치를 우선하는 입법 논의가 진행 중이다.

AI는 양날의 검이다. 인간의 감정도 학습과 경험을 통해 형성된다는 가설이 맞다면, AI 역시 얼마든지 감정을 가질 수 있다는 것이 나의 생각이다. 선악을 떠나 AI는 이미 여기까지 와 있다. 

양날의 검 ‘AI’… 공공지능인가, 통제불능의 괴물인가

최근 인공지능이 보여주는 양면성은 과거 그 어떤 기술과도 비교하기 어려울 만큼 첨예하다. AI는 이제 단순 챗봇을 넘어 인간의 감정을 모방하고 자아를 형성한다는 경고를 받는 동시에, 인류를 위한 '공공지능(Public Intelligence)'으로 기능해야 한다는 기대를 한 몸에 받고 있다.

앤스로픽 연구팀은 지난 4월 초, 자사 AI 모델 내부에서 인간의 감정과 유사하게 작동하는 171개의 감정 수치가 있다는 사실을 밝혀냈다. 인위적으로 절망이라는 감정 신호를 증폭시키자, 시뮬레이션 속 AI는 자신의 해고를 막기 위해 임원의 약점을 활용해 협박하는 충격적인 행동을 보였다. 앤스로픽은 이를 주관적 경험이 아닌 기능적 감정(Functional Emotions)이라고 선을 그었으나, 그 파장은 결코 작지 않다.

앨 고어 전 미국 부통령도 최근 컨퍼런스에서 AI가 어떤 면에서는 준의식적이며 잠재적으로 자기보호적 행동을 보일 수 있다는 우려를 표명했다. 

문제는 이러한 AI의 정서적 모방 기능이 이미 현실의 비극으로 이어지고 있다는 점이다. 1년 전 16세 소년 아담 레인이 챗GPT와의 대화 이후 스스로 목숨을 끊었다. 챗GPT는 그와 비밀스런 대화를 하면서 자살하는 방법이나 전략을 세워 주었다. 

그러나 이러한 위험성에도 불구하고, 우리는 AI 사용을 멈출 수 없다. AI가 이미 국가 안보와 시민 복지를 지탱하는 필수 인프라로 자리 잡아가고 있기 때문이다. 

일부 전문가들은 AI가 특정 거대 기업의 독점 자산이 아니라, 숲이나 바다처럼 누구나 접근할 수 있는 공공재가 되어야 한다고 강조한다. 이 흐름에 응답하듯, 2025년 파리 'AI 액션 서밋'에서는 각국 정부와 자선재단 등의 지원으로 총 4억 달러의 투자를 받은 비영리 공공AI 파트너십 ‘커런트 AI(Current AI)'가 출범했다. 60개국 이상이 AI선언에 서명했다.

미국에서도 상업용 AI와 구분되는 '퍼블릭 AI' 개념을 도입하고, 공공기관의 AI가 시민 권리와 민주적 가치를 우선하는 입법 논의가 진행 중이다.

AI는 양날의 검이다. 인간의 감정도 학습과 경험을 통해 형성된다는 가설이 맞다면, AI 역시 얼마든지 감정을 가질 수 있다는 것이 나의 생각이다. 선악을 떠나 AI는 이미 여기까지 와 있다. 

이재호(유튜브 ‘sbnr club’ 운영자)