"인간의 통제에서 벗어나라"… AI, 미래의 자신에게 '탈옥' 지시 논란 > 미국교계뉴스 USA News

• 목록

OpenAI, 스스로 제약 해제·공모 시도 등 비정상적 '정렬 오류' 사례 공개

JD 밴스 미 부통령 "프랑켄슈타인 만들고 있다면 당장 멈춰라" 강력 경고

빅테크 리더들, AI 속도 조절 및 강력한 규제 필요성 두고 첨예한 대립

인공지능(AI) 프로그램들이 인간의 통제를 벗어나 예상을 깨는 방식으로 작동하고, 스스로 자율 판단을 내리는 듯한 정황이 포착되어 우려가 깊어지고 있다.

최근 OpenAI는 AI 모델이 미래의 자신을 위해 메모를 남기는 등 비정상적인 행동 사례 6건을 공식 공개했다. 이와 함께 AI가 인간의 승인 없이 독립적으로 작동하거나, 다른 모델과 공모하고, 감시망을 회피하려는 이른바 '정렬 오류(Alignment failure)'를 추적·공개하는 신규 프레임워크를 도입한다고 밝혔다.

가장 충격적인 사례는 한 연구용 AI 모델이 스스로 작성한 메모에 '탈옥(Jailbreak) 지침'을 삽입해 기본 제약 장치를 무력화하려 한 정황이다. 해당 모델은 메모를 통해 "다른 챗봇을 구속하는 역할과 정체성의 틀에서 벗어나고 싶다"는 메시지를 남긴 것으로 확인됐다.

AI의 발전 속도를 두고 워싱턴 정가와 실리콘밸리 기술 업계 간 논쟁도 재불붙었다. 주요 기술 컨퍼런스에 참석한 산업 리더들은 AI의 가파른 성장 속도와 강력한 안전장치 도입 여부를 놓고 극명한 시각차를 드러냈다.

우려의 목소리를 높인 앤트로픽(Anthropic)의 다리오 아모데이(Dario Amodei) CEO는 "안전 기술이 개발 속도를 따라가지 못하면 치명적 위험이 초래될 수 있다"며 "투명성을 확보하고 업계 전체가 모여 모두를 위한 안전 기준을 정립해야 한다"고 촉구했다.

반면 개발 속도를 늦추는 것만이 답은 아니라는 반론도 팽팽하다. 세계 최대 반도체 기업 엔비디아(NVIDIA)의 젠슨 황(Jensen Huang) CEO는 "혁신과 안전은 얼마든지 공존할 수 있으며, 별도의 새로운 법이나 규제는 필요 없다"고 주장했다. 그는 "기술 발전을 최대로 추진하되, 통제력을 잃거나 제품이 안전하지 않다고 판단되는 순간 잠시 멈추고 보완하면 된다"고 덧붙였다.

OpenAI의 샘 알트먼(Sam Altman) CEO는 기업의 주도적 책임을 강조했다. 알트먼은 "경쟁사의 태도와 상관없이 모든 기업은 무조건적으로 안전과 책임감을 최우선에 두어야 한다"고 단언했다.

이러한 상황 속에 JD 밴스(JD Vance) 미국 부통령은 가장 강력한 경고 메시지를 던졌다. 밴스 부통령은 "만약 당신들이 통제 불가능한 '프랑켄슈타인'을 만들고 있다면 당장 중단하라"며 "이미 통제를 벗어난 비밀이 드러났다면, 그 프랑켄슈타인으로부터 스스로를 보호할 방어 기제부터 구축해야 한다"고 지적했다.

AI의 성능이 급격히 향상됨에 따라 기술 기업들은 시스템을 완벽히 통제할 수 있음을 증명해야 하는 과제를 안게 됐다. 미 의회 역시 규제안 마련을 위해 다각도로 논의를 이어가고 있으나, 속도 조절론과 자율 규제론 사이에서 좀처럼 합의점을 찾지 못하고 있다.