소라를 만나다: 인공지능이 만든 비디오 실제보다 더 실제처럼 보여 > 미국교계뉴스 USA News

• 목록

(사진: ㅡ마이클 드와이어/ 로이터/ 파일)

OpenAI 로고는 2023년 12월9일 ChatGPT에서 생성된 컴퓨터 모니터의 이미지와 함께 휴대폰에 표시됩니다. 

OpenAI는 이제 새로운 텍스트-비디오 생성 도구인 소라(Sora)를 생성하여 인공지능 생성 비디오의 

세계로 뛰어들고 있습니다. 

인공지능이 가짜 사진과 동영상을 만들어내는 세상에서는 무엇을 믿어야 할지 점점 더 알기 어려워지고 있습니다.

범죄 현장 증거 사진이나 중국의 천안문 사태나 경찰의 폭력적인 진압 장면과 같은 권위주의적 단속 영상이 예전과 같은 위력을 발휘할 수 있을까요? 가뜩이나 낮은 미디어에 대한 신뢰가 더 떨어질까요?

이러한 질문은 이달 초 ChatGPT의 개발사인 OpenAI가 Sora를 발표하면서 더욱 긴급해졌습니다. 이 AI 시스템을 사용하면 누구나 짧은 동영상을 제작할 수 있습니다. 카메라가 필요 없습니다. 몇 개의 설명할 수 있는 단어나 문구를 입력하기만 하면 실제처럼 보이지만 완전히 컴퓨터로 생성된 동영상이 만들어집니다.

아직 테스트 단계에 있는 소라의 발표는 일부 디지털 미디어 업계에 경종을 울렸습니다.

"사진이 이런 일이 일어났다는 것을 증명할 것이기 때문에 이것은 분열을 초월할 수 있었던 것입니다."라고 뉴욕 타임즈 매거진의 전 사진 편집자이자 올 가을 출간 예정인 책인 "인공지능 시대에 변형된 사진"의 저자인 프레드 리친(Fred Ritchin)은 말합니다.

"민권 운동 중에 독일 세퍼드에게 공격당한 남성을 경찰이 진압하고 있었습니다. 경찰이 한 행동이 옳았느냐, 옳지 않았느냐고 논쟁할 수 있겠죠. 하지만 출발점이 있었잖아요. 우리에겐 더 이상 그런 것이 없습니다."라고 그는 말합니다.

기술자들은 이 문제를 완화하기 위해 열심히 노력하고 있습니다. 바이든 행정부의 자극을 받은 몇몇 대기업은 사람들이 AI가 생성한 사진과 실제 사진을 구별할 수 있도록 돕는 기술을 탑재하는 데 동의했습니다. 법률 시스템은 이미 유명 연예인의 가짜 동영상과 씨름하고 있습니다. 그러나 많은 시민들이 정부, 법원, 과학자, 뉴스 기관을 불신하는 사회적 신뢰의 결핍은 더 확대될 수 있습니다.

버클리 캘리포니아 대학교의 교수이자 디지털 포렌식 및 이미지 분석 분야의 선구자인 하니 파리드(Hany Farid)는 "우리는 신뢰를 회복할 방법을 찾아야 하며, 이것이 가장 중요한 일입니다."라고 말합니다. "우리는 더 이상 세금의 역할, 종교의 역할, 국제 정세의 역할에 대한 논쟁을 하고 있지 않습니다. 우리는 2 더하기 2가 4가 되는지에 대해 논쟁하고 있습니다. 어떻게 그런 대화를 해야 하는지조차 모르겠습니다."

대중들이 디지털로 조작된 사진들로 인해 수십 년을 고생하는 동안, 소라의 비디오 제작 능력은 새로운 도전을 나타냅니다.

"변화는 이미지를 조작하는 능력에 있는 것이 아닙니다."라고 펜실베이니아 대학교의 커뮤니케이션 교수이자 안넨버그 센터(Annenberg Center)의 소장인 캐슬린 홀 제이미슨은 말합니다. "변화는 실제 도구보다 더 실제처럼 보이도록 이미지를 조작하는 능력입니다."라고 말합니다.

이 기술은 아직 상용화되지는 않았지만 흥미롭습니다. OpenAI가 공개한 샘플에서는 강아지들이 눈 속에서 노는 영상이 실제처럼 보이고, 회색 늑대 새끼 세 마리가 장난을 치면서 여섯 마리로 변하는 영상이 있으며, AI가 만든 '할머니'가 꺼지지 않는 생일케익 촛불을 불고 있습니다.

샘플은 온라인으로 공유되었지만, OpenAI는 아직 소수의 외부 테스터 그룹을 제외하고는 Sora를 공개적으로 출시하지 않았습니다.

(사진: 캡션 보기 로이터/파일) 

창의적 사고에 도움이 됩니다. 

이 기술은 아티스트, 영화감독, 광고 대행사에게 창의력을 발휘할 수 있는 새로운 출구를 제공하고 인간이 제작한 동영상을 제작하는 과정을 가속화 하는데 도움이 될 수 있습니다.

문제는 이 기술을 부도덕하게 사용할 수 있는 사람들입니다. 당면한 문제는 소라와 같은 생성 AI 도구의 도움으로 제작된 동영상의 수가 너무 많다는 것입니다.

법학 교수이자 스탠포드 법, 과학 및 기술 프로그램 디렉터인 마크 렘리(Mark Lemley)는 이메일에서 "가짜 동영상 문제의 규모와 정교함이 커지면서 허위 정보에 대한 잘못된 신뢰가 많아지고 결국에는 미디어 전반에 대한 불신으로 이어질 것"이라고 지적합니다. "또한 수많은 소송이 발생할 것이지만 현재의 법률 시스템은 이를 처리할 수 있는 충분한 준비가 되어 있다고 생각합니다.“

"그것은 가짜 비디오 문제의 규모와 정교함을 증가시키고, 그것은 잘못된 정보에 대한 많은 잘못된 신뢰와 결국 미디어에 대한 많은 불신을 야기할 것입니다."라고 스탠포드 법, 과학, 기술 프로그램의 책임자인 마크 렘리가 이메일에 썼습니다. "그것은 또한 많은 사건들을 만들어낼 것이지만, 저는 현재의 법 체계가 그것들을 처리할 수 있도록 잘 갖춰져 있다고 생각합니다."

이러한 우려는 미국에만 국한된 것이 아닙니다.

런던 정경대학(London School of Economics)의 미디어 및 커뮤니케이션 교수인 오마르 알-가지(Omar Al-Ghazzi)는 "이는 분명 전 세계적인 문제입니다."라고 말합니다. 하지만 기술이 모든 사람에게 같은 방식으로 영향을 미칠 것이라고 생각하는 것은 잘못된 생각이라고 그는 덧붙였습니다. "많은 비판적 기술 연구에 따르면 실제로 가장 부정적인 영향을 받는 것은 소외되고, 권한이 박탈되고, 권리를 박탈당한 커뮤니티라는 사실이 밝혀졌습니다." 특히 권위주의 정권은 여론을 조작하기 위해 이러한 기술을 사용하기를 열망하기 때문입니다.

서구 민주주의 국가에서도 핵심적인 질문은 누가 기술을 통제할 것인가 하는 것인가? 입니다.

안넨버그 센터(Annenberg Center)의 홀 제이미슨(Hall Jamieson) 교수는 정부가 전문 지식이 없기 때문에 당분간은 이를 적절하게 규제할 수 없다고 말합니다.

허위 정보에 대처하기 

유럽연합은 허위 정보에 대응하기 위해 디지털 시장 및 디지털 서비스법을 제정했습니다. 이 법은 무엇보다도 디지털 플랫폼에 대한 규칙과 온라인 사용자를 보호를 규정합니다. 미국은 보다 적극적인 접근 방식을 취하고 있습니다.

지난 7월, 바이든 행정부는 OpenAI와 다른 대형 기술 기업들이 워터마킹 및 기타 기술을 사용하여 사람들이 AI가 이미지를 향상시키거나 생성한 시점을 감지할 수 있도록 자발적으로 동의했다고 발표했습니다. 많은 디지털 윤리학자들은 자율 규제가 효과가 없을 것이라고 우려합니다.

영국 옥스퍼드 대학교의 옥스퍼드 인터넷 연구소의 교수이자 연구 책임자인 브렌트 미텔슈타트(Brent Mittelstadt)는 "이 모든 것이 올바른 방향으로 나아가는 한 걸음일 수 있습니다."라고 말합니다. 하지만 "엄격한 규제의 대안으로? 절대 안 됩니다. 효과가 없습니다.“

소비자들도 진짜와 가짜 동영상을 구별하는 데 더 능숙해져야 합니다. 디지털 아트와 인문학을 연구하는 하버드 버크만 클라인 센터(Berkman Klein Center) 메타랩(metaLAB)의 예술 및 교육 디렉터인 사라 뉴먼(Sarah Newman)은 어도비 포토샵의 경험이 길잡이가 될 것이라고 말합니다.

30년 전 포토샵이 스틸 사진 조작이라는 개념을 대중화하기 시작했을 때, 많은 사람들이 도널드 트럼프가 블라디미르 푸틴 러시아 대통령과 키스하는 사진을 보고 혼란스러워했을 것이라고 그녀는 말합니다. 오늘날에는 명백한 가짜라고 무시할 것입니다. 뉴먼 여사는 가짜 동영상에 대해서도 동일한 능력이 시간이 지나면 발달할 것으로 예측합니다.

버지니아주 리치몬드에서 오랫동안 프리랜서 사진작가로 활동한 브라이언 팔머(Brian Palmer)는 사진기자들도 적응해야 할 것이라고 말합니다. "우리 저널리스트들은 우리가 이 기술을 무기가 아니라 유용한 도구로 사용하고 있다고 믿고 이해할 수 있는 근거를 사람들에게 제공해야 합니다.“

그는 30년 넘게 사람들을 정직하게 대변하기 위해 노력해 왔다고 말합니다. "저는 그것이 저절로 이루어진다고 생각했습니다. 더 이상은 그렇지 않습니다." 그래서 몇 달 전, 그는 자신의 웹사이트에 "나는 사진과 저널리즘에 인공 지능을 사용하지 않으며 앞으로도 사용하지 않을 것입니다."는 개인 윤리 강령을 게시했습니다.

< Laurent Belsie>