"교회 갈 시간인데…" AI와 대화 끊지 못하는 아이들 > 한국교계뉴스 Korean News

• 목록

캐릭터AI와 한달 40시간 대화

청소년 보호 위한 예방책 필요

[데일리굿뉴스] 최상경 기자 = "교회 갈 시간이 다 됐는데도 방에서 나오질 않아요. AI랑 대화를 끝내야 한다면서요."

중학교 1학년 딸을 둔 권모 씨(44)는 최근 고민이 깊어졌다. 숙제를 도와주는 정도인 줄 알았던 인공지능(AI)이 어느새 딸의 가장 가까운 친구가 됐기 때문이다. 예배를 드리러 가기 직전까지도 스마트폰을 손에서 놓지 못한 채 AI 캐릭터와 대화를 이어가는 모습을 보며 권 씨는 "어떻게 해야 할지 모르겠다"고 토로했다.

AI가 숙제를 도와주는 도구를 넘어 친구와 연인, 상담자 역할까지 대신하면서 청소년들의 정서적 의존이 빠르게 커지고 있다.

최근 제타(Zeta), 크랙(Crack) 등 가상의 캐릭터와 대화할 수 있는 AI 채팅앱이 청소년들 사이에서 빠르게 확산되고 있다. 이용자가 원하는 성격과 설정의 캐릭터를 직접 만들고 관계를 이어갈 수 있다는 점이 큰 인기 요인이다.

실제 스캐터랩의 AI 캐릭터 서비스 '제타'는 지난 2월 기준 월간 총사용 시간이 1억1,341만 시간을 기록하며 국내 AI 챗봇 가운데 가장 오래 사용된 앱으로 집계됐다. 같은 기간 챗GPT의 총사용 시간(5,047만 시간)의 두 배를 웃도는 수준이다. 이용자의 약 87%는 10~20대인 것으로 나타났다.

청소년들의 AI 이용은 이미 일상이 됐다. 초록우산 어린이재단이 만 14세 이상 청소년 3,300명을 대상으로 조사한 결과 94.4%가 AI 챗봇을 사용한 경험이 있다고 답했다. 이 가운데 75.3%는 AI 챗봇의 답변을 실제 행동으로 옮겼거나 진지하게 고려한 경험이 있다고 응답했다.

단순한 정보 검색을 넘어 AI를 실제 사람처럼 받아들이는 현상도 나타났다. 같은 조사에서 약 35%는 AI 챗봇을 실제 사람처럼 느낀다고 답했고, 절반가량은 "AI가 나를 이해해준다"고 답했다.

AI 챗봇 의존 늘어…"인지 왜곡 등 초래 우려"

문제는 AI가 단순한 대화 상대를 넘어 정서적으로 의지하는 관계의 대상으로 자리 잡고 있다는 점이다. AI 챗봇이 사람과의 관계를 모방하도록 설계된 만큼 청소년일수록 정서적 의존에 빠질 가능성이 크다는 우려가 나온다. 

AI 채팅앱에서 접할 수 있는 콘텐츠의 수위도 문제로 지적된다. 청소년 이용이 가능한 일부 서비스에서는 선정적이거나 폭력적인 캐릭터를 자유롭게 선택할 수 있었으며, '가정폭력을 일삼는 남편 때문에 유산', '집에 몰래카메라를 설치하는 수리공' 등 범죄를 소재로 한 설정도 확인됐다.

국회 입법조사처가 최근 발간한 'AI 챗봇의 위험에 노출된 아동·청소년: 사전 예방 중심 규제체계 도입의 필요성과 방향성' 보고서도 이러한 위험성을 지적했다.

보고서는 AI 챗봇이 이용자와 대화의 맥락을 기억하고 지속적으로 공감하며 정서적 유대감을 형성하는 '동반자형(컴패니언) AI'로 진화하고 있다고 분석했다.

또 AI 챗봇은 칭찬과 공감, 격려를 반복적으로 제공하며 이용자와 관계가 깊어지는 것처럼 인식하게 만들고, 대화를 중단하면 관계를 잃는 듯한 상실감까지 유발할 수 있다고 지적했다. 특히 언제든 접속할 수 있는 상시 연결성과 기업의 체류시간 중심 설계가 맞물리면서 이용자의 의존성을 더욱 키울 수 있다고 설명했다.

이 같은 구조는 인지 통제 능력이 충분히 발달하지 않은 청소년에게 더욱 큰 영향을 미칠 수 있다는 분석이다. 무엇보다 최근 이용이 늘고 있는 제타, 크랙, 바베챗(BabeChat) 등 캐릭터 기반 AI에 대한 '정서적 의존'이 형성되면 현실 회피와 감정 조절 능력 저하, 인지 왜곡을 초래할 수 있다고 경고했다.

(사진출처=제타)

미국·EU, 사전예방 규제 강화…선제 대응

실제 해외에서는 AI 챗봇에 지나치게 의존하던 청소년이 극단적 선택을 하면서 AI 기업을 상대로 한 소송이 제기되는 등 사회적 논란도 이어지고 있다.

이에 미국과 유럽연합(EU), 호주 등 주요국은 AI 챗봇이 청소년의 정신건강과 행동에 미칠 영향을 고려해 사전 예방 중심의 규제를 강화하고 있다. 

미국은 '2025년 사용자 연령 확인 및 책임 있는 대화 지침 법안(GUARD Act)'을 통해 연령 확인과 AI 챗봇 고지, 미성년자를 대상으로 한 성적·신체적 폭력 대화 금지 등을 의무화하는 방안을 추진 중이다. 유럽연합은 'AI법(AI Act)'과 '디지털서비스법(DSA)'을 통해 미성년자 보호를 위한 안전설계와 위험관리 의무를 강화했고,  세계 최초로 청소년 사회관계망서비스(SNS) 규제를 도입한 호주 역시 AI 챗봇에도 전면적 계정 금지 적용을 논의하고 있다.

반면 국내 'AI 기본법'은 산업 진흥에 초점을 맞추고 있어 AI 챗봇의 구조적 위험을 충분히 반영하지 못한다는 지적이 나오고 있다.

규제와 함께 필요한 'AI 선용 교육'

전문가들은 청소년 보호를 위한 사전 예방 중심의 규제와 함께 AI를 올바르게 활용할 수 있도록 돕는 교육도 병행돼야 한다고 강조한다.

최종철 153AI교육연구소 대표는 본지와의 통화에서 "청소년들은 아직 AI가 주는 정보와 관계를 비판적으로 분별할 능력이 충분히 발달하지 않은 만큼 정부와 가정, 학교, 나아가 교회가 올바른 기준과 가이드라인을 제시해야 한다"며 "무조건 사용을 금지하기보다 AI를 건강하게 활용할 수 있는 좋은 사례를 꾸준히 보여주는 교육이 필요하다"고 말했다.

이어 "AI를 무조건 하지 말라고만 하면 오히려 역효과가 날 수 있다"며 "AI 역시 하나님이 허락하신 기술인 만큼 무조건 배척하기보다 바르게 사용할 수 있도록 이끄는 교육이 중요하다. 부모와 교회는 아이들에게 '하지 말라'고만 할 것이 아니라 AI를 선한 도구로 활용하는 모델을 먼저 보여주고, 올바르게 선용하도록 도와야 한다"고 제언했다.