오픈AI, 부모 통제 챗GPT 도입…올트먼 “안전이 프라이버시보다 우선”

선정적·폭력적 콘텐츠 차단·위기 상황 법 집행 연계…이달 말 서비스 시작
올트먼 “새롭고 강력한 기술…청소년은 상당한 보호 필요”

샘 올트먼 오픈AI 최고경영자가 4일 서울 중구 플라자호텔에서 열린 카카오 기자간담회에서 취재진의 질문에 답하고 있다. 2025.02.04. 서울=뉴시스

미국 인공지능(AI) 스타트업 오픈AI가 18세 미만 사용자를 위한 부모 통제 기능이 포함된 챗GPT를 이달 말부터 제공한다고 밝혔다. 청소년 안전 보호를 강화하기 위한 조치로, 선정적·폭력적 콘텐츠를 차단하고 심각한 위기 상황에서는 법 집행 기관과 연계할 수 있도록 설계됐다.

16일(현지 시간) CNBC에 따르면 샘 올트먼 CEO(최고경영자)는 이날 블로그를 통해 “우리는 청소년의 프라이버시와 자유보다 안전을 우선시한다”며 “이 기술은 새롭고 강력하며, 미성년자는 상당한 보호가 필요하다고 믿는다”고 강조했다.

오픈AI는 지난달 부모 통제 기능이 도입된 챗GPT 출시 계획을 알린 바 있으며, 이번에 구체적인 세부 사항을 공개했다. 새 기능은 부모가 자신의 계정과 청소년 계정을 이메일로 연결해 사용 금지 시간을 설정하고, 특정 기능을 제한·관리할 수 있도록 하는 것이 핵심이다. 챗봇의 응답 방식을 안내하고, 청소년이 심각한 위기 상황에 처했을 때 부모에게 알림을 전송하는 기능도 포함됐다.

또한 오픈AI 측은 사용자의 연령을 더 정확히 예측하는 기술을 개발 중이나, 정보가 불확실하거나 불완전할 경우 기본적으로 18세 미만 전용 환경을 제공한다고 설명했다.

올트먼 CEO는 “이 결정들은 쉽지 않았지만 전문가들과 논의한 끝에 최선이라고 판단했다”며 “우리의 의도를 투명하게 밝히고 싶다”고 말했다.

이번 안전 강화 조치는 최근 미국 연방거래위원회(FTC)가 오픈AI를 포함한 여러 기술 기업에 AI 챗봇이 아동·청소년에게 미칠 잠재적 부정적 영향과 관련해 문의한 데 따른 것이다. FTC는 보도자료에서 “이들 챗봇이 ‘동반자’ 역할을 할 때의 안전성을 평가하기 위해 기업들이 어떤 조치를 취했는지 알고 싶다”고 밝혔다.

앞서 오픈AI는 지난달, 한 가족이 청소년 아들의 자살 책임을 챗봇에 돌리며 제기한 소송 이후 민감한 상황에 대한 챗GPT가 대응하는 방식을 공개한 바 있다.[서울=뉴시스]