오픈AI는 18세 미만 사용자를 위한 자녀 보호 기능이 포함된 전용 챗GPT를 이달 말 출시할 예정이라고 16일(현지시간) 밝혔다.

오픈AI는 사용자가 미성년자인 것으로 확인되면 자동으로 연령에 맞는 챗GPT 환경으로 안내한다고 설명했다. 이 환경에서는 선정적이거나 폭력적인 콘텐츠를 차단하고, 심각한 위기 상황에서는 법 집행 기관이 개입할 수 있다.

오픈AI는 또 사용자의 나이를 더 잘 예측하는 기술을 개발 중이며, 불확실하거나 정보가 불완전할 경우 챗GPT는 기본적으로 18세 미만 사용자 경험으로 설정될 것이라고 덧붙였다.

부모의 자녀 보호 기능도 강화된다.

부모는 자신의 챗GPT 계정을 자녀의 계정과 연결하고, 자녀가 챗봇을 사용할 수 없는 시간을 설정할 수 있다. 또 챗봇의 응답 방식을 유도하며, 자녀가 심각한 정신적 고통을 겪을 경우 알림을 받을 수 있다.

오픈AI는 이달 말부터 18세 미만을 위한 챗GPT를 사용할 수 있다고 전했다.

오픈AI의 이런 조치는 최근 연방거래위원회(FTC)가 오픈AI를 포함한 여러 기술 기업을 대상으로 AI 챗봇이 어린이와 청소년에게 미치는 잠재적 악영향에 대한 조사를 시작한 이후에 나온 것이다.

FTC는 이들 기업이 "챗봇의 안전성을 평가하기 위해 어떤 조치를 취했는지 파악할 필요가 있다"며 자료 요청과 함께 조사를 개시했다고 밝힌 바 있다.

오픈AI는 지난달 챗GPT와 수개월간 상호작용한 아들의 사망에 오픈 AI가 책임이 있다며 한 학부모가 제기한 소송에 피고가 됐다.

샘 올트먼 오픈AI 최고경영자(CEO)는 이날 블로그에 "우리는 10대들의 사생활이나 자유보다 안전을 우선시한다"며 "이것은 새롭고 강력한 기술이며, 미성년자에게는 상당한 보호가 필요하다고 믿는다"라고 적었다.

이어 "(18세 미만 전용 챗GPT는) 어려운 결정이지만, 전문가들과 논의한 결과 이것이 최선이라고 생각하며 우리의 의도를 투명하게 밝히고 싶다"고 썼다.(연합뉴스)