네이버가 글로벌 인공지능(AI) 워터마크 기술 표준을 구축한 '콘텐츠 출처 및 진위 확인을 위한 연합(C2PA)'에 국내 기업 최초로 가입하며 글로벌 AI 안전 리더십을 증명했다.

15일 ICT업계에 따르면 네이버가 지난 13일 안전한 AI 생태계 구축을 위해 'C2PA'(Coalition for Content Provenance and Authenticity)에 가입한 것이 확인됐다.

C2PA는 2021년 온라인 콘텐츠에 대한 신뢰 구축을 위해 설립된 글로벌 연합체로, 구글, 마이크로소프트(MS), 인텔 등 90여 개 기업이 회원으로 참여 중이다.

C2PA는 워터마크 등 콘텐츠 출처 기술 표준을 개발해 글로벌 확산을 이끌고 있다. C2PA 기술 표준은 주로 AI가 생성한 이미지 식별을 비롯한 디지털 콘텐츠 출처 인증에 활용되고 있으며 가장 공신력 있는 기술 표준으로 인정받고 있다. 대화형 AI 챗봇 '챗GPT' 개발사 오픈 AI는 지난 2월부터 이미지 생성 AI 도구인 '달리3'(DALL-E 3)에 C2PA 워터마크 기술을 도입했다.

네이버는 AI 생성 콘텐츠의 악용 방지를 위해 C2PA 회원사인 글로벌 기업들과 워터마크 삽입 기술 최적화 등 기술 표준 연구를 공동으로 진행할 계획이다.

또한, 워터마크 등 C2PA 기술 규약을 네이버 서비스에 적용하기 위한 구체적인 논의도 이어갈 방침이다.

네이버는 그동안 안전한 AI 개발 경험을 글로벌 커뮤니티와 공유하며 AI 안전 논의에 힘을 기울여왔다. 네이버는 지난해 11월 영국 정부 주최의 첫 번째 'AI 정상회의'에 국내 대표 기업으로 참석해 글로벌 AI 리더들과 AI 안전성 연구와 이른바 '레드팀' 운영 관련 협력을 논의한 데 이어 올해 5월 'AI 서울 정상회의'에서는 미래세대를 위해 다양한 사회 문화적 맥락을 이해하는 AI 모델들의 공존을 강조했다. 최근에는 구글, 인텔, 메타 등 글로벌 빅테크가 참여하는 개방형 컨소시엄 'ML커먼스(Commons)'에서 AI 안전 벤치마크 구축 작업에 기여했다.

최근에는 AI가 생성한 코드 데이터에 워터마크를 삽입하면서도 코드의 품질은 보존하는 선택적 워터마킹 기술 'SWEET'을 제안해 글로벌 자연어처리 학회 'ACL 2024'에 채택됐다.

이밖에도 한국의 문화적 맥락을 반영한 한국어 중심의 편향성 측정 벤치마크 데이터셋 'KoBBQ'를 제안한 연구와 초대규모 언어모델이 제공하는 답변의 신뢰도를 예측할 수 있는 모델을 제안한 연구 등이 세계적 권위의 AI 학회에서 채택되기도 했다.

네이버 관계자는 "국내 최초로 AI 안전성 실천 체계인 '네이버 ASF(AI Safety Framework·AI 안전성 실천 체계)'를 발표한 데 이어 C2PA에 가입하며 안전한 AI를 위한 글로벌 리더로 자리매김했다"고 말했다.(연합뉴스)