• UPDATE : 2024.6.13 목 10:37
> 뉴스 > ICT·융복합
국내 AI 생성물에도 워터마크 표식과기정통부 "AI 부작용 막을 기술 보완책 내달 발표
정종희 기자  |  jhjung2@a-news.co.kr
폰트키우기 폰트줄이기 프린트하기 메일보내기 신고하기
승인 : 2023년 08월 25일 (금) 07:30:17
수정 : 2023년 08월 25일 (금) 15:40:08
트위터 페이스북 미투데이 요즘 네이버 구글 msn

오픈 AI와 구글 등 인공지능(AI) 빅테크가 AI가 생성한 음성·시각 콘텐츠에 'AI가 만들었다'는 표식(워터마크)을 넣기로 백악관과 합의한 데 이어 우리 정보기술(IT) 당국도 AI 생성물에 워터마크를 넣도록 하는 방침을 세운 것으로 파악됐다.

25일 현재 과학기술정보통신부는 AI가 생성한 콘텐츠를 워터마크 처리로 구별하도록 하는 방향을 정하고 기술적인 방식에 대해 업계와 구체적인 검토를 진행 중이다.

과기정통부 핵심 관계자는 "AI 생성물에 워터마크를 넣는 방안을 AI 업계와 협의를 통해 추진 중"이라고 설명했다.

딥페이크 기술을 악용한 인권 침해나 가짜 뉴스 확산 등 생성형 AI 기술이 초래할 수 있는 부작용을 최소화하고 AI 생성에 사용된 원본 콘텐츠 저작권을 보호할 목적으로 오픈 AI 등 미국의 주요 AI 기업 7곳이 지난달 미국 정부와 워터마크 사용을 공식화한 것과 같은 맥락이다.

다만, AI 생성물에 워터마크를 어떤 식으로 표시할지 기술적인 부분은 과기정통부와 업계가 협의를 진행 중이다.

영상이나 이미지 속 또는 텍스트의 시작·끝 지점에 'AI 생성물'이라고 가시적으로 표기하는 방법이 우선 꼽히지만, 콘텐츠 제작자가 AI 생성물 워터마크를 의도적으로 달지 않았을 경우에는 걸러내기 쉽지 않다는 한계가 있다.

이에 맨눈으로 인식되는 워터마크 대신 기계가 AI 생성물임을 자동으로 알아차리는 '비시각적 워터마크'를 넣는 방안이 국내외에서 연구되고 있다.

AI 학습용 데이터 묶음(데이터 세트)에 워터마크 처리를 하면 거대언어모델(LLM) 등을 거쳤을 때 AI가 만든 콘텐츠임을 기계적으로 식별하는 기술이다.

AI 당국의 한 관계자는 "AI 생성물에 워터마크를 넣는 시도가 AI 산업을 위축시킨다고 우려할 수도 있지만, AI 기술 활용을 막을 수 없는 상황에서 AI 생성물임을 정당하게 밝히고 널리 활용하도록 하는 지침을 주는 것이 AI 산업 발전에 더 긍정적일 수 있다"고 말했다.

인공지능(AI) 분야 세계 4대 석학으로 꼽히는 앤드류 응 미국 스탠퍼드대 교수도 미국 AI 기업의 워터마크 사용 결정에 대해 "(AI 윤리에 관한) 대부분의 자발적 약속은 측정할 수 없지만 이는 측정할 수 있는 구체적이고 실행할 수 있는 약속"이라며 "어떤 콘텐츠가 AI로 생성된 것인지 아닌지 알 수 있다면 사회가 더 나아질 것"이라고 평가했다.

한편, 정부는 국회 계류 중인 '인공지능기본법안'이 통과되기 전이라도 AI 부작용을 막을 수 있는 기술적인 보완 대책을 다음 달 안으로 내놓겠다는 방침을 밝혔다.

박윤규 과기정통부 차관은 최근 기자간담회에서 "가짜뉴스 등 AI 부작용이나 의도적인 AI 오남용 시도에 대한 기술적인 대책을 만들어야 한다는 생각을 갖고 있다"고 말했다.

정종희 기자의 다른기사 보기  
폰트키우기 폰트줄이기 프린트하기 메일보내기 신고하기
트위터 페이스북 미투데이 요즘 네이버 구글 msn 뒤로가기 위로가기
이 기사에 대한 댓글 이야기 (0)
자동등록방지용 코드를 입력하세요!   
확인
- 200자까지 쓰실 수 있습니다. (현재 0 byte / 최대 400byte)
- 욕설등 인신공격성 글은 삭제 합니다. [운영원칙]
이 기사에 대한 댓글 이야기 (0)
오늘의 주요뉴스
신문사소개기사제보광고문의개인정보취급방침청소년보호정책이메일무단수집거부
서울 성동구 성수일로 10 (성수동1가) 서울숲ITCT지식산업센터 507호 (우)04780  |  대표전화 : 02-6430-5060  |  팩스 : 02-6430-5046
발행인 : 윤동승.신성우 | 편집인 : 윤동승 |  청소년보호책임자 : 윤동승  |  등록번호 : 서울 아03281 | 등록일 : 2014. 8. 6 | SINCE 2013
Copyright © A-NEWS. All rights reserved.