[디지털데일리 옥송이기자] 삼성전자는 신작 '갤럭시 S24 시리즈'에 AI 워터마크를 표기하겠다고 발표했다. 최근 논란을 빚는 딥페이크 논란을 피하고, AI 규제법에 대응하기 위해서다.
지난 18일 베일을 벗은 갤럭시 S24 시리즈는 온디바이스 AI인 갤럭시 AI를 비롯해 생성형 AI가 스마트폰 안에 탑재됐다. 통역 통화 등 개인 보안이 중요한 기능은 온디바이스 AI가 작동하고, 고도의 연산이 필요한 작업은 생성형 AI가 해결한다.
다양한 AI 기능 가운데 '생성형 편집' 기능에는 눈에 띄는 유의사항이 명시됐다. '생성형 AI를 기반으로 만들어진 모든 이미지는, 이미지 그 자체와 메타데이터(Metadata, 속성정보) 모두에 워터마크가 표기된다'는 것이다.
생성형 편집은 스마트폰 사용자가 자유롭게 사진을 편집하는 기능이다. 사진 속 피사체의 위치를 옮기고 크기도 조정할 수 있는데, 편집 과정에서 사진이 삐뚤어지거나 빈 공간이 생긴다. 이때 수많은 이미지를 학습한 생성형 AI가 빈 공간에 본래 어떤 사물이 있으리라 예측해, 빈공간 주위와 어울리는 이미지를 채워넣는 식이다.
삼성전자 관계자는 "기존에 없던 이미지를 생성형 AI가 만들어내는 것"이라며 "최근 AI를 기반으로 이미지를 합성한 딥페이크가 여러 논란을 빚기도 하고, 악용될 소지가 있기에 갤럭시 S24의 생성형 AI로 만든 이미지에 워터마크를 표기한다"고 말했다.
이어 "중국은 AI 창작물에 워터마크를 제공해야 한다는 규제가 있고, 유럽에서도 AI 관련 규제안을 약 2년 후부터 시행할 것으로 알고 있다"며 "한국에서는 아직 관련 규제가 없지만, 각국에서 생성형 AI로 만든 이미지에 대한 논의가 이어지고 있어 삼성은 확실한 AI 워터마크를 준비한 것"이라고 덧붙였다.
AI 워터마크는 생성형 AI가 만든 이미지에 반드시 표기되지만, 사용자의 뜻대로 해당 워터마크를 지울 수 있다.
삼성전자가 AI 워터마크를 명시하고, 딥페이크 논란과 AI법안을 선제 대응한 데 대해 외신도 좋은 평가를 전했다. IT분석 기업인 CCS인사이트의 벤 우드 수석전문가는 17일(현지시간) CNBC에 "AI에 기반해 만든 이미지와 비디오 조작 등의 딥페이크 콘텐츠는 윤리적 문제를 제기한다"며 "AI가 변경한 이미지와 메타데이터 모두에 워터마크를 추가한 것은 삼성의 건설적인 조치이며, 다른 기업들도 따를 것이라고 확신한다"고 말했다.
Copyright ⓒ 디지털데일리. 무단전재 및 재배포 금지
5000만원 탈취 신고, SKT 해킹 관련 가능성 적어…스미싱 피해사례일듯
2025-04-28 18:12:46케이블TV 만난 정동영 “지역채널은 곧 지역공동체, 규제개선 시급”
2025-04-28 17:26:12이진숙 방통위원장, 미국 순방…FCC위원장·오픈AI CSO 만난다
2025-04-28 17:22:56[DD퇴근길] SKT, 유심교체 시작…매장 오픈런 이어 온라인도 북새통
2025-04-28 17:21:14“SKT 유심 공급, 내달 중순까지 어려워”…e심 사용 권고
2025-04-28 15:59:10쇼핑엔티, 프리미엄 남성 패션 상품에 힘준다…獨 ‘골드파일’ 론칭
2025-04-28 14:57:30카카오, AI '카나나'로 실적 부진 돌파하나…"CBT 출시 임박"
2025-04-28 17:07:46IT·게임업계도 ‘SKT 유심 주의보’…네카오, 임직원에 교체 권고
2025-04-28 16:38:34크래프톤, 배틀그라운드 e스포츠 국제대회 ‘PGS 7’ 개최
2025-04-28 15:21:41[인터뷰] 크래프톤 장병규 “수년간 기른 선구안, ‘펍지’ 이을 메가 IP 노린다”
2025-04-28 12:00:00웹툰 '신의 탑' 외전 '우렉 마지노' 나온다…"28일 공개"
2025-04-28 11:08:14딜라이트룸, ICEIC서 호흡 분석 AI 모델 공개…"수면패턴 정밀 분석"
2025-04-28 11:08:03