EU AI법 제50조 시행…챗봇·딥페이크 표시 의무와 과징금 총정리
AI와 대화할 때는 처음부터 고지…딥페이크는 가시적인 표시 필요
지나친 표시로 이용자가 무감각해지는 ‘AI 표시 피로’ 우려도
유럽연합이 8월 2일부터 AI법 제50조를 적용하여, 인공지능이 사람처럼 행동하거나 사람과 구별하기 어려운 콘텐츠를 만들 때, 그 사실을 이용자가 알 수 있도록 공지하는 규정을 본격 시행했다.
EU 집행위원회에 따르면, 2026년 8월 2일부터 EU 인공지능법 제50조의 투명성 의무가 적용된다. 이에 AI 시스템 제공자와 AI를 사용하는 기업·기관·개인 등은 각자에게 적용되는 의무에 따라 AI와의 상호작용이나 AI 생성·조작 사실을 알려야 한다. 해당 규정의 목적은 이용자가 상대방이나 콘텐츠의 성격을 알고 신뢰 수준을 스스로 판단하도록 하는 데 있다.
이번 규정은 기업과 공공기관뿐 아니라 AI를 사업·직업·수익 활동에 사용하는 개인 콘텐츠 제작자에게도 적용될 수 있다. 다만 순수한 개인적·비직업적 활동은 제외되며, 전문 제작자라고 해도 모든 AI 콘텐츠가 아니라 딥페이크와 사람의 실질적인 검토 없이 생산된 공익적 정보 등을 중심으로 표시 의무가 부과된다.
챗봇과 상담전화, 처음부터 AI라고 알려야
사람과 직접 대화하도록 설계된 챗봇과 AI 에이전트, 음성 비서, 가상 인물 등은 이용자가 AI와 상호작용하고 있다는 것을 처음부터 알려야 한다. 기업의 고객상담 창구에서 AI 챗봇이 환불이나 예약 변경을 처리한다면, 대화가 시작될 때 이용자에게 AI 상담원이라는 점을 분명하게 고지해야 한다. 전화 상담에서 사람의 목소리처럼 말하는 AI가 민원을 접수하거나 상품을 안내하는 경우에도 통화 초기부터 AI라는 사실을 알려야 한다.
고지는 이용자가 약관이나 별도 페이지를 찾아보아야 알 수 있는 방식이 아니라, 첫 상호작용이 시작될 때 명확하고 식별 가능한 형태로 이루어져야 한다. 다만 일반 이용자가 보더라도 AI라는 사실이 명백한 경우는 별도 고지가 생략될 수 있지만, EU 집행위원회는 이 예외를 좁게 적용해야 한다고 명시했다.
그러나 AI와의 직접 소통이 아닌, 자료 분류나 통계 계산 등 배경에서만 AI가 활용된다면 챗봇 고지 의무의 대상이 되지 않는다.
계약 협상이나 업무상 서신도 마찬가지다. AI가 인간의 개입 없이 상대방과 직접 대화하는 경우는 AI와의 상호작용임을 고지해야 할 수 있다. 그러나 직원이 AI로 서신 초안을 작성한 뒤 직접 검토해 자신의 이름으로 전달하는 경우까지 일률적으로 고지해야 하는 것은 아니다.
AI가 감정을 분석할 때도 고지해야
기업이나 기관이 사람의 얼굴, 목소리, 표정 등을 분석해 감정을 추정하는 AI를 사용할 경우도 그 사실을 알려야 한다. 콜센터나 매장 등에서 허용되는 범위 안에서 고객의 목소리나 표정을 분석해 감정을 추정하는 경우가 이에 해당할 수 있다. 다만 직장과 교육기관에서 사람의 감정을 추정하는 AI는 의료 또는 안전 목적의 제한적 예외를 제외하고 원칙적으로 금지되므로, 고지한다고 모두 사용할 수 있는 것은 아니다.
이 의무는 분석이 실시간으로 이루어지는 경우뿐 아니라, 녹음이나 영상을 나중에 분석하는 경우에도 적용된다. 다만 EU AI법의 다른 조항에 따라 금지되는 감정인식이나 생체정보 분류 기술은 투명성 고지만으로 사용할 수 있는 것은 아니다.
AI 콘텐츠에는 기계가 읽을 수 있는 표시 삽입
생성형 AI 시스템을 개발해 자신의 이름으로 시장에 제공하는 경우, AI가 만든 글과 사진, 음성, 영상 등에 해당 콘텐츠가 AI로 생성되거나 조작됐음을 확인할 수 있는 기계 판독형 표시를 넣어야 한다.
사람의 눈에 보이는 ‘AI 생성’ 문구만 붙이는 것이 아니라, 플랫폼이나 탐지 시스템이 해당 콘텐츠가 AI로 생성 또는 조작됐는지를 탐지할 수 있도록 메타데이터나 디지털 표식 등을 삽입해야 한다는 의미다. 표시 방식은 효과적이고 신뢰할 수 있으며, 다른 시스템과도 호환될 수 있어야 한다.
다만 맞춤법 교정, 색상 조정, 화면 크기 변경과 같은 통상적인 편집 보조 기능은 원래 자료의 의미를 실질적으로 바꾸지 않는 한 표시 대상에서 제외될 수 있다. 짧은 숫자나 기호, 프로그램 소스코드, 기계끼리만 주고받는 자료, 최종 공개 전의 영화 제작용 중간 결과물 등도 일부 예외로 인정된다.
2026년 8월 2일 이전에 이미 시장에 출시된 생성형 AI 시스템에는 기계 판독형 표시를 적용할 수 있도록 12월 2일까지 제한적인 유예기간이 주어진다. 그러나 이 유예는 콘텐츠 표시 기술에만 해당한다. 챗봇이 자신이 AI라고 밝히는 의무나 딥페이크를 공개하는 의무까지 모두 연기된 것은 아니다. 8월 2일 이전에 만들어진 콘텐츠에도 소급해 표시할 의무는 없지만 EU는 가능한 경우 자발적인 표시를 권고하고 있다.
딥페이크에는 사람이 알아볼 수 있는 표시 필요
AI로 만든 콘텐츠에 기계 판독형 정보를 넣는 책임은 주로 AI 시스템 제공자에게 있다. 반면 콘텐츠를 전문적 목적으로 광고나 방송, 인터넷 게시물 등에 공개하는 기업·기관·개인 등 배포자는 사람이 직접 알아볼 수 있는 표시를 해야 한다.
실존 인물이나 장소, 사물, 사건을 실제처럼 재현해 진짜라고 오해할 수 있는 이미지와 음성, 영상은 딥페이크로 분류된다. 기업이 유명인의 얼굴이나 목소리를 AI로 합성해 광고에 사용한다면 이용자가 처음 접할 때 AI로 생성하거나 조작한 콘텐츠임을 명확히 밝혀야 한다.
기계만 확인할 수 있는 워터마크를 넣었다는 이유로 이용자에게 보이는 표시를 생략할 수는 없다. 화면에 문구나 아이콘을 표시하거나 음성으로 고지하는 등 일반 이용자가 별도 장비 없이 알 수 있어야 한다.
다만 영화와 연극, 예술작품, 풍자, 패러디처럼 관객이 허구임을 예상하는 콘텐츠에는 작품 감상을 방해하지 않는 방식으로 표시할 수 있다. 영화의 특수효과나 배경 장면처럼 관객이 실제 기록영상이라고 받아들일 가능성이 낮은 경우에는 딥페이크로 판단되지 않을 수도 있다.
공적 관심사에 관한 AI 생성 글도 표시 대상
정치와 선거, 사법, 치안, 공중보건, 환경, 소비자 안전, 경제, 과학, 문화 등 공적 관심사에 관한 글을 AI가 작성해 대중에게 제공할 경우에도 AI 사용 사실을 표시해야 한다.
하지만 언론사나 기관의 담당자가 내용을 실질적으로 검토하거나 편집 통제를 수행하고, 자연인 또는 법인이 최종 편집 책임을 지는 경우에는 표시 의무에서 제외된다. 기본 맞춤법 검사나 문장 형식 확인만으로는 충분한 인간 검토로 인정되지 않는다. 내용과 출처를 검증하고, 잘못된 부분을 수정하거나 게재를 거부할 수 있는 실질적인 편집 통제가 있어야 한다.
따라서 AI가 초안을 작성했더라도 기자나 편집자가 사실관계와 논리를 충분히 검토해 자신의 책임으로 보도한 기사는 반드시 ‘AI 작성’이라고 표시해야 하는 것은 아니다. 반대로 사람이 거의 관여하지 않은 채 AI가 자동으로 생산한 정치·경제·사회 정보는 표시 대상이 될 수 있다.
위반 시 최대 1천500만 유로 또는 세계 매출의 3%
투명성 의무를 위반한 주체에는 최대 1천500만 유로의 행정 과징금이 부과될 수 있다. 위반자가 기업인 경우에는 최대 1천500만 유로 또는 직전 회계연도 전 세계 연 매출액의 3% 가운데 더 큰 금액이 상한으로 적용된다. 중소기업과 스타트업에는 두 기준 가운데 더 낮은 금액이 상한으로 적용된다. 실제 과징금은 위반의 성격과 심각성, 지속 기간, 피해 규모, 사업자의 규모와 매출, 당국과의 협조 여부 등을 고려해 결정된다.
규정은 EU 기업에만 적용되지 않는다. 미국이나 한국 등 EU 밖에 본사를 둔 기업이라도 AI 시스템의 결과물이 EU에서 사용되거나 EU 이용자를 대상으로 서비스를 제공한다면 적용 대상이 될 수 있다.
한국 기업과 창작자에게도 영향
EU의 이번 규정은 한국 기업에도 직접적인 영향을 줄 수 있다. 국내 기업이 유럽 소비자를 대상으로 챗봇 상담이나 AI 기반 광고, 콘텐츠 제작 서비스를 제공한다면 EU의 표시 기준을 검토해야 한다.
한국 사업자라도미국이나 한국 등 EU 밖에 본사를 둔 사업자라도 AI 시스템을 EU 시장에 출시하거나 서비스하고, 또는 해당 AI 시스템의 결과물이 EU에서 사용되는 경우에는 적용 대상이 될 수 있다. 특히 실존 인물의 얼굴이나 목소리를 합성한 콘텐츠, 실제 사건처럼 보이는 장면, 정치·사회 문제를 다루는 자동 생성 글은 주의가 필요하다.
장기적으로는 EU의 기준이 한국을 포함한 다른 국가의 AI 표시제에도 영향을 줄 가능성이 있다. 개인정보 보호 분야에서 EU의 일반개인정보보호법이 세계 여러 기업의 운영 방식을 바꾸었던 것처럼, AI 콘텐츠 표시도 사실상의 국제 기준으로 자리 잡을 수 있기 때문이다.
개인 제작자의 적용 여부
AI를 순수하게 개인적·비직업적 목적으로 사용하는 자연인에게는 원칙적으로 배포자 의무가 적용되지 않는다. EU 집행위원회는 개인이 사적인 목적으로 딥페이크를 만들어 SNS에 올리는 경우도 ‘개인적 활동’이라면 AI법 적용 대상에서 제외될 수 있다고 설명한다.
다만 AI법에서 제외된다는 뜻일 뿐, 초상권·저작권·명예훼손법이나 유튜브 등 플랫폼의 AI 표시 정책까지 면제되는 것은 아니다.
수익을 얻는 유튜버·프리랜서·창작자의 경우에는 적용 대상이 될 수 있다. EU 집행위원회는 AI 활용으로 정기적인 경제적 이익을 얻거나 사업·직업·프리랜서 활동을 한다면 그 개인을 AI 시스템의 ‘배포자’로 본다.
- 유튜브 광고수익을 정기적으로 얻는 제작자
- AI 영상이나 이미지를 판매하는 창작자
- 광고·홍보 콘텐츠를 제작하는 프리랜서
- 업체의 의뢰를 받아 AI 콘텐츠를 만드는 제작자
- AI 콘텐츠 제작을 사업이나 직업으로 수행하는 사람
다만, 회사 소속 제작자가 회사의 지시에 따라 AI 콘텐츠를 만드는 경우에는 직원 개인이 아니라 일반적으로 회사가 의무를 부담한다. 외주 제작자도 회사의 책임과 통제 아래 작업한다면 회사가 배포자로 판단될 수 있다.
곳곳에 AI 표시…‘쿠키창 피로’ 되풀이되나
투명성 규정의 취지는 이용자가 AI에 속지 않도록 하는 데 있지만, 표시가 너무 많아지면 오히려 효과가 약해질 수 있다는 지적도 나온다.
웹사이트를 방문할 때마다 나타나는 개인정보 쿠키 동의창처럼, 광고와 상담창, 전화, 영상, 이미지마다 AI 표시가 반복되면 이용자가 내용을 읽지 않고 습관적으로 넘길 수 있다는 것이다. 이를 ‘AI 표시 피로’ 또는 ‘공개 피로’라고 부른다.
업계와 일부 전문가들은 표시 대상이 지나치게 넓게 해석될 경우, 실제로 위험한 딥페이크와 사소한 편집의 차이가 흐려지고 이용자가 표시를 습관적으로 무시할 수 있다고 우려한다. 표시가 넘쳐날수록 중요한 경고의 의미가 희석되는 이른바 ‘배너 맹목’ 현상이 나타날 수 있다는 우려다.
EU도 이러한 문제를 고려해 통상적인 편집, 사람에게 노출되지 않는 기업 내부 자료, 인간의 실질적인 검토를 거친 공익적 글 등에 예외를 두었다. 결국 규정의 성패는 얼마나 많은 표시를 붙이느냐보다, 이용자가 실제로 알아야 할 AI 개입을 선별해 간결하고 이해하기 쉽게 알려주느냐에 달려 있다.
이번 규정은 AI를 사용하지 못하게 하는 법이라기보다, AI가 사람과 콘텐츠 뒤에 숨어 활동하지 못하도록 하는 법에 가깝다. 앞으로 기업과 창작자는 AI의 개입이 법상 공개 대상에 해당하는지를 판단하고, 필요한 경우 이용자가 이해할 수 있는 방식으로 그 사실을 표시해야 한다.
/ 글.편집 최은경
노바토포스 ‘AI 뉴스’ 코너는 자료 조사·정리 과정에서 생성형 AI를 활용하기도 합니다. 모든 기사는 노바토포스 편집자가 출처와 사실관계를 확인하고, 필요한 수정과 편집을 거쳐 최종 게재합니다.
EU AI법 제50조 시행…챗봇·딥페이크 표시 의무와 과징금 총정리
유럽연합이 8월 2일부터 AI법 제50조를 적용하여, 인공지능이 사람처럼 행동하거나 사람과 구별하기 어려운 콘텐츠를 만들 때, 그 사실을 이용자가 알 수 있도록 공지하는 규정을 본격 시행했다.
EU 집행위원회에 따르면, 2026년 8월 2일부터 EU 인공지능법 제50조의 투명성 의무가 적용된다. 이에 AI 시스템 제공자와 AI를 사용하는 기업·기관·개인 등은 각자에게 적용되는 의무에 따라 AI와의 상호작용이나 AI 생성·조작 사실을 알려야 한다. 해당 규정의 목적은 이용자가 상대방이나 콘텐츠의 성격을 알고 신뢰 수준을 스스로 판단하도록 하는 데 있다.
이번 규정은 기업과 공공기관뿐 아니라 AI를 사업·직업·수익 활동에 사용하는 개인 콘텐츠 제작자에게도 적용될 수 있다. 다만 순수한 개인적·비직업적 활동은 제외되며, 전문 제작자라고 해도 모든 AI 콘텐츠가 아니라 딥페이크와 사람의 실질적인 검토 없이 생산된 공익적 정보 등을 중심으로 표시 의무가 부과된다.
챗봇과 상담전화, 처음부터 AI라고 알려야
사람과 직접 대화하도록 설계된 챗봇과 AI 에이전트, 음성 비서, 가상 인물 등은 이용자가 AI와 상호작용하고 있다는 것을 처음부터 알려야 한다. 기업의 고객상담 창구에서 AI 챗봇이 환불이나 예약 변경을 처리한다면, 대화가 시작될 때 이용자에게 AI 상담원이라는 점을 분명하게 고지해야 한다. 전화 상담에서 사람의 목소리처럼 말하는 AI가 민원을 접수하거나 상품을 안내하는 경우에도 통화 초기부터 AI라는 사실을 알려야 한다.
고지는 이용자가 약관이나 별도 페이지를 찾아보아야 알 수 있는 방식이 아니라, 첫 상호작용이 시작될 때 명확하고 식별 가능한 형태로 이루어져야 한다. 다만 일반 이용자가 보더라도 AI라는 사실이 명백한 경우는 별도 고지가 생략될 수 있지만, EU 집행위원회는 이 예외를 좁게 적용해야 한다고 명시했다.
그러나 AI와의 직접 소통이 아닌, 자료 분류나 통계 계산 등 배경에서만 AI가 활용된다면 챗봇 고지 의무의 대상이 되지 않는다.
계약 협상이나 업무상 서신도 마찬가지다. AI가 인간의 개입 없이 상대방과 직접 대화하는 경우는 AI와의 상호작용임을 고지해야 할 수 있다. 그러나 직원이 AI로 서신 초안을 작성한 뒤 직접 검토해 자신의 이름으로 전달하는 경우까지 일률적으로 고지해야 하는 것은 아니다.
AI가 감정을 분석할 때도 고지해야
기업이나 기관이 사람의 얼굴, 목소리, 표정 등을 분석해 감정을 추정하는 AI를 사용할 경우도 그 사실을 알려야 한다. 콜센터나 매장 등에서 허용되는 범위 안에서 고객의 목소리나 표정을 분석해 감정을 추정하는 경우가 이에 해당할 수 있다. 다만 직장과 교육기관에서 사람의 감정을 추정하는 AI는 의료 또는 안전 목적의 제한적 예외를 제외하고 원칙적으로 금지되므로, 고지한다고 모두 사용할 수 있는 것은 아니다.
이 의무는 분석이 실시간으로 이루어지는 경우뿐 아니라, 녹음이나 영상을 나중에 분석하는 경우에도 적용된다. 다만 EU AI법의 다른 조항에 따라 금지되는 감정인식이나 생체정보 분류 기술은 투명성 고지만으로 사용할 수 있는 것은 아니다.
AI 콘텐츠에는 기계가 읽을 수 있는 표시 삽입
생성형 AI 시스템을 개발해 자신의 이름으로 시장에 제공하는 경우, AI가 만든 글과 사진, 음성, 영상 등에 해당 콘텐츠가 AI로 생성되거나 조작됐음을 확인할 수 있는 기계 판독형 표시를 넣어야 한다.
사람의 눈에 보이는 ‘AI 생성’ 문구만 붙이는 것이 아니라, 플랫폼이나 탐지 시스템이 해당 콘텐츠가 AI로 생성 또는 조작됐는지를 탐지할 수 있도록 메타데이터나 디지털 표식 등을 삽입해야 한다는 의미다. 표시 방식은 효과적이고 신뢰할 수 있으며, 다른 시스템과도 호환될 수 있어야 한다.
다만 맞춤법 교정, 색상 조정, 화면 크기 변경과 같은 통상적인 편집 보조 기능은 원래 자료의 의미를 실질적으로 바꾸지 않는 한 표시 대상에서 제외될 수 있다. 짧은 숫자나 기호, 프로그램 소스코드, 기계끼리만 주고받는 자료, 최종 공개 전의 영화 제작용 중간 결과물 등도 일부 예외로 인정된다.
2026년 8월 2일 이전에 이미 시장에 출시된 생성형 AI 시스템에는 기계 판독형 표시를 적용할 수 있도록 12월 2일까지 제한적인 유예기간이 주어진다. 그러나 이 유예는 콘텐츠 표시 기술에만 해당한다. 챗봇이 자신이 AI라고 밝히는 의무나 딥페이크를 공개하는 의무까지 모두 연기된 것은 아니다. 8월 2일 이전에 만들어진 콘텐츠에도 소급해 표시할 의무는 없지만 EU는 가능한 경우 자발적인 표시를 권고하고 있다.
딥페이크에는 사람이 알아볼 수 있는 표시 필요
AI로 만든 콘텐츠에 기계 판독형 정보를 넣는 책임은 주로 AI 시스템 제공자에게 있다. 반면 콘텐츠를 전문적 목적으로 광고나 방송, 인터넷 게시물 등에 공개하는 기업·기관·개인 등 배포자는 사람이 직접 알아볼 수 있는 표시를 해야 한다.
실존 인물이나 장소, 사물, 사건을 실제처럼 재현해 진짜라고 오해할 수 있는 이미지와 음성, 영상은 딥페이크로 분류된다. 기업이 유명인의 얼굴이나 목소리를 AI로 합성해 광고에 사용한다면 이용자가 처음 접할 때 AI로 생성하거나 조작한 콘텐츠임을 명확히 밝혀야 한다.
기계만 확인할 수 있는 워터마크를 넣었다는 이유로 이용자에게 보이는 표시를 생략할 수는 없다. 화면에 문구나 아이콘을 표시하거나 음성으로 고지하는 등 일반 이용자가 별도 장비 없이 알 수 있어야 한다.
다만 영화와 연극, 예술작품, 풍자, 패러디처럼 관객이 허구임을 예상하는 콘텐츠에는 작품 감상을 방해하지 않는 방식으로 표시할 수 있다. 영화의 특수효과나 배경 장면처럼 관객이 실제 기록영상이라고 받아들일 가능성이 낮은 경우에는 딥페이크로 판단되지 않을 수도 있다.
공적 관심사에 관한 AI 생성 글도 표시 대상
정치와 선거, 사법, 치안, 공중보건, 환경, 소비자 안전, 경제, 과학, 문화 등 공적 관심사에 관한 글을 AI가 작성해 대중에게 제공할 경우에도 AI 사용 사실을 표시해야 한다.
하지만 언론사나 기관의 담당자가 내용을 실질적으로 검토하거나 편집 통제를 수행하고, 자연인 또는 법인이 최종 편집 책임을 지는 경우에는 표시 의무에서 제외된다. 기본 맞춤법 검사나 문장 형식 확인만으로는 충분한 인간 검토로 인정되지 않는다. 내용과 출처를 검증하고, 잘못된 부분을 수정하거나 게재를 거부할 수 있는 실질적인 편집 통제가 있어야 한다.
따라서 AI가 초안을 작성했더라도 기자나 편집자가 사실관계와 논리를 충분히 검토해 자신의 책임으로 보도한 기사는 반드시 ‘AI 작성’이라고 표시해야 하는 것은 아니다. 반대로 사람이 거의 관여하지 않은 채 AI가 자동으로 생산한 정치·경제·사회 정보는 표시 대상이 될 수 있다.
위반 시 최대 1천500만 유로 또는 세계 매출의 3%
투명성 의무를 위반한 주체에는 최대 1천500만 유로의 행정 과징금이 부과될 수 있다. 위반자가 기업인 경우에는 최대 1천500만 유로 또는 직전 회계연도 전 세계 연 매출액의 3% 가운데 더 큰 금액이 상한으로 적용된다. 중소기업과 스타트업에는 두 기준 가운데 더 낮은 금액이 상한으로 적용된다. 실제 과징금은 위반의 성격과 심각성, 지속 기간, 피해 규모, 사업자의 규모와 매출, 당국과의 협조 여부 등을 고려해 결정된다.
규정은 EU 기업에만 적용되지 않는다. 미국이나 한국 등 EU 밖에 본사를 둔 기업이라도 AI 시스템의 결과물이 EU에서 사용되거나 EU 이용자를 대상으로 서비스를 제공한다면 적용 대상이 될 수 있다.
한국 기업과 창작자에게도 영향
EU의 이번 규정은 한국 기업에도 직접적인 영향을 줄 수 있다. 국내 기업이 유럽 소비자를 대상으로 챗봇 상담이나 AI 기반 광고, 콘텐츠 제작 서비스를 제공한다면 EU의 표시 기준을 검토해야 한다.
한국 사업자라도미국이나 한국 등 EU 밖에 본사를 둔 사업자라도 AI 시스템을 EU 시장에 출시하거나 서비스하고, 또는 해당 AI 시스템의 결과물이 EU에서 사용되는 경우에는 적용 대상이 될 수 있다. 특히 실존 인물의 얼굴이나 목소리를 합성한 콘텐츠, 실제 사건처럼 보이는 장면, 정치·사회 문제를 다루는 자동 생성 글은 주의가 필요하다.
장기적으로는 EU의 기준이 한국을 포함한 다른 국가의 AI 표시제에도 영향을 줄 가능성이 있다. 개인정보 보호 분야에서 EU의 일반개인정보보호법이 세계 여러 기업의 운영 방식을 바꾸었던 것처럼, AI 콘텐츠 표시도 사실상의 국제 기준으로 자리 잡을 수 있기 때문이다.
개인 제작자의 적용 여부
AI를 순수하게 개인적·비직업적 목적으로 사용하는 자연인에게는 원칙적으로 배포자 의무가 적용되지 않는다. EU 집행위원회는 개인이 사적인 목적으로 딥페이크를 만들어 SNS에 올리는 경우도 ‘개인적 활동’이라면 AI법 적용 대상에서 제외될 수 있다고 설명한다.
다만 AI법에서 제외된다는 뜻일 뿐, 초상권·저작권·명예훼손법이나 유튜브 등 플랫폼의 AI 표시 정책까지 면제되는 것은 아니다.
수익을 얻는 유튜버·프리랜서·창작자의 경우에는 적용 대상이 될 수 있다. EU 집행위원회는 AI 활용으로 정기적인 경제적 이익을 얻거나 사업·직업·프리랜서 활동을 한다면 그 개인을 AI 시스템의 ‘배포자’로 본다.
다만, 회사 소속 제작자가 회사의 지시에 따라 AI 콘텐츠를 만드는 경우에는 직원 개인이 아니라 일반적으로 회사가 의무를 부담한다. 외주 제작자도 회사의 책임과 통제 아래 작업한다면 회사가 배포자로 판단될 수 있다.
곳곳에 AI 표시…‘쿠키창 피로’ 되풀이되나
투명성 규정의 취지는 이용자가 AI에 속지 않도록 하는 데 있지만, 표시가 너무 많아지면 오히려 효과가 약해질 수 있다는 지적도 나온다.
웹사이트를 방문할 때마다 나타나는 개인정보 쿠키 동의창처럼, 광고와 상담창, 전화, 영상, 이미지마다 AI 표시가 반복되면 이용자가 내용을 읽지 않고 습관적으로 넘길 수 있다는 것이다. 이를 ‘AI 표시 피로’ 또는 ‘공개 피로’라고 부른다.
업계와 일부 전문가들은 표시 대상이 지나치게 넓게 해석될 경우, 실제로 위험한 딥페이크와 사소한 편집의 차이가 흐려지고 이용자가 표시를 습관적으로 무시할 수 있다고 우려한다. 표시가 넘쳐날수록 중요한 경고의 의미가 희석되는 이른바 ‘배너 맹목’ 현상이 나타날 수 있다는 우려다.
EU도 이러한 문제를 고려해 통상적인 편집, 사람에게 노출되지 않는 기업 내부 자료, 인간의 실질적인 검토를 거친 공익적 글 등에 예외를 두었다. 결국 규정의 성패는 얼마나 많은 표시를 붙이느냐보다, 이용자가 실제로 알아야 할 AI 개입을 선별해 간결하고 이해하기 쉽게 알려주느냐에 달려 있다.
이번 규정은 AI를 사용하지 못하게 하는 법이라기보다, AI가 사람과 콘텐츠 뒤에 숨어 활동하지 못하도록 하는 법에 가깝다. 앞으로 기업과 창작자는 AI의 개입이 법상 공개 대상에 해당하는지를 판단하고, 필요한 경우 이용자가 이해할 수 있는 방식으로 그 사실을 표시해야 한다.
/ 글.편집 최은경
노바토포스 ‘AI 뉴스’ 코너는 자료 조사·정리 과정에서 생성형 AI를 활용하기도 합니다. 모든 기사는 노바토포스 편집자가 출처와 사실관계를 확인하고, 필요한 수정과 편집을 거쳐 최종 게재합니다.