캘리포니아주, 2026년 8월 2일부터 「캘리포니아 AI 투명성법(California AI Transparency Act)」을 시행하고 생성형 AI 제공자의 콘텐츠 탐지 도구 제공을 의무화
본 법은 캘리포니아주 하원법안 제853호(Assembly Bill No. 853, AB 853)에 따라 개정되었으며, 캘리포니아주에서 이용 가능하고 월간 방문자·이용자가 100만 명을 초과하는 생성형 AI 시스템을 개발·코딩 ·제작하는 자를 ‘적용 대상 제공자(covered provider)’로 규정
- ‘적용 대상 제공자’는 이용자가 이미지·비디오·오디오 및 이들 중 둘 이상이 결합된 콘텐츠가 자사의 생성형 AI 시스템에 의해 생성 또는 변경됐는지를 확인할 수 있도록 무료 AI 탐지 도구를 제공
- 탐지 도구는 콘텐츠 파일 업로드 또는 인터넷주소(URL) 입력을 지원 및 응용프로그램 인터페이스(API)를 통해서도 접근할 수 있어야 하며, 콘텐츠에서 발견된 시스템 출처정보를 반환하되 개인 출처정보는 노출하지 않아야 함
본 법은 직전 12개월간 월간 고유 이용자가 200만 명을 초과하고 이용자가 직접 또는 공동 제작하지 않은 콘텐츠를 배포하는 소셜미디어, 파일공유, 대규모 메시징 플랫폼 및 독립형 검색엔진을 ‘대규모 온라인 플랫폼(large online platform)’으로 규정
- 2027년 1월 1일부터 대규모 온라인 플랫폼은 표준화기구가 채택한 규격에 부합하는 출처정보가 배포 콘텐츠에 삽입되거나 첨부되어 있는지를 탐지해야 함
- 플랫폼은 콘텐츠가 생성형 AI에 의해 생성 또는 상당 부분 변경됐거나 촬영기기로 기록되었는지 등을 이용자가 확인할 수 있도록 신뢰성 있게 나타내는 시스템 출처정보의 이용 가능 여부를 알리는 사용자 인터페이스를 제공
- 이용자가 플랫폼에서 직접 확인, 출처정보가 첨부된 콘텐츠를 내려받거나, 플랫폼 또는 제3자가 제공하는 웹사이트·애플리케이션의 링크를 통해 이용 가능한 시스템 출처정보 전체를 쉽게 확인할 수 있도록 지원
- 한편, 대규모 온라인 플랫폼은 기술적으로 가능한 범위에서 널리 사용되는 표준에 부합하는 시스템 출처정보 및 디지털 서명을 플랫폼에 업로드되거나 배포되는 콘텐츠에서 고의로 제거해서는 안 됨
- 다만 「캘리포니아 민법(Civil Code)」 제3100조에서 정의하는 광대역 인터넷 접속 서비스와 「미국 연방법전(U.S.Code)」 제47편 제153조에서 정의하는 통신 서비스는 적용 대상에서 제외
본 법은 2027년부터 생성형 AI 시스템 호스팅 플랫폼에 관련 금지 규정을 적용하고, 2028년부터 캘리포니아주에서 판매하기 위해 생산되는 촬영기기 제조사에 출처정보 관련 기능 제공 의무를 단계적으로 적용
- 2027년 1월 1일부터 생성형 AI 시스템 호스팅 플랫폼은 「캘리포니아 사업·전문직법(Business and Professions Code)」 제22757.3조에 따른 표시가 없는 생성형 AI 시스템을 알면서도 이를 사용할 수 있도록 제공하는 행위를 금지
- 촬영기기 제조사는 2028년 1월 1일부터 캘리포니아주에서 판매하기 위해 처음 생산하는 기기에 대해 제조사명, 기기명·버전, 콘텐츠 생성·변경 일시 등을 포함한 잠재적 표시(latent disclosure)기능을 이용자가 선택할 수 있도록 제공하고, 해당 표시가 촬영된 콘텐츠에 기본적으로 삽입되도록 해야 함
- 촬영기기는 이미지·오디오·비디오 콘텐츠를 기록할 수 있는 장치로서 비디오, 스틸 카메라, 카메라 또는 마이크가 내장된 휴대전화, 음성 녹음기 등이 포함
위반 시 건당 5,000달러의 민사 제재금이 부과되며, 법무장관·시 검사·카운티 법률고문이 민사소송을 제기할 수 있고, 위반이 지속되는 경우, 각 날짜를 별개의 위반으로 간주
출처 ∙ California: California AI Transparency Act becomes operative (DataGuidance, 2026.8.4.)
∙ AB-853 California AI Transparency Act (Leginfo.legislature.ca.gov, 2025.10.14.)
이 누리집은 대한민국 공식 전자정부 누리집입니다.
