개인정보 보호위원회

캘리포니아: ‘아동을 위한 윤리적 AI 개발 법안’ 주 하원 통과

캘리포니아주 LEAD for Kids 법안은 아동 대상 AI 시스템에 대한 개인정보 활용을 제한하고, 개발자 및 배포자에게 연령별 동의 요건과 보호 조치를 부과

-2025년 6월, 미국 캘리포니아주 의회는 ‘아동을 위한 윤리적 AI 개발법(Leading Ethical AI Development for Kids Act, LEAD for Kids Act)’을 통과시켜, 아동을 대상으로 하는 AI 시스템의 개인정보 활용을 규제함.

-이 법은 AI 시스템의 개발자 및 배포자에게 아동 개인정보를 활용한 학습이나 미세조정에 앞서 연령에 따른 동의를 의무화함. 13세 미만 아동의 경우 보호자의 동의가 필요하며, 13세 이상 16세 미만의 경우 본인의 동의가 요구됨.

-또한, ‘커버드 제품(Covered Product)’*에 해당하는 AI 시스템은 설계·개발 단계에서 아동 사용 가능성을 사전에 차단해야 하며, 이를 위반할 경우 민사 책임이 부과됨.

* 커버드 제품: 정서 개입, 생체정보 수집, 정서 상태 분석, 사회적 점수 생성, 무단 얼굴 이미지 수집 등 고위험 AI 시스템 -법안은 또한 해당 제품이 아동용으로 명시되지 않았더라도, 개발자 및 배포자는 아동이 접근하거나 사용할 가능성을 고려해 합리적인 예방 조치를 취해야 할 의무도 부과함.

-이와 함께 제품의 위험 등급을 평가하고, 목적·작동 방식·위험도 등 관련 정보를 대중에 공개하는 ‘AI 영향 평가 라벨링 제도’를 도입하여 투명성을 강화함.

-개발자 및 배포자는 아동의 개인정보를 처리할 때 개인정보 처리에 관한 제3자와의 명시적 계약 체결, 아동 보호를 고려한 제품 설계, 배포 전·후 위험성 평가, 외부 감사 등의 절차를 이행해야 하며, 위반 시 캘리포니아주 법무장관에 의해 민사 벌금이 부과될 수 있음.

-또한, 내부 고발자 보호 조항도 포함되어 위반 사실을 신고한 직원에 대한 보복 행위를 금지함.

-이 법은 아동의 개인정보 보호를 기반으로 인공지능 시스템의 책임 있는 설계 및 사용을 유도하며, 향후 유사 입법의 기준이 될 가능성이 있음.

출처: AB-1064 Leading Ethical AI Development (LEAD) for Kids Act. (California Legislative Information, 2025.06.02.)

       California: Bill for Ethical AI for Kids Act passes Assembly (Dataguidance, 2025.06.05.)