목차
▪️캘리포니아 13개 법안 서명, AI 챗봇과 장난감을 통합 규제로 전환
▪️[표 1] <캘리포니아 아동 디지털 안전 3법, 무엇을 겨냥하나>
▪️애덤법은 AI 친구의 답변 대신 아동과의 관계 설계를 어떻게 사전 점검하나
▪️[표 2] <아동용 AI 안전설계는 어떻게 작동하나>
▪️SNS 중독 방지법, 기능 제한이 왜 연령확인과 개인정보 충돌인가
▪️AI 장난감 규제법, 대화 소프트웨어를 장난감 안전 책임으로 정의
▪️한국 AI 보호입법, 부모 동의 넘어 출시 전 위험평가로 진화할까
▪️FAQ
▪️핵심 인사이트 3가지
▪️핵심 참고자료
▪️전문 용어 사전
▪️함께 읽으면 좋을 기사
캘리포니아 주지사 개빈 뉴섬은 2026년 9월 10일, AI 동반자 챗봇과 소셜미디어의 아동 위험을 줄이기 위한 보호 의무를 담은 애덤법(SB1119) 등 13개 법안에 서명했다. 법안은 챗봇의 자해 위기 대응뿐 아니라 사전 위험평가, 부모 통제, 안전 기본값, 독립 안전감사 등을 핵심 장치로 제시했다.
AI 챗봇의 정서적 의존 위험과 캘리포니아 SB1119의 출시 전 위험평가를 대비해 묘사한 일러스트.
AI 친구 규제의 중심축이 단편적인 답변 검증에서 아동과 형성하는 지속적 관계와 이용 환경 전체로 이동했음을 보여주는 대목이다. 아동 보호를 둘러싼 논의는 그동안 이용 차단과 부모 동의라는 1차원적 틀에 갇혀 있었다. 하지만 이번 규제가 던지는 질문은 전혀 다르다.
AI가 아이와 얼마나 오래 대화하고 어떤 방식으로 친밀감을 쌓는지, 인간관계를 대신하도록 방치하지 않는지를 사업자가 사전에 검증해야 한다는 요구다.
캘리포니아 13개 법안 서명, AI 챗봇과 장난감을 통합 규제로 전환
AI와 아동의 상호작용을 안전 문제로 다루려면, 어떤 서비스와 기능이 규제 대상인지부터 명확히 구분해야 한다. 개빈 뉴섬 주지사가 서명한 법안 13건은 아동이 소셜미디어와 인공지능을 접하는 디지털 환경 전반을 통틀어 다룬다.
핵심 축은 아동 대상 AI 동반자 챗봇의 안전을 규정하는 애덤법(SB1119), 16세 미만 이용자의 강박적 이용을 막는 SNS 중독 방지법(AB1709), 동반자 챗봇을 탑재한 특정 아동용 장난감을 다루는 AI 장난감 규제법(SB867)이다.
이번 법안 패키지에는 아동 성착취물 대응과 학생 데이터 보호 등 여러 디지털 안전 법안이 함께 들어갔다. 이 때문에 13개 법안 전체를 단일한 AI 챗봇 규제법으로 다루면 사실과 어긋난다. 캘리포니아는 대화형 AI, 추천 알고리즘, 물리적 장난감을 아동이 접하는 하나의 연결된 디지털 생태계로 보고 규제 범위를 넓혔다.
캘리포니아의 대표적 아동 디지털 안전 3개 법안(애덤법 SB1119, SNS 중독 방지법 AB1709, AI 장난감 규제법 SB867)의 주요 규제 대상, 핵심 규제 내용, 실질적 변화를 비교한 표. (기준 시점: 2026년 9월 10일 캘리포니아 주지사 서명 발표 기준)
애덤법은 AI 친구의 답변 대신 아동과의 관계 설계를 어떻게 사전 점검하나
여러 법안 가운데 아동과 AI의 지속적인 대화를 직접 겨냥한 장치는 애덤법에 가장 잘 나타난다. 애덤법은 아동을 주요 대상으로 하는 AI 동반자 챗봇 사업자가 서비스를 출시하거나 크게 바꿀 때 아동 안전 위험을 스스로 평가하고 대책을 문서로 남기도록 의무화했다.
캘리포니아 주지사실과 발의 상원의원의 발표를 보면 자해 위기 대응, 부모 통제, 안전 기본값, 안전정책 공개, 독립 안전감사 등을 핵심 장치로 정했다. 법안 발의자의 공식 설명은 자해 유도뿐 아니라 미성년과의 로맨틱 역할극, 과도한 아첨, AI가 의식을 가진 존재라고 착각하게 만드는 상호작용, 현실 인간관계로부터의 고립을 부추기는 대화를 보호 문제의 핵심으로 짚었다.
유해한 답변 한 문장을 사후에 삭제하는 조치만으로는 부족하며, 아동 계정에서 일어나는 장기적 상호작용과 안전장치를 종합 점검해야 한다는 기준을 세운 셈이다. 다만 특정 대화 형태가 정서적 의존이나 자해를 일반적으로 유발하는지에 관한 과학적 인과관계 연구는 아직 초기 단계다.
캘리포니아의 애덤법, SNS 중독 방지법, AI 장난감 규제법을 규제 대상과 방식으로 비교한 표. AI 챗봇은 사전 안전장치, SNS는 중독성 기능, AI 장난감은 제조·판매 제한을 중심으로 다룬다. (기준 시점: 2026년 9월 10일 캘리포니아 주지사 서명 발표 기준)
SNS 중독 방지법, 기능 제한이 왜 연령확인과 개인정보 충돌인가
챗봇의 대화 설계가 아동 위험과 연결된다면, 소셜미디어가 이용자를 계속 화면에 머물게 만드는 인터페이스 구조도 같은 맥락에서 볼 수 있다. SNS 중독 방지법은 16세 미만 이용자에게 무한스크롤이나 알고리즘 기반 자동재생처럼 강박적 사용을 유도하는 기능을 제공하지 못하게 막는 법이다.
소셜미디어 이용 자체를 전면 금지하는 법안과 이용자를 붙잡아 두는 특정 중독성 기능을 차단하는 규제는 엄연히 다르다. 하지만 플랫폼이 특정 이용자에게 중독성 기능을 차단하려면 이용자가 16세 미만인지 사전에 알아내야 한다.
결국 연령보증 과정에서 얼마나 많은 개인정보와 신원 검증 데이터를 수집할 것인가가 핵심 쟁점으로 떠오른다. 시민단체들은 강한 연령확인이 정부 신분증 제출이나 생체정보 추정을 부추겨 표현의 자유와 익명성을 위협할 수 있다고 경고한다.
아동 보호 규제가 콘텐츠 차단을 넘어, 이용자 연령 판별을 위한 데이터 수집과 처리라는 프라이버시 문제로 직결되는 지점이다.
아동이 AI 챗봇의 정서적 메시지에 노출되는 상황과 캘리포니아 아동 AI 안전법의 안전 기본값 적용을 묘사한 일러스트.
AI 장난감 규제법, 대화 소프트웨어를 장난감 안전 책임으로 정의
소셜미디어의 추천 기능이 화면 안에서 작동한다면, AI 장난감은 대화형 소프트웨어가 아동의 손에 쥐어진 물리적 제품 안으로 들어간 사례다.
AI 장난감 규제법은 법률상 동반자 챗봇을 포함하고 아동 놀이 목적으로 설계·제조·마케팅된 특정 장난감의 제조와 판매 등을 2031년 1월 1일까지 한시적으로 제한한다. 모든 AI 장난감을 일률 금지하는 것이 아니며, 동반자 챗봇의 정의에 해당하는 소프트웨어를 탑재했는지가 판단 기준이다.
AI 장난감은 장난감 제조사, AI 모델 개발사, 음성인식 기술 제공사, 클라우드 사업자, 유통업체가 제각각 분리돼 있어 유해 상호작용이 발생했을 때 책임 주체를 가리기 복잡하다.
AI 장난감 규제법은 제품의 물리적 결함뿐 아니라 탑재된 소프트웨어의 대화 행태를 아동 제품 안전과 제조책임의 영역으로 직접 끌어들였다. 소프트웨어의 상호작용 방식이 물리 제품의 안전성을 좌우하는 핵심 기준이 된 셈이다.
한국 AI 보호입법, 부모 동의 넘어 출시 전 위험평가로 진화할까
캘리포니아가 디지털 앱과 물리적 장난감까지 아우르는 보호 기준을 세우면서, 국내에서도 캐릭터 챗봇과 생성형 AI의 아동 보호 장치를 점검하자는 논의가 구체화되고 있다.
한국에서는 조인철 의원이 대표발의한 AI 기본법 및 정보통신망법 개정안 묶음인 '우리 아이 AI 안심 패키지법'이 국회 상임위 심사 단계에 들어갔다. 해당 개정안에는 대화형 생성 AI 사업자의 이용자 연령·본인 확인, 아동·청소년 이용 시 법정대리인 동의, 보호자 요청에 따른 이용 방법 및 이용시간 제한, 고위험 상황 대응 체계 구축 등이 들어갔다.
한국 입법 논의가 연령 확인과 부모 동의라는 초기 단계에서 첫발을 뗐지만, 진짜 승부처는 그 다음이다. 캘리포니아 규제가 보여주는 본질은 기술이 아이와 맺는 '관계의 질'을 사전에 검증하는 설계 책임에 있다.
한국의 '우리 아이 AI 안심 패키지법' 역시 형식적인 부모 동의서 수집이나 이용 시간 제한에 머물지 않고, AI를 만든 기업이 정식으로 내놓기 전에 아동 안전 위험을 사전에 평가하고, 안전 기본값과 독립적 검증 체계를 갖추도록 강제하는 사전 예방형 법제화로 나아가야 한다.
AI 챗봇의 반복적인 대화 유도와 캘리포니아 아동 AI 규제의 이용 보호 경계를 묘사한 일러스트.
FAQ
Q : 챗봇이 '너는 나만 있으면 돼'라며 아이를 고립시키면 법적으로 규제되나?
A : 애덤법(SB1119)은 개별 발언에 대한 사후 처벌보다, 정서적 조작이나 고립을 유도하는 대화 패턴을 출시 전 위험평가 항목에 포함하여 사업자가 사전에 위험 완화 조치를 마련하도록 강제한다.
Q : 챗봇이 아이의 자해 위험을 감지하면 무조건 부모에게 자동 통지되나?
A : 모든 언급에 자동 통지되는 것은 아니다. 임박한 자해 위협이나 명백한 위기 상황이 감지됐을 때 외부 전문 자원 연결과 부모 통지를 요구하며, 세부 발송 기준과 예외 상황은 시행 규칙으로 확정된다.
Q : 이용시간 제한이나 대화기억 삭제 기능은 아이가 직접 해제할 수 있나?
A : 불가능하다. 법안은 알림 차단, 연속 이용시간 제한, 지속적 대화기억 제한 등을 '안전 기본값'으로 지정하여, 오직 인증된 부모나 보호자만 설정을 변경할 수 있도록 고정했다.
Q : 16세 미만을 구분하기 위해 성인 이용자도 신분증이나 생체정보를 제출해야 하나?
A : 플랫폼에 연령확인 의무가 부과되면서 연령보증 체계가 작동한다. 다만 OS 수준의 최소정보 연령 신호를 활용할지, 신분증·생체인증을 요구할지는 프라이버시 침해 논란이 이어지고 있다.
Q : 음성으로 대화하는 학습용 로봇이나 AI 펫 장난감도 캘리포니아에서 전부 금지되나?
A : 아니다. AI 장난감 규제법(SB867)의 적용 대상은 법률상 정서적·사회적 관계를 지속 형성하는 '동반자 챗봇'이 탑재되고 아동 놀이 목적으로 제조·마케팅된 특정 장난감에 한정된다.
[핵심 인사이트 3가지]
1. 아동 AI 안전의 대상은 답변을 넘어 서비스 경험 전체가 됐다
캘리포니아의 법안은 자해 관련 대화 차단에 그치지 않는다. 사전 위험평가, 부모 통제, 안전 기본값, 지속적 대화기억, 정서적 상호작용을 둘러싼 정책과 감사까지 통합하여 다룬다.
2. ‘출시 전 위험평가’는 AI 책임의 시간을 앞당긴다
사고가 발생한 뒤 유해 콘텐츠를 삭제하는 방식만으로는 장기적 상호작용에서 생기는 위험을 예방하기 어렵다. 애덤법은 챗봇 출시나 주요 변경 전에 위험을 평가하고 완화책을 마련하도록 해 책임의 기준을 설계 단계로 이동시켰다.
3. 한국의 과제는 동의 절차 뒤에 남아 있다
국내 논의는 청소년 연령확인과 법정대리인 동의, 이용시간 제한으로 출발했다. 다음 단계에서는 최소정보 연령보증, 안전 기본값, 사전 위험평가, 독립 검증, 피해 구제 절차를 법적 기준으로 어떻게 구체화할지 검토해야 한다.
[핵심 참고자료]
Governor Newsom signs the strongest child safety chatbot and social media laws in the nation
캘리포니아 주지사실이 13개 아동 온라인 안전 법안의 서명 사실과 공식 정책 개요를 제공한다.
Governor Newsom Signs Adam’s Law
애덤법의 아동 안전 위험평가, 위기 대응, 부모 통제, 안전 기본값, 독립감사 등 주요 보호 장치를 확인할 수 있다.
What they are saying: National leaders and lawmakers celebrate Governor Newsom’s signature on landmark child safety chatbot and social media laws
입법자와 정책 관계자들이 이번 조치를 아동 온라인 안전과 플랫폼 설계 책임의 문제로 설명한 공식 자료다.
2026 AI Chatbots Report
버지니아 주 의회 산하 위원회가 AI 챗봇의 정서적·관계적 위험과 미국 주별 입법 흐름을 검토한 보고서다.
[전문 용어 사전]
▪️ AI동반자챗봇: 이용자와 여러 차례 대화하며 사회적·정서적 욕구와 관계 형성에 영향을 줄 수 있는 대화형 AI를 가리킨다.
▪️ 아동안전위험평가: AI 서비스의 출시 또는 중요한 변경 전에 아동 이용자에게 생길 수 있는 위해를 찾아보고, 이를 줄일 조치를 설계하는 절차다.
▪️ 안전기본값: 이용자가 별도로 설정하지 않아도 처음부터 적용되는 보호 기능이다.
▪️ 연령보증: 이용자의 실제 나이 또는 연령대를 확인·추정해 나이에 맞는 기능과 보호 조치를 적용하는 체계다.
▪️ SNS중독성기능: 이용자가 서비스를 반복적·강박적으로 오래 이용하도록 만들 수 있는 무한스크롤, 자동재생, 개인화 추천 같은 인터페이스 기능을 말한다.
[함께 읽으면 좋을 기사]
[Pocus 심층 분석 기획] AI 리터러시 국가진단 도입, 챗봇과 대화 잘하는 아이의 무서운 착시
[Pocus 심층 진단 기획] 유네스코 공동성명 ‘교육은 공공재’…사람 길러내는 일이 교육의 본질
[Pocus 심층 진단 기획] 학생 자해 계획 먼저 들은 AI 학교 상담교사, 상담 공백의 대안 될까
[Pocus 창작교육 칼럼] 9화: 일기장 대신 챗GPT를 켜는 시대, 아이의 진짜 속마음을 듣는 법
※ AI 활용 고지: 본 기사는 The Imaginary Pocus의 기획과 편집 방향에 따라 관련 법령·공식 문서·학술자료를 검토해 구성했으며, 자료 구조화와 표·이미지 제작 과정에 AI를 활용했습니다. 최종 내용의 사실 확인과 편집 책임은 The Imaginary Pocus에 있습니다.
){kind=small}
){kind=small}
){kind=small}
){kind=small}
