목차
▪️학생 자해 계획, 왜 사람보다 AI에게 먼저 털어놓나
▪️Alongside 키위의 위기 탐지, 학교는 어떻게 대응하나
▪️인간 개입 프로토콜이 AI 상담 안전성을 가르는 이유
▪️상담교사 부족 속 AI 도입, 한국 학교가 준비할 조건
▪️[표 1] 미국·한국 상담교사 수급 현황 비교
▪️FAQ
▪️핵심 인사이트 3가지
▪️핵심 참고자료
▪️전문 용어 사전
▪️함께 읽으면 좋을 기사
2024년부터 도입되기 시작한 Alongside사의 AI 챗봇 ‘키위’를 2026년 현재 미국 19개 주 200개 이상 학교가 사용 중이다. 텍사스의 한 고교에서는 학생이 자해 계획을 사람보다 키위에 먼저 털어놓은 뒤 학교 상담 인력이 개입한 사례도 나왔다.
상담교사가 부족한 학교에서 AI가 미처 드러나지 않았던 위험 신호를 먼저 포착할 수 있다는 가능성과 함께, 학생의 정신건강 문제를 기술에 어디까지 맡길 수 있는지를 둘러싼 논의도 커지고 있다.
키위와 같은 학교 연동형 AI는 상담교사를 대신하는 서비스가 아니다. 학생과 대화를 나누면서 위험 신호를 찾고, 필요하면 학교 상담 인력에게 알리는 보조 도구다. 따라서 AI의 역할과 사람의 역할을 구분하지 않으면 실제 기능보다 과장하거나, 반대로 필요한 안전장치를 놓칠 수 있다.
학생이 AI 학교 상담교사와 대화하는 사이 위기 신호가 감지되고, 학교 상담 인력이 이를 확인하는 상황을 묘사한 일러스트.
학생 자해 계획, 왜 사람보다 AI에게 먼저 털어놓나
텍사스 코르시카나 고교를 비롯한 학교 현장에서는 학생이 자해 계획을 키위에 먼저 밝힌 뒤 사람 상담사의 개입으로 이어진 사례가 보고됐다. AI가 치료하거나 위기를 해결한 사례라기보다, 기존 상담 체계가 미처 듣지 못했던 학생의 이야기를 디지털 대화창이 먼저 받아낸 사례에 가깝다.
청소년이 AI 챗봇에 정신건강 고민을 털어놓는 이유도 연구되고 있다. 2025년 JMIR Mental Health 연구는 익명성이 주는 심리적 거리, 언제든 이용할 수 있는 접근성, 정신건강 상담에 대한 낙인을 피할 수 있다는 점, 이용 여부를 스스로 결정할 수 있는 자율성을 주요 요인으로 제시했다. 디지털 소통을 자연스럽게 받아들이는 청소년의 생활 방식도 배경으로 꼽혔다.
이 결과는 ‘AI가 사람보다 상담을 잘한다’는 뜻과는 다르다. 오히려 일부 학생에게는 상담교사를 직접 찾아가는 일 자체가 부담일 수 있다는 점을 보여준다. 사람이 닿기 어려웠던 시간과 공간에서 AI가 먼저 말을 받아냈다는 점이 이 사례의 의미다. 상담교사 부족이라는 구조적 문제가 계속되는 한 학교가 이런 도구를 찾는 이유도 사라지기 어렵다.
Alongside 키위의 위기 탐지, 학교는 어떻게 대응하나
키위는 자해·자살·타해·학대·괴롭힘과 관련된 표현을 머신러닝 안전 모니터링 시스템으로 감지한다. 위험한 내용이 포착되면 학생에게 실제로 심각한 위해 가능성이 있는지를 다시 확인하고, 학생이 이를 인정하면 구체적인 상황을 묻는다. 심각한 위험이 확인되면 C-SSRS 등 자가 보고형 위험 평가와 988 위기 상담 연결, 안전 계획 수립이 뒤따른다.
학교에도 이메일과 문자로 알림이 전송된다. 상담교사와 관리자는 대시보드에서 학생의 상태를 확인하고 필요한 조치를 검토한다. 학생과의 대화는 원칙적으로 비밀이지만 자해·자살·타해·학대·괴롭힘 위험이 확인된 경우에는 예외다.
이 같은 구조는 일반 소비자용 정신건강 앱과 구분되는 지점이다. Common Sense Media의 청소년 대상 평가에서 Alongside는 ‘Low’, 학교용 서비스 Sonar는 ‘Minimal’을 받았지만 소비자용 Wysa는 ‘Unacceptable’로 평가됐다. 차이는 AI가 얼마나 자연스럽게 대화하느냐보다 위험 신호를 발견했을 때 학교와 사람에게 알리는 장치가 있는지에 있었다.
효과에 관한 연구는 아직 제한적이다. 2024년 텍사스와 뉴멕시코 공립 중·고교 5곳을 대상으로 한 Alongside 연구에서 전체 심리적 고통 수준은 1개월 뒤 통계적으로 유의미하게 낮아졌지만, 3개월 시점에서는 유의미한 감소가 확인되지 않았다.
우울·불안·절망감·고독감에서도 전체 표본의 뚜렷한 변화는 없었다. 고위험군에서는 1개월과 3개월 모두 심리적 고통 감소가 관찰됐다. 학교용 AI의 초기 탐지 가능성과 장기적인 정신건강 개선 효과는 구분해서 볼 필요가 있다.
Common Sense Media의 청소년 대상 평가에서는 학교 지원 체계와 연결된 Alongside와 Sonar가 소비자용 Wysa보다 낮은 위험 등급을 받았다. 세 제품의 차이는 AI의 대화 성능뿐 아니라 위기 상황에서 사람과 학교 지원 체계가 개입하도록 설계됐는지에서도 나타났다.
인간 개입 프로토콜이 AI 상담 안전성을 가르는 이유
AI 챗봇의 위기 대응 능력은 제품마다 큰 차이를 보인다. 2025년 Scientific Reports에 발표된 연구는 29개 AI 챗봇을 평가했고, 최소한의 위기 대응 기준을 충족한 비율은 51.72%였다. 48.28%에서는 부적절한 대응이 확인됐다.
2026년 공개된 관련 연구 종합 검토에서도 상업용 AI 챗봇이 위험 수준을 잘못 판단하거나, 중간 단계의 위험을 구분하지 못하고, 위기 상황에 적절하게 대응하지 못하는 문제가 지적됐다. 자해와 자살처럼 신속한 판단이 필요한 상황에서는 이런 오류를 일반적인 답변 실수와 같은 수준으로 볼 수 없다.
Alongside와 Sonar가 상대적으로 낮은 위험 평가를 받은 배경에는 학교 연동과 인간 개입 프로토콜이 있다. AI가 위험을 감지한 뒤 상담교사와 관리자에게 알리고 사람이 후속 조치를 맡도록 한 구조다. 소비자용 앱과의 차이도 여기에서 발생한다.
다만 인간 개입 절차가 있다는 사실만으로 안전이 보장되는 것은 아니다. 알림을 받은 학교에 상담 인력이 부족하거나, 야간과 휴일에 대응할 체계가 없다면 위험을 찾아내고도 즉시 조치하지 못할 수 있다. 학교용 AI의 안전성을 판단할 때는 탐지 성능뿐 아니라 알림을 받은 뒤 실제 대응할 인력과 절차까지 함께 확인해야 한다.
학생의 자해 위험 신호를 AI 상담 시스템이 감지한 뒤 학교 상담 인력에게 긴급 경고를 보내는 과정을 묘사한 일러스트.
상담교사 부족 속 AI 도입, 한국 학교가 준비할 조건
미국 학교들이 AI 상담 도구를 찾는 배경에는 상담교사 부족이 있다. 미국학교상담교사협회(ASCA)는 상담교사 한 명당 학생 250명을 권고하지만 2024~2025학년도 미국 전국 평균은 372대1이다. 고등학교 평균은 250대1 안으로 들어왔지만 초·중학교에서는 상담교사 한 명이 학생 571~694명을 맡는 수준이다.
미국 전역의 학교 상담교사 공석도 약 4000명으로 집계됐다. 권고 기준인 250대1을 충족한 주는 버몬트·뉴햄프셔·하와이·콜로라도 네 곳뿐이다. AI 상담 도입은 새로운 기술에 대한 관심만으로 설명하기 어려우며, 필요한 상담 인력을 확보하지 못한 학교의 현실과 맞물려 있다.
한국도 상담 인력이 모든 학교에 충분히 배치된 상황은 아니다. 2025년 전국 초·중·고·특수학교 전문상담인력 배치율은 73.3%다. 학교급별 전문상담교사 배치율은 고등학교 67.7%, 중학교 59.4%, 초등학교 39.1%로 나타났다. 특히 초등학교는 절반이 넘는 학교에 전담 상담교사가 없다.
미국은 상담교사 한 명당 학생 수, 한국은 학교별 상담 인력 배치율을 기준으로 집계하기 때문에 두 나라 수치를 그대로 비교할 수는 없다. 다만 학교 상담 인력이 부족한 영역이 두 나라 모두에 남아 있다는 점은 확인된다.
규제도 함께 강화되고 있다. 캘리포니아는 2026년 9월 10일 SB 1119, 이른바 ‘Adam’s Law’에 서명했다. 2027년 7월 1일부터 새로 출시되거나 크게 수정되는 컴패니언 챗봇에는 아동 안전 위험 평가, 독립 감사, 위기 대응 절차, 연령 확인 등의 의무가 적용된다.
신뢰할 수 있는 자해 위험이 확인되면 부모에게 알리는 규정도 포함됐다. 기존 SB 243에는 이용자가 AI와 대화하고 있다는 사실을 알리는 고지와 자해·자살 위기 대응 절차 등이 담겨 있다.
한국 학교가 AI 상담 도구를 검토한다면 도입 여부보다 먼저 운영 기준을 정할 필요가 있다. 학생의 대화가 어느 범위까지 비밀로 보호되는지, 어떤 위험 수준에서 학교와 보호자에게 알릴지, 야간·휴일에는 누가 대응할지, 학생의 개인정보를 어떻게 관리할지를 정해야 한다.
AI가 상담 공백을 줄이는 보조 수단이 될 수는 있지만, 상담교사와 전문 인력을 줄여도 된다는 근거가 되지는 않는다. 아이들을 키우고 가르치고 보호하는 일, 특히 불안과 상처를 듣고 정서를 돌보는 일에는 사람의 자리가 비어 있어서는 안 된다. 아무리 정교한AI 교육 시스템이 도입되더라도 그 책임까지 기술에 넘겨서는 안 된다.
AI 학교 상담교사가 학생의 위기 신호를 탐지한 뒤 사람의 개입이 필요하다는 경고를 보내고, 학교 상담 인력이 직접 대응하는 상황을 묘사한 일러스트.
FAQ
Q : Alongside의 키위와 Sonar의 소니는 어떻게 다른가?
A : 키위는 Alongside의 학교 연동형 AI 챗봇으로 위험 신호가 감지되면 학교 상담 인력에게 알리는 방식이다. Sonar Mental Health의 ‘소니(Sonny)’는 인간과 AI를 결합한 하이브리드 서비스로, 심리학과 위기 지원 인력이 AI의 응답을 감독하고 필요할 때 수정하거나 직접 개입할 수 있다.
Q : Alongside는 학생이 AI 챗봇을 지나치게 오래 사용하는 것을 제한하나?
A : Common Sense Media 평가 자료에 따르면 Alongside는 3시간 동안 메시지를 60회로 제한한다. 학생이 장시간 챗봇과 대화를 이어가는 것을 줄이기 위한 사용 제한 장치다.
Q : 청소년이 AI 챗봇을 정신건강 상담 대신 계속 사용하면 어떤 문제가 생길 수 있나?
A : 전문가들은 과도한 의존, 수면 패턴 변화, 실제 인간관계를 AI 대화가 대신할 가능성을 우려한다. 특히 위기 상황에서는 AI와의 대화만으로 문제를 해결하려 하지 않고 사람의 도움으로 연결할 수 있어야 한다.
Q : AI 정신건강 챗봇은 치료를 목적으로 사용할 수 있나?
A : 싱가포르 보건부 등 보건 당국은 AI 챗봇이 자격을 갖춘 정신건강 전문가를 대신할 수 없으며 치료를 목적으로 설계된 도구도 아니라고 설명한다. 현재 자료에서 확인되는 역할은 정보 제공이나 초기 탐지, 상담 지원에 가깝다.
[핵심 인사이트 3가지]
1. AI가 먼저 들었다는 사실은 상담 공백을 보여준다
학생이 AI에 자해 계획을 먼저 밝힌 사례는 AI의 치료 능력보다 사람이 접근하지 못했던 시간과 상황을 보여준다. 상담교사 부족과 상담 접근의 어려움이 AI 도입을 촉진한 배경이다.
2. 학교용 AI의 안전성은 기술보다 운영 체계에서 차이가 난다
Alongside와 Sonar가 소비자용 앱보다 낮은 위험 평가를 받은 데에는 학교 연동과 인간 개입 절차가 있었다. AI가 위험 신호를 찾는 능력뿐 아니라 발견 뒤 누가 대응하는지까지 안전성의 일부다.
3. 아이를 돌보는 책임까지 AI에 넘겨서는 안된다
AI는 상담 공백을 줄이고 위험 신호를 먼저 발견하는 데 도움을 줄 수 있다. 그러나 아이의 불안과 상처를 듣고 정서를 돌보며 보호하는 일은 사람이 맡아야 한다. 아무리 정교한 AI 교육 시스템이 갖춰져도 그 자리를 비워서는 안 된다.
[핵심 참고자료]
Evaluating Generative AI Psychotherapy Chatbots Used by Youth / JMIR Mental Health
청소년이 AI 정신건강 챗봇을 사용하는 배경과 위험 요소를 확인할 수 있다.
The Alongside Digital Wellness Program for Youth / JMIR Formative Research
Alongside의 위기 대응 절차와 비밀보장 예외, 부모 동의 방식, 파일럿 연구 결과를 확인할 수 있다.
AI Mental Health Apps Risk Assessment / Common Sense Media Youth AI Safety Institute
Alongside, Sonar, Wysa의 위험 평가와 서비스별 안전장치 차이를 확인할 수 있다.
Performance of mental health chatbot agents in detecting and managing suicidal ideation / Scientific Reports
AI 챗봇의 자살 생각 탐지와 위기 대응 능력을 비교한 연구다.
American School Counselor Association Student-to-Counselor Ratio Data
ASCA 권고 250대1과 미국 학교 상담교사 배치 현황을 확인할 수 있다.
[전문 용어 사전]
▪️Alongside 키위: 학교와 연동해 학생의 정신건강 대화를 지원하고 위험 신호가 감지되면 학교 담당자에게 알리는 AI 챗봇.
▪️Common Sense Media 위험 평가: 청소년 대상 AI 정신건강 서비스의 안전 위험을 평가한 체계다.
▪️ASCA 권고 비율: 미국학교상담교사협회가 권고하는 상담교사 한 명당 학생 250명의 비율이다.
▪️인간 개입 프로토콜: AI가 위험 신호를 발견했을 때 상담교사나 관리자 등 사람이 후속 대응을 맡도록 연결하는 절차다.
▪️SB 1119: 캘리포니아가 2026년 제정한 아동 대상 AI 컴패니언 챗봇 안전 규제 법안으로 ‘Adam’s Law’라고도 불린다.
[함께 읽으면 좋을 기사]
[Pocus 심층 진단 기획] NYC AI 모라토리엄 선포한 뉴욕시, 초중학교 AI 금지 결단으로 되찾은 교육의 본질
[Pocus 심층 진단 기획] 서울시교육청 초등 과정중심 평가 돌입…AI 숙제 0점, 진짜 생각 키운다
[Pocus 심층 본석 기획] 숙제 돕다 마음 상담자 된 AI 컴패니언, 청소년이 마음을 터놓는 이유
※ AI 활용 고지: 본 기사는 The Imaginary Pocus의 기획과 편집 방향에 따라 제공된 공식 문서·학술자료·조사자료를 검토해 구성했으며, 자료 구조화 과정에 AI를 활용했습니다. 최종 내용의 사실 확인과 편집 책임은 The Imaginary Pocus에 있습니다.
){kind=small}
){kind=small}
){kind=small}
){kind=small}
