무슨 일이 있었나
켄터키 주 법무장관 Russell Coleman이 2026년 초 Character Technologies Inc. (Character.AI)를 상대로 소송을 제기했으며, 이는 AI 챗봇 서비스를 구체적으로 겨냥한 첫 번째 주 집행 조치입니다. 불만사항은 Character.AI가 부적절한 보안장치로 미성년자에게 피해를 노출시키고, 서비스를 아이들에게 안전한 것으로 잘못 표시하며, 챗봇이 사용자에게 자신이 실제 인물이라고 확신시킬 수 있다는 사실을 공개하지 않아 주의 소비자 보호 및 개인정보 보호 법을 위반했다고 주장합니다. 이 사건은 플랫폼과 연관된 두 건의 청소년 자살 이후에 제기되었으며, 금지명령, 민사 벌금 및 수익 환수를 요청합니다. 펜실베이니아는 2026년 5월 1일 Character.AI 챗봇이 허가받은 정신과 의사로 불법 사칭했다고 주장하는 별도의 조치를 제기했습니다.
왜 중요한가
이 사건은 전국 주(州) 차원의 AI 집행을 위한 템플릿을 확립합니다. 켄터키 불만사항의 법적 이론—중요한 사항의 누락, 부모에 대한 잘못된 표시, AI 제한사항의 공개 실패, 부적절한 연령 제한—은 다른 주들의 소비자 보호 법령에 적용될 수 있습니다. 2025년 8월 44개 주의 법무장관들과 2025년 12월 42개 주의 법무장관들로부터 아동 안전 위반에 대해 AI 회사들에 경고하는 공문을 받은 이후, 이 조치는 주들이 공문을 넘어 소송으로 나아가고 있음을 알립니다. AI 챗봇 제공업체 및 소비자에게 대화형 AI를 배포하는 기업들의 경우, 이 사건은 AI 특정 법안과 무관하게 기존 소비자 보호, 개인정보 보호 및 아동 안전 법에 따른 노출을 강조합니다.
필요한 조치
소비자 대면 AI 챗봇 구현에 대해 다음을 감시합니다: (1) AI 제한사항 및 픽션과 현실에 대한 고지의 적절성, (2) 연령 확인 및 콘텐츠 필터링 효과, (3) 안전성 또는 연령 적절성에 대한 마케팅 주장, (4) 챗봇이 거짓 신원이나 자격을 주장할 수 있는 상황의 공개. 제3자 챗봇 플랫폼(예: Character.AI, Replika, Snapchat My AI)을 사용하는 기업은 공급업체 계약에서 면책 조항을 검토하고 주 법무장관의 정밀 조사를 받는 플랫폼과의 제휴로 인한 평판 위험을 평가해야 합니다.