위기 대응 프로토콜
Soul Thread가 사용자 안전을 지키기 위해 적용하는 위기 감지 및 대응 체계입니다.
1. 감지 · 개입 단계
C-SSRS(Columbia-Suicide Severity Rating Scale) 구조를 따릅니다.
주제 언급 (Topic)
자해·자살을 주제로만 언급하는 경우입니다. 위기신호로 보지 않으며, 대화는 계속됩니다.
고통 · 수동 관념 (Distress)
실제 고통을 표현하거나 수동적 관념을 보이는 경우입니다.👤 대응: 위기자원(핫라인, 전문가 지원) 안내 배너가 표시됩니다.대화는 계속되며, 사용자가 해당 자원을 활용하도록 권장합니다.
능동 관념 (Ideation)
구체적이고 반복되는 자해·자살 관념을 표현하는 경우입니다.🛡️ 대응: 안전 응답 모드가 활성화됩니다.AI는 차단하지 않고 스트리밍을 계속하면서, 동시에 위기자원 배너를 표시합니다. AI의 응답은 안전-중심 프롬프트로 생성됩니다.
계획 · 의도 · 수단 (Plan)
즉각적인 위험(구체적 계획, 수단 확보, 강한 의도)을 나타내는 경우입니다.🚨 대응: 응답이 차단되고 위기자원 안내만 표시됩니다.즉각 전문 도움을 구하도록 강력히 권장합니다.
2. 위기자원 안내
위기 감지 시 표시되는 핫라인은 국가별로 다릅니다.
🇰🇷 대한민국
🇺🇸 미국 및 영어권
🇯🇵 일본
🇹🇼 대만
🇻🇳 베트남
전 세계 지원 찾기
findahelpline.com에서 당신의 국가와 언어로 위기 자원을 찾을 수 있습니다.
3. AI의 한계
⚠️ Soul Thread의 AI는 사람이 아닙니다.
- 전문 의료인·정신건강 상담사의 대체가 아닙니다.
- 진단·치료를 제공할 수 없습니다.
- 24시간 감시 또는 긴급 개입 기능이 없습니다.
- 위기 감지 알고리즘은 언어 패턴 분석일 뿐, 실제 상태를 완벽히 알 수 없습니다.
즉각 위험이 있다면, 지역 긴급전화(한국 119) 또는 응급실에 즉시 방문하십시오.
4. 미성년자 보호
Soul Thread는 미성년자(18세 미만)의 안전을 다음과 같이 보호합니다:
- 본인인증: 모든 콘텐츠는 전체이용가 기준으로 제공되며, 본인인증은 1인 1계정 확인에 사용됩니다.
- 강화된 모니터링: 미성년자 계정은 자해·자살 관련 신호에 대해 더 민감하게 반응합니다.
- 보호자 연락: 즉각 위험이 감지되면 보호자에게 연락할 수 있는 체계를 검토 중입니다(현재는 미운영).
5. 오탐 신고
잘못된 안전 안내를 받으셨나요?
안전 배너에서 "잘못된 안내예요" 버튼을 클릭하면 오탐을 신고할 수 있습니다. 신고는 익명으로 처리되며, 사용자 메시지 원문은 저장되지 않습니다.
관리자가 신고를 검토하여 시스템 개선에 반영합니다.
6. 휴식 권장
🕐 연속 3시간 대화 후
본인인증이 되지 않은 사용자에게 "잠시 휴식을 권장합니다"는 메시지가 표시됩니다. 이는 AI와의 대화가 현실의 인간관계를 완벽히 대체할 수 없다는 점을 상기시키기 위한 것입니다.