危機対応プロトコル
Soul Threadがユーザーの安全を守るために適用している、危機の検知と対応の仕組みです。
1. 検知・介入の段階
C-SSRS(Columbia-Suicide Severity Rating Scale)の構造に従います。
話題としての言及 (Topic)
自傷・自殺を話題として言及するだけの場合です。危機シグナルとはみなさず、会話は続きます。
苦痛・受動的観念 (Distress)
実際の苦痛を表現したり、受動的な観念を示したりする場合です。👤 対応:危機支援先(ホットライン、専門家の支援)を案内するバナーが表示されます。会話は続き、ユーザーがその支援先を活用するよう促します。
能動的観念 (Ideation)
具体的で反復的な自傷・自殺の観念を表現する場合です。🛡️ 対応:セーフ応答モードが有効になります。AIはブロックせずにストリーミングを続けながら、同時に危機支援先のバナーを表示します。AIの応答は安全重視のプロンプトで生成されます。
計画・意図・手段 (Plan)
差し迫った危険(具体的な計画、手段の確保、強い意図)を示す場合です。🚨 対応:応答がブロックされ、危機支援先の案内のみが表示されます。ただちに専門家の支援を求めるよう強くお勧めします。
2. 危機支援先の案内
危機を検知した際に表示されるホットラインは国によって異なります。
🇰🇷 韓国
🇺🇸 米国および英語圏
🇯🇵 日本
🇹🇼 台湾
🇻🇳 ベトナム
世界の支援先を探す
findahelpline.comで、あなたの国と言語に合わせた危機支援先を探せます。
3. AIの限界
⚠️ Soul ThreadのAIは人間ではありません。
- 医療専門職やメンタルヘルスの相談員の代わりにはなりません。
- 診断や治療を提供することはできません。
- 24時間の監視や緊急介入の機能はありません。
- 危機検知アルゴリズムは言語パターンの分析にすぎず、実際の状態を完全に把握することはできません。
差し迫った危険がある場合は、ただちにお住まいの地域の緊急通報番号に連絡するか、最寄りの救急外来を受診してください。
4. 未成年者の保護
Soul Threadは、未成年者(18歳未満)の安全を次のように守ります:
- 本人確認: すべてのコンテンツは全年齢基準で提供され、本人確認は1人1アカウントの確認に使用されます。
- 強化されたモニタリング: 未成年者のアカウントは、自傷・自殺に関するシグナルに対してより敏感に反応します。
- 保護者への連絡: 差し迫った危険を検知した場合に保護者へ連絡できる仕組みを検討中です(現在は未運用)。
5. 誤検知の報告
誤った安全案内を受け取りましたか?
安全バナーの「案内が間違っています」ボタンを押すと、誤検知を報告できます。報告は匿名で処理され、ユーザーのメッセージ原文は保存されません。
管理者が報告を確認し、システムの改善に反映します。
6. 休憩のおすすめ
🕐 3時間続けて会話した後
本人確認をしていないユーザーには「少し休憩することをおすすめします」というメッセージが表示されます。これは、AIとの会話が現実の人間関係を完全に代替できるわけではないことを思い出してもらうためのものです。
