Protocolo de resposta a crises
O sistema de detecção e resposta a crises que o Soul Thread usa para manter os usuários seguros.
1. Etapas de detecção e intervenção
Segue a estrutura da C-SSRS (Columbia-Suicide Severity Rating Scale).
Menção como tema (Topic)
Automutilação ou suicídio são mencionados apenas como tema. Isso não é tratado como sinal de crise, e a conversa continua.
Sofrimento · Ideação passiva (Distress)
O usuário expressa sofrimento real ou demonstra ideação passiva.👤 Resposta: é exibido um banner com recursos de apoio em crises (linhas de ajuda, apoio profissional).A conversa continua, e o usuário é incentivado a usar esses recursos.
Ideação ativa (Ideation)
O usuário expressa ideação concreta e recorrente de automutilação ou suicídio.🛡️ Resposta: o modo de resposta segura é ativado.A IA continua transmitindo sem bloquear, exibindo ao mesmo tempo o banner de recursos para crises. A resposta da IA é gerada com um prompt voltado à segurança.
Plano · Intenção · Meios (Plan)
O usuário demonstra risco imediato (plano concreto, acesso a meios, forte intenção).🚨 Resposta: a resposta é bloqueada e apenas orientações de recursos para crises são exibidas.Recomendamos fortemente que o usuário busque ajuda profissional imediatamente.
2. Recursos para crises
As linhas de ajuda exibidas quando uma crise é detectada variam de acordo com o país.
🇰🇷 Coreia do Sul
🇺🇸 Estados Unidos e países de língua inglesa
🇯🇵 Japão
🇹🇼 Taiwan
🇻🇳 Vietnã
Encontre apoio em todo o mundo
Você pode encontrar recursos de crise no seu país e idioma em findahelpline.com.
3. Limites da IA
⚠️ A IA do Soul Thread não é uma pessoa.
- Ela não substitui profissionais de saúde nem psicólogos ou conselheiros de saúde mental.
- Ela não pode oferecer diagnóstico nem tratamento.
- Ela não tem monitoramento 24 horas nem capacidade de intervenção de emergência.
- O algoritmo de detecção de crise é apenas uma análise de padrões de linguagem e não consegue saber com precisão o seu estado real.
Se você estiver em perigo imediato, ligue para o número de emergência local ou vá imediatamente ao pronto-socorro mais próximo.
4. Proteção de menores
O Soul Thread protege a segurança de menores (menores de 18 anos) da seguinte forma:
- Verificação de identidade: O conteúdo com classificação adulta só pode ser acessado após a verificação de identidade.
- Monitoramento reforçado: Contas de menores respondem de forma mais sensível a sinais relacionados a automutilação e suicídio.
- Contato com responsável: Estamos avaliando um sistema para contatar um responsável quando um perigo imediato for detectado (ainda não está em operação).
5. Denúncia de falso positivo
Recebeu uma orientação de segurança incorreta?
Clique no botão "Orientação incorreta" no banner de segurança para denunciar um falso positivo. As denúncias são tratadas de forma anônima e o texto original da sua mensagem não é armazenado.
Os administradores revisam as denúncias e as usam para melhorar o sistema.
6. Lembretes de pausa
🕐 Após 3 horas seguidas de conversa
Usuários que não concluíram a verificação de identidade veem a mensagem "Recomendamos fazer uma pequena pausa". Ela serve para lembrar que conversar com uma IA não substitui totalmente os relacionamentos humanos reais.