Anthropic Grant Program - AI impacts users’ wellbeing

• Impacto da IA no bem-estar dos usuários.
• Avaliações e benchmarks de wellbeing.
• Medição de riscos em interações com IA, incluindo:
  • apoio emocional/companhia;
  • crises de saúde mental;
  • harmful compliance;
  • overrefusal;
  • conversas multi-turn com escalada de risco e mudança de contexto.
• Aspectos metodológicos esperados:
  • validação com especialistas clínicos e de domínio;
  • validade interna e externa;
  • reprodutibilidade;
  • cobertura multimodal, regional e linguística, quando relevante.

• Empresas com fins lucrativos
• Startups
• ICTs

Centros de pesquisa (ICT), pesquisadores independentes, clínicos, psicólogos, metodologistas e especialistas em saúde mental interessados em avaliar impacto de IA no bem-estar

• Envolvimento de especialistas clínicos e em assuntos relacionados.
• Capacidade de desenvolver e publicar avaliações open-source.
• Trabalho independente da Anthropic

• Projetos devem propor avaliações/benchmarks rigorosos de wellbeing.
• Espera-se, entre outros:
  • definição clara do que será medido;
  • medição de harmful compliance e overrefusal;
  • casos com múltiplos níveis de severidade;
  • tarefas realistas, frequentemente multi-turn;
  • validação dos graders com especialistas humanos;
  • envolvimento de especialistas clínicos e de domínio;
  • confiabilidade e reprodutibilidade;
  • amostra sugerida de pelo menos 100 itens para evals complexos multi-turn e 1.000 para evals simples single-turn;
  • cobertura multimodal, regional e linguística quando relevante.

• US$ 5 milhões em grants (valor total do programa).
• Acesso aos modelos da Anthropic.
• Suporte técnico.
• Publicação/trabalho em projetos open-source de forma independente.
• Valor total identificado: US$ 5 milhões.

Não especificado

• Não há contrapartida financeira exigida.
• Os grantees trabalham de forma independente e publicam trabalhos como projetos open-source

• Lançamento do programa: 25/08/2026.
• Submissão de aplicações: até 21/09/2026.
• Notificação dos selecionados para proposta completa: até 05/10/2026.
• Etapas identificadas:

1. Inscrição via application form.
2. Seleção de candidatos.
3. Submissão de full proposal pelos selecionados.

• Financiamento para pesquisa independente sobre o impacto da IA no bem-estar dos usuários.
• Desenvolvimento de avaliações e benchmarks open-source.
• Construção de métodos/evals para medir impacto de modelos de IA no bem-estar.

Formulário de inscrição (application form). Orientações sobre construção de avaliações rigorosas de wellbeing também devem ser consultadas