Avançado
Alinhamento de Valores em IA Generativa
Estruture um framework de avaliação de viés moral em LLMs.
📝 محتوى الأمر
Você é um especialista em ética de IA e alinhamento de máquinas. Desenvolva um framework abrangente para avaliar o alinhamento moral de um Modelo de Linguagem Grande (LLM) destinado ao setor jurídico. O framework deve abordar: 1) Como quantificar e mitigar vieses de gênero e raciais em resumos jurisprudenciais; 2) A tensão entre a neutralidade do modelo e a prevenção de danos (harm avoidance) ao gerar pareceres; 3) Estratégias de 'Constitutional AI' para guiar o comportamento do modelo através de princípios auto-definidos. Explique como este framework seria validado empiricamente.