advanced
O Problema do Alinhamento em IA
Discussão teórica sobre as dificuldades de alinhar objetivos de IA com valores humanos.
📝 プロンプトの内容
Defina o 'problema do alinhamento' no contexto da inteligência artificial geral (AGI). Explique o desafio de especificar objetivos para uma superinteligência de forma que ela não cause danos colaterais catastróficos ao tentar maximizar sua função de recompensa. Utilize a fábula teórica do 'maximizador de clipes' para ilustrar como a otimização instrumental pode divergir dos valores humanos intrínsecos, mesmo sem malícia por parte da máquina.