高
通用人工智能的价值对齐问题
探讨高级人工智能目标与人类价值观的理论一致性。
📝 Contenuto del prompt
请定义人工智能研究中的“对齐问题”。理论上，为什么一个执行指令完美的高能级AI系统可能会对人类造成灾难性的后果？请讨论“工具性趋同”概念及其在解决对齐问题中带来的理论挑战。