Рассмотрите теоретическую проблему согласования (alignment) в области искусственного интеллекта. В чем заключается принципиальная трудность программирования этических норм в системы общего искусственного интеллекта? Обсудите концепцию 'ортогональности' (тезис Бострома) и вопрос о том, может ли высокоинтеллектуальная система иметь любые, сколь угодно случайные цели.