어려움
인공지능 가치 정렬(Value Alignment) 문제 해결 방안 논의
강화학습 AI의 목적 함수가 인간의 윤리적 가치와 충돌할 때 발생하는 문제의 심층적 분석 및 해결책 제시
📝 Promptens innehåll
자율주행차 AI가 개발 중인 상황을 가정합니다. 이 AI는 승객의 안전을 최우선 목적으로 설정되어 있으나, 이로 인해 보행자의 안전을 침해하는 딜레마 상황(Dilemma)에 직면할 수 있습니다. 1) 공리주의적 관점과 의무론적 관점에서 각각 AI가 취해야 할 행동의 정당성을 분석하고, 2) 기술적으로 이러한 윤리적 판단을 알고리즘에 통합하기 위한 '역설계된 가치 정렬(Inverse Reinforcement Learning)' 접근법의 가능성과 한계를 논하십시오. 또한, 법적 책임 소재가 모호해질 경우 사회적 합의를 도출하기 위한 거버넌스 구조를 제안하십시오.