VIP 👤
🏠 Главная
Бенчмарки
📊 Все бенчмарки 🦖 Динозавр v1 🦖 Динозавр v2 ✅ Приложения To-Do List 🎨 Творческие свободные страницы 🎯 FSACB - Ультимативный показ 🌍 Бенчмарк перевода
Модели
🏆 Топ-10 моделей 🆓 Бесплатные модели 📋 Все модели ⚙️ Режимы Kilo Code
Ресурсы
💬 Библиотека промптов 📖 Глоссарий ИИ 🔗 Полезные ссылки 🔌 API и маршрутизаторы
Expert

Alignment and Corrigibility

#alignment #theory #ethics

Discuss the theoretical conflict between optimizing for a fixed objective and maintaining the ability for an operator to correct the AI.

Provide a rigorous theoretical analysis of the tension between instrumental convergence and corrigibility in advanced AI systems. Specifically, explain why an agent optimizing for a fixed utility function might resist shutdown, and propose a theoretical framework for modifying utility functions to incentivize corrigibility without causing instability in the agent's goal structure.