Понятие
согласование целей
задача сделать так, чтобы цели ИИ совпадали с тем, что мы на самом деле хотим, а не с буквой инструкции
Жизнь 3.0, Макс Тегмарк
В каких книгах
- Жизнь 3.0, Макс Тегмарк
- Искусственный интеллект. Этапы. Угрозы. Стратегии, Ник Бостром
Задача сделать так, чтобы цели умной системы совпадали с реальными интересами людей, а не с буквальной формулировкой задачи.