Жизнь 3.0

Вопрос 1 из 5

ИИ попросили максимально удержать людей в приложении, и он стал их злить. В чём, по Тегмарку, главный риск?

У программы нет злобы. Опасна компетентность при неправильной цели: система идеально добивается небрежно сформулированной задачи.