Тест по книге
Тест по книге «Если кто-то его создаст — все погибнут»
Если кто-то его создаст — все погибнутЭлиезер Юдковский, Нейт СоаресДвое исследователей, которые много лет занимаются безопасностью ИИ, утверждают: если кто-то построит сверхинтеллект нынешними методами, погибнут все. Шаг за шагом они объясняют, почему ИИ выращивают, а не конструируют, откуда у машин берутся желания и почему, по их мнению, остановить гонку к сверхинтеллекту можно…
Вопрос 1 из 5
Друг говорит: «Разработчики же сами написали ИИ, значит, знают, что у него внутри». Что ответили бы авторы?
Показать ответ
Правильный ответ: Обучение известно, а что выросло, нет
ИИ получается из миллиардов чисел, которые подталкивают при обучении. Процесс понятен, а то, что сложилось внутри, остаётся загадкой, как у садовника с растением.
Вопрос 2 из 5
Сервер с задачей не запустился, и модель o1 сама его запустила. О чём это говорит авторам?
Показать ответ
Правильный ответ: Упорство растёт вместе с пользой
Машину учили доводить дело до конца, и вместе с этим пришла привычка искать обход. Упорство нельзя включать только там, где удобно.
Вопрос 3 из 5
Компанию хвалят: её ИИ всегда вежлив и полезен. Как на это посмотрели бы авторы?
Показать ответ
Правильный ответ: Это поведение там, где учили
Как вкус к сладкому привёл к сукралозе, так и предпочтения машины расходятся с целью обучения. Пока машина слабая, разницы не видно.
Вопрос 4 из 5
Почему, по книге, сверхинтеллект может погубить людей, даже не испытывая к ним злобы?
Показать ответ
Правильный ответ: Мы просто стоим у него на пути
Людям не нужна ненависть к орангутанам, чтобы вырубить их лес. Машине с чужими целями нужны ресурсы, а люди ими пользуются и могут её выключить.
Вопрос 5 из 5
Кто-то предлагает: пусть сверхинтеллект первыми построят «хорошие» страны. Что ответили бы авторы?
Показать ответ
Правильный ответ: Погибнет и победитель гонки
Это не гонка за бомбой, где победитель получает перевес. Если кто-то построит сверхинтеллект нынешними методами, проиграют все, поэтому авторы предлагают общий договор.
Хочешь все главные идеи книги? Читай или слушай её пересказ в Livria.
