Главные идеи книги
2084 и революция ИИ. Как искусственный интеллект влияет на наше будущее
Минутной записи твоего голоса хватит, чтобы машина позвонила родным от твоего имени. Оксфордский математик Джон Леннокс отделяет правду об ИИ от шумихи вокруг него, показывает опасности, которые уже рядом, от дипфейков до тотальной слежки, и задаёт вопрос, на который технологии ответить не могут: чего стоит человек. Его ответ христианский, и он отстаивает его открыто.
Кому подойдёт
Для тех, кто пользуется ChatGPT и гадает, умеет ли этот чат-бот думать по-настоящему. Для родителей, которых тревожит, что технологии делают с детьми. Для верующих и скептиков, которым интересно послушать, как математик-христианин спорит об ИИ с Харари.
Нужно обращаться с людьми как с людьми, а не как с машинами, и с машинами как с машинами, а не как с людьми.
От 1984 к 2084
В 1962 году студент-математик из Кембриджа запустил простую программу на EDSAC 2, одном из первых компьютеров. Когда он сказал наставнику, что хотел бы заняться вычислительной техникой, тот ответил, что у неё нет будущего. Этим студентом был Джон Леннокс.
Спустя шестьдесят лет Леннокс, оксфордский математик и философ науки, пишет о революции, мимо которой когда-то прошёл. Название книги отсылает к роману Оруэлла «1984». Как сформулировал Нил Постман, Оруэлл боялся, что нас погубит то, что мы ненавидим, а Хаксли боялся, что нас погубит то, что мы любим. С приходом ИИ, считает Леннокс, сбываются оба страха.
Он спрашивает, что на деле умеет ИИ, какими опасностями грозит уже сейчас и чего стоит человек, когда машины его превосходят. За всем этим стоят вопросы Канта: что я могу знать, на что могу надеяться, что я должен делать. Леннокс отвечает на них как христианин и не скрывает этого.
Машина отвечает, не понимая вопроса
Сегодня существует только узкий ИИ: программа, которая решает одну задачу, требующую от человека ума, например играет в го. В её основе лежит машинное обучение: оно находит закономерности в огромных массивах данных и строит по ним прогнозы. Для Леннокса это имитация интеллекта, а не мышление.
Разницу объясняет мысленный эксперимент философа Джона Сёрла под названием «китайская комната». Человек, не знающий китайского, сидит среди коробок с иероглифами и держит в руках книгу правил. Следуя правилам, он верно отвечает на вопросы по-китайски, но не понимает ни слова. У компьютера, утверждает Сёрл, нет ничего, чего не было бы у этого человека.
ChatGPT подбирает самые вероятные следующие слова и может выдавать уверенную чепуху: один чат-бот, которого попросили написать об инфляции, сослался на пять несуществующих книг. Даже галицин, антибиотик, который назвали открытием ИИ, появился благодаря людям: именно они поставили задачу и подобрали данные, объясняла руководитель команды Регина Барзилай.
Ключ к пониманию этой разницы Леннокс находит у К. С. Льюиса: стул плотник делает, а ребёнок у него рождается. Машину делают, а не рождают.
Об авторе
Джон Леннокс, математик и философ науки из Оксфордского университета, христианский апологет. Много лет публично спорит с учёными-атеистами о науке и Боге.
Все книги автора: Джон Леннокс
Тест по книге «2084 и революция ИИ. Как искусственный интеллект влияет на наше будущее»
Понятия из книги
- Иисус
- Кант
- узкий ИИ
- машинное обучение
- Барзилай
- Льюис
- дипфейк
- Солженицын
- homo deus
- Пикард
- EDSAC: Один из первых компьютеров с хранимой программой, построенный в Кембриджском университете. Первую программу EDSAC выполнил в 1949 году, EDSAC 2 появился в 1958-м.
- Оруэлл: Джордж Оруэлл, английский писатель, автор антиутопии «1984» (1949) о государстве, которое постоянно следит за гражданами.
- Постман: Нил Постман, американский исследователь медиа, автор книг «Развлекаемся до смерти» и «Технополия».
- Хаксли: Олдос Хаксли, английский писатель, автор антиутопии «О дивный новый мир» (1931).
- Сёрл: Джон Сёрл, американский философ из Беркли, автор мысленного эксперимента «китайская комната».
- китайская комната: Мысленный эксперимент Сёрла: человек, следуя правилам обращения с китайскими иероглифами, даёт верные ответы, не понимая китайского. Эксперимент показывает, что выполнять программу не значит понимать.
- ChatGPT: Чат-бот компании OpenAI на основе большой языковой модели, которая предсказывает самое вероятное продолжение текста.
- галицин: Антибиотик, найденный в 2019 году в MIT с помощью системы глубокого обучения; убивает многие устойчивые к лекарствам бактерии. Назван в честь компьютера HAL из фильма «Космическая одиссея 2001 года».
- Крукс: Дэнни Крукс, профессор компьютерной инженерии Королевского университета Белфаста.
- система социального кредита: Набор государственных и корпоративных программ в Китае, которые оценивают благонадёжность компаний и граждан и поощряют или наказывают их по этой оценке.
- MERICS: Институт китаеведения имени Меркатора, исследовательский центр в Берлине. В его докладе 2022 года описано, как система социального кредита работает на деле.
- Свободный университет Берлина: Один из крупнейших университетов Берлина. Его исследователи опросили 2200 жителей Китая о системе социального кредита.
- McAfee: Американская компания, которая занимается кибербезопасностью.
- трансгуманизм: Движение, которое стремится коренным образом улучшить человека с помощью технологий: победить старение и сильно расширить умственные, физические и психологические возможности.
- Харари: Юваль Ной Харари, израильский историк, автор книг «Sapiens» и «Homo Deus».
- Мариани: Жан Мариани, французский нейробиолог, руководит институтом, который изучает долголетие.
- Тритш: Даниэль Тритш, французский нейробиолог, бывший содиректор нейробиологической лаборатории.
- крионика: Заморозка тела или мозга после смерти в надежде, что наука будущего сможет их оживить.
- аффективные вычисления: Область исследований, которая создаёт компьютеры, способные распознавать человеческие эмоции и откликаться на них. Её основала Розалинд Пикард.
- образ Божий: Библейское учение (Бытие 1:27) о том, что человек создан по образу Бога. Для Леннокса это основа достоинства каждого человека.
Похожие книги
- Почему мир не может договориться. Теория, объясняющая все политические споры, Томас Соуэлл
- Лягушка под языком. Еврейская народная медицина в Восточной Европе, Марек Тушевицкий
- Взломать всё. Как сильные мира сего используют уязвимости наших систем в своих интересах, Брюс Шнайер
- Жизнь на нашей планете. Моё свидетельство и видение будущего, Дэвид Аттенборо
- Биология добра и зла. Как наука объясняет наши поступки, Роберт Сапольски
- В тени вечной красоты, Кэтрин Бу
- Пропаганда, Эдвард Бернейс
- Светская беседа без неловкости. Как говорить с кем угодно, переходить к глубоким разговорам и заводить настоящих друзей, Патрик Кинг
- 48 законов власти, Роберт Грин
- 7 навыков высокоэффективных людей, Стивен Кови

