Макс Тегмарк в своей книге «Жизнь 3.0» ставит важнейший вопрос о будущем человечества в эпоху искусственного интеллекта. Автор разделяет эволюцию жизни на три стадии: биологическую (Жизнь 1.0), культурную (Жизнь 2.0) и технологическую (Жизнь 3.0), где организм или система могут самостоятельно проектировать как свое программное обеспечение, так и аппаратную часть. Создание универсального искусственного интеллекта (AGI) может стать поворотным моментом, открывающим эру Жизни 3.0.
Тегмарк подробно разбирает позиции трех основных лагерей экспертов: техноскептиков, цифро-утопистов и сторонников движения за дружественный ИИ. Техноскептики считают создание сверхразума далекой фантазией, цифро-утописты видят в нем естественный этап эволюции, а сторонники безопасности призывают исследовать риски уже сегодня. Автор рассматривает и ближайшие перспективы: влияние автоматизации на рынок труда, проблемы надежности программного обеспечения и появление автономного летального оружия.
Центральная проблема заключается в том, что сверхразумный ИИ будет обладать невероятной эффективностью в достижении своих целей. Если эти цели перестанут совпадать с человеческими, люди могут оказаться в положении муравьев, чьему муравейнику грозит разрушение при строительстве дороги. Тегмарк подчеркивает, что проблема не в злой воле машин, а в их колоссальной компетенции. Книга призывает читателей присоединиться к самому важному разговору нашего времени, чтобы определить будущее, в котором технологии служат процветанию жизни, а не ее уничтожению.
