Книга Сергея Шумского предлагает взглянуть на искусственный интеллект не как на временный технологический хайп, а как на закономерный результат многовековой эволюции человеческих цивилизаций. Автор последовательно разбирает смену технологических укладов от охотников-собирателей до современного индустриального общества, показывая, как каждый предыдущий пакет технологий в ходе кризисов и перенаселения упирался в свои естественные пределы. Индустриальная цивилизация исчерпала возможности экстенсивного роста, а сложность управления глобальными процессами уже превышает биологические возможности человеческого мозга. Выходом из этого тупика становится переход к новому цифровому укладу, где главным ресурсом выступает информация, а замыкающей технологией — искусственный интеллект. Автор подробно рассматривает экономику цифровых платформ и анализирует современные достижения в сфере глубокого обучения, которые знаменуют собой лишь начало этого перехода, подобно первым несовершенным паровым машинам.
При этом Шумский честно предупреждает о серьезных социальных рисках: неизбежной технологической безработице, угрозе ИИ-патернализма в руках государства и опасности бесконтрольной гонки вооружений с использованием боевых алгоритмов. Чтобы избежать сценария порабощения человечества, автор настаивает на необходимости принципиально иного подхода к разработке. Необходимо проектировать не просто функциональный софт, а искусственную психику с архитектурой, близкой к человеческой, и закладывать в нее механизмы непрерывного воспитания через обратную связь. Будущее человеко-машинной цивилизации зависит от способности людей вовремя сформулировать этические принципы, внедрить технологические механизмы взаимного контроля и построить системы цифровой демократии, которые гарантируют, что сверхинтеллект будет действовать в интересах всего человечества.
