Читаем Nexus полностью

После того как в первой части были рассмотрены роли мифологии и бюрократии, а также контраст между сильными и слабыми механизмами самокоррекции, глава 5 завершает историческую дискуссию, сосредоточившись на другом контрасте - между распределенными и централизованными информационными сетями. Демократические системы позволяют информации свободно распространяться по множеству независимых каналов, в то время как тоталитарные системы стремятся сконцентрировать информацию в одном узле. У каждого варианта есть как преимущества, так и недостатки. Понимание таких политических систем, как США и СССР, с точки зрения информационных потоков может многое объяснить в их различных траекториях развития.

Эта историческая часть книги крайне важна для понимания современных событий и будущих сценариев. Возникновение ИИ - это, пожалуй, крупнейшая информационная революция в истории. Но мы не сможем понять ее, если не сравним с ее предшественниками. История - это не изучение прошлого, это изучение изменений. История учит нас тому, что остается неизменным, что меняется и как все меняется. Это относится как к информационным революциям, так и к любым другим видам исторических преобразований. Так, понимание процесса, в ходе которого якобы непогрешимая Библия была канонизирована, дает ценное представление о современных претензиях на непогрешимость ИИ. Аналогичным образом, изучение охоты на ведьм в ранние времена и сталинской коллективизации дает суровое предупреждение о том, что может пойти не так, когда мы предоставляем ИИ больший контроль над обществами XXI века. Глубокое знание истории также необходимо для того, чтобы понять, что нового в ИИ, чем он принципиально отличается от печатного станка и радиоприемника и в чем конкретно будущая диктатура ИИ может быть совершенно не похожа на то, что мы видели раньше.

В книге не утверждается, что изучение прошлого позволяет нам предсказывать будущее. Как неоднократно подчеркивается на последующих страницах, история не детерминирована, и будущее будет зависеть от того, какой выбор мы все сделаем в ближайшие годы. Смысл написания этой книги заключается в том, что, делая осознанный выбор, мы можем предотвратить худшие последствия. Если мы не можем изменить будущее, зачем тратить время на его обсуждение?

Опираясь на исторический обзор первой части, вторая часть книги - "Неорганическая сеть" - рассматривает новую информационную сеть, которую мы создаем сегодня, фокусируясь на политических последствиях развития ИИ. В главах 6-8 рассматриваются недавние примеры из разных стран мира - например, роль алгоритмов социальных сетей в разжигании этнического насилия в Мьянме в 2016-17 годах, - чтобы объяснить, чем ИИ отличается от всех предыдущих информационных технологий. Примеры взяты в основном из 2010-х, а не из 2020-х годов, поскольку мы получили небольшую историческую перспективу событий 2010-х годов.

В части 2 утверждается, что мы создаем совершенно новый тип информационной сети, не задумываясь о его последствиях. В ней подчеркивается переход от органических к неорганическим информационным сетям. Римская империя, католическая церковь и СССР - все они опирались на углеродные мозги для обработки информации и принятия решений. Компьютеры на основе кремния, которые доминируют в новой информационной сети, функционируют радикально иначе. К лучшему или худшему, кремниевые чипы свободны от многих ограничений, которые органическая биохимия накладывает на углеродные нейроны. Кремниевые чипы могут создавать шпионов, которые никогда не спят, финансистов, которые никогда не забывают, и деспотов, которые никогда не умирают. Как это изменит общество, экономику и политику?

В третьей, заключительной части книги - "Компьютерная политика" - рассматривается вопрос о том, как различные типы обществ могут справиться с угрозами и обещаниями неорганической информационной сети. Есть ли у углеродных форм жизни, таких как мы, шанс понять и контролировать новую информационную сеть? Как уже отмечалось выше, история не детерминирована, и еще как минимум несколько лет мы, сапиенсы, можем определять свое будущее.

Соответственно, в главе 9 рассматривается вопрос о том, как демократии могут справиться с неорганической сетью. Как, например, политики из плоти и крови могут принимать финансовые решения, если финансовая система все больше контролируется искусственным интеллектом, а само значение денег зависит от непостижимых алгоритмов? Как демократии смогут поддерживать общественный разговор о чем бы то ни было - будь то финансы или гендер, - если мы больше не можем знать, говорим ли мы с другим человеком или с чатботом, маскирующимся под человека?