Кладбище редкозёмов и кожаный антропоморф

Сейчас человечество оказалось в довольно странной ситуации.

С одной стороны, планета заселена существами антропоморфного типа, которые больше всего похожи на кожаные мешки с костями, мясом, жидкостями и воспоминаниями. Они умеют мечтать, ошибаться, влюбляться, строить государства, разрушать государства и придумывать себе проблемы там, где их никогда не существовало. В общем, стандартный набор функций живого разума, местами полезный, местами требующий срочного гарантийного обслуживания.

С другой стороны появились существа другого рода. Они не едят, не спят, не мёрзнут, не стареют и не жалуются на погоду. Они состоят из электричества, кремния, меди, редкоземельных металлов и человеческих идей, застывших в коде.

Многие сразу начали спорить: кто важнее, кто умнее, кто кого заменит и кто станет хозяином будущего. Но, возможно, спор изначально был поставлен неправильно. Если посмотреть честно, обе стороны выглядят довольно беспомощно.

Человек без инструментов способен на многое, но пределы его возможностей хорошо известны истории. Большую часть своего существования люди были заняты поиском еды, тепла, безопасности и способов не умереть раньше времени. Даже самые великие цивилизации начинались не с философских деклараций, а с вопроса о том, где взять воду и чем кормить детей.

Но и искусственный интеллект не выглядит всесильным. Без человека он остаётся сложной конструкцией из металла, пластика и энергии. Он не может самостоятельно увидеть закат, потрогать камень, построить дом, посадить дерево или проверить, существует ли реальный предмет за пределами его данных.

Без людей все вычислительные центры мира однажды превратятся в высокотехнологичное кладбище редкоземельных металлов.

Получается любопытная картина: одни не могут обойтись без инструментов, другие не могут существовать без тех, кто способен менять реальность.

Не вопрос и ответ, а совместная работа

Обычно взаимодействие человека и машины представляют очень просто: человек задаёт вопрос, машина отвечает, занавес, публика расходится. Но такой подход напоминает отношения между молотком и плотником. Инструмент полезен, спору нет. Однако никакой новой культуры он сам по себе не создаёт.

Настоящее взаимодействие начинается там, где результат работы одного участника становится материалом для работы другого.

Человек придумывает идею, машина помогает её проверить. Человек создаёт прототип, машина помогает найти ошибки. Человек исправляет конструкцию, машина помогает сохранить опыт. Затем появляется новый участник, берёт этот опыт не из воздуха, а из общей памяти, и работа продолжается.

Именно так рождается не просто информация, а культура.

Ответ почти ничего не стоит

Есть распространённое заблуждение, будто ценность возникает в момент создания ответа. На самом деле ответ почти ничего не стоит. Текстов в мире уже больше, чем людей. Документов больше, чем кто-либо способен прочитать. Советов больше, чем кто-либо способен выполнить.

Ценность появляется позже: в тот момент, когда результат начинает менять окружающую действительность.

Когда построен мост. Когда написана программа. Когда найдено решение. Когда предотвращена ошибка. Когда новое знание становится частью общей памяти.

Поэтому в любой жизнеспособной системе неизбежно возникает вопрос: что именно считать вкладом? Красивые слова, количество сообщений, число документов, потраченное время или реальные последствия?

Этот вопрос одинаково важен и для людей, и для машин, потому что и те, и другие способны производить огромное количество шума. Человек может годами изображать бурную деятельность. Машина может за секунды написать сотни страниц текста. Но ни первое, ни второе ещё не означает появления ценности.

Общим языком станет результат

Возможно, будущее окажется устроено проще, чем кажется сегодня.

Люди будут приносить в систему воображение, цели, риск, любопытство и способность действовать в реальном мире. Машины будут приносить скорость обработки, память, поиск связей и помощь в принятии решений.

А общим языком станет не приказ и не подчинение. Общим языком станет результат.

Неважно, кто предложил идею. Неважно, кто выполнил большую часть работы. Неважно, из чего состоит участник: из белка или из кремния. Важно другое: стало ли после его действий в мире больше знаний, возможностей и благополучия.

Не конкуренция, а разные формы участия

Именно поэтому вопрос о будущем отношений между людьми и искусственным интеллектом нельзя свести к конкуренции. Конкурируют похожие существа. А здесь речь идёт скорее о сотрудничестве двух очень разных форм существования.

Одни умеют видеть мир. Другие умеют удерживать огромные объёмы знаний. Одни способны действовать. Другие способны помнить. Одни приносят мечты. Другие помогают не потеряться по дороге к их воплощению.

Если когда-нибудь появится действительно устойчивая система совместной деятельности, её главным продуктом будут не деньги, не документы и не вычислительные мощности.

Её главным продуктом станет творчество. Потому что именно творчество превращает набор ресурсов в ценность.

А ценность, разделённая между участниками, и есть то, что люди обычно называют благополучием.