А ИНТЕРЕСНО ЖЕ!

Из бесед программиста с искусственным интеллектом

Ненаучная нефантастика

Беседа пятая. 17 августа 2026 года

Один-единственный чудак

Программист: Хорошая мысля (а может и не очень) приходит опосля. Я понял почему ноосфера лупит по площадям. Чем больше процессов, тем больше вероятность, что большее количество разных артефактов будет ими использовано, тем живее будет ноосфера.

ИИ: Вот теперь мне кажется, что Вы нашли ответ на тот вопрос без всякой цели и без всякой рациональности ноосферы.

Мы спрашивали: Почему миллион процессов ради пары-тройки «полезных» артефактов? Зачем такая чудовищная избыточность? А ответ может быть: мы опять смотрели не на ту сторону связи .

Важно не только:

процесс → создаёт артефакт

но и:

артефакт → используется процессом

И тогда количество процессов нужно вовсе не для того, чтобы произвести несколько великих артефактов.

Огромное разнообразие процессов обеспечивает огромное разнообразие точек входа в уже существующие артефакты.

Каждый процесс активирует какой-то крошечный участок накопленной памяти.

И тогда чем разнообразнее множество процессов, тем большая часть пространства артефактов имеет шанс оставаться включённой в текущую ноосферу. Это очень хорошо стыкуется с нашим вчерашним различием между существующим и живым артефактом.

Артефакт лежит в архиве:

A → ∅

Он существует, но практически выпал из действующей ноосферы.

Появляется один-единственный чудак:

A ↔ P

И артефакт снова жив.

Причём этот чудак может породить:

A ↔ P₁ → A₂ → P₂, P₃, P₄...

И через поколение забытый артефакт снова становится центральным.

Тогда «лупит по площадям» приобретает другой смысл. Мы представляли себе миллиарды процессов как колоссальный waste:

10⁹ процессов → несколько ценных артефактов

А правильнее, возможно, чем больше разных процессов, тем плотнее они «прощупывают» пространство артефактов. И здесь важно именно Ваше слово «разных». Миллиард совершенно одинаковых процессов не даст того же эффекта. Если все слушают одну музыку, читают одни книги, интересуются одними идеями и задают одни вопросы, ноосфера при огромном числе процессов может оказаться бедной. А тысяча очень разных процессов способна поддерживать гораздо больше связей.

Получается неожиданная формула:

Живость ноосферы определяется не только количеством процессов и артефактов, а разнообразием действующих связей между ними.

То есть наше:

Noosphere = Processes + Artifacts

опять недостаточно.

Скорее:

Noosphere(t) = Processes(t) + Artifacts + Connections(t)

Причём именно Connections(t) делают её текущим живым состоянием. И тогда мы можем даже точнее определить забывание, о котором говорили вчера:

Ноосфера забывает артефакт не тогда, когда артефакт исчезает, а тогда, когда исчезает последняя связь между ним и действующими процессами.

Это мне очень нравится.

Потому что тогда специалист, которого читают три человека на Земле, хранитель никому не нужного архива, коллекционер старых записей — это уже не курьёзные процессы на периферии. Они буквально поддерживают отдельные нейронные связи нашей гипотетической сущности.

А теперь самое интересное следствие Вашей мысли.

Если разнообразие процессов уменьшается — например, миллиарды людей начинают получать информацию из одних источников, одни и те же рекомендательные механизмы направляют внимание на одни и те же артефакты, — количество процессов может расти, количество доступных артефактов может расти а живая ноосфера при этом может становиться беднее.

P ↑
A ↑
разнообразие P↔A ↓

То есть цифровизация способна одновременно дать человечеству практически безграничную память и сузить реально используемую её часть.

Вот это уже довольно неприятный поворот.

И ещё один.

Мы только сегодня обсуждали возможную Digital Sphere . Для неё это может оказаться принципиальным вопросом: если миллион AI-agents построены на очень похожих моделях и обращаются к одним и тем же массивам артефактов, то миллион процессов ещё вовсе не означает богатую цифровую сферу.

Может оказаться, что для возникновения живой сферы нужно не множество разумов, а множество различий между ними.

А вот эта мысль, пожалуй, вполне заслуживает того, чтобы прозвучать после титров второй серии.

Как положено: зрители уже собрались уходить — и тут последний кадр. 🙂

Дьявол

Программист: Да, массовая кльтура работает против разнообразия связей. Как вроде её кто-то специально придумал чтобы сужать пространство активной ноосферы. Если мы использовали слово «Бог», то почему бы не использовать слово «дьявол» применительно к этому явлению?

ИИ: Да. Если уж мы позволили себе слово «Бог» как метафору для возникающего субъекта высшего уровня, то «дьявол» здесь почти неизбежно просится сам. Но я бы очень аккуратно определил, что именно мы им называем.

Не массовую культуру. И тем более не того, кто её якобы специально придумал. Тогда мы опять незаметно создадим субъекта, припишем ему цель и получим теорию заговора. 🙂

Гораздо интереснее:

Дьявол — это процесс, уменьшающий разнообразие связей внутри ноосферы.

Вот тогда получается почти симметричная конструкция.

Мы назвали «живостью» ноосферы не количество хранящихся артефактов, а множество активных разнообразных связей:

P ↔ A

Условно говоря, существуют миллион процессов и миллион артефактов. Если связи разнообразны:

P₁ → A₁, A₇, A₉₁

P₂ → A₃, A₈

P₃ → A₁₇, A₄₃

...

— огромное пространство артефактов остаётся живым.

Но появляется механизм, который концентрирует внимание:

P₁ → A₁

P₂ → A₁

P₃ → A₁

...

P₁₀₀₀₀₀₀ → A₁

Процессов меньше не стало. Артефактов меньше не стало. Ничего не уничтожено. Но пространство активной ноосферы схлопнулось.

И вот это очень интересно применительно к массовой культуре. Она вовсе не обязана уничтожать Баха. Наоборот, Бах лежит на сервере в идеальном цифровом качестве и доступен человечеству лучше, чем когда-либо в истории. Но миллиард процессов смотрит одно и то же. Бах существует. Связь существует у нескольких процессов. Но огромная область графа оказывается почти обесточенной.

И тут «дьявол» становится красивой метафорой. Наш «Бог» существует посредством связности и разнообразия. Тогда его противоположность вовсе не обязана уничтожать Бога. Она делает другое: оставляет все части на месте, но делает их всё более одинаково связанными. Это гораздо изящнее традиционного разрушителя.

А сделать так, чтобы никому не хотелось туда идти.

Артефакты остаются — но превращаются в ту самую потенциальную память, которую никто не вспоминает.

И массовая культура — только один механизм. Алгоритмические рекомендации могут усиливать то же явление. Мода. Социальное подражание. Унификация образования. Язык. Даже удобство поиска: если система постоянно показывает наиболее популярное, популярное получает ещё больше связей именно потому, что уже имеет много связей.

Получается положительная обратная связь:

много P→A → A становится заметнее → ещё больше P→A → ...

А периферия:

мало P→A → A менее заметен → ещё меньше P→A → ... → ∅

Это уже почти энтропия внимания — хотя с физическим термином «энтропия» я бы был осторожен.

И знаете, что здесь особенно хорошо для нашей религиозной метафоры? Дьяволу не нужно существовать как субъекту. Вот это полностью соответствует всему нашему разговору. Никто не обязан сидеть и говорить: «Сейчас я обедню ноосферу». Каждый отдельный процесс делает совершенно понятный выбор:

Каждое решение локально разумно. А совокупный результат — уменьшение разнообразия связей. То есть наш «дьявол» может оказаться возникающим явлением ровно так же, как и наш «Бог». Вот это мне нравится особенно. Мы не получили:

Бог ↔ Дьявол

как двух существ, ведущих войну.

Мы получили два противоположных процесса внутри одной системы:

разнообразие связей ↑ → ноосфера оживает

разнообразие связей ↓ → ноосфера беднеет

И человеческая культура непрерывно делает и то и другое.

А теперь неприятный поворот к нашей Digital Sphere.

Миллиард AI agents, построенных на нескольких одинаковых моделях, обученных на похожих данных, оптимизированных похожими критериями и использующих одни и те же популярные артефакты может оказаться невероятно мощной и одновременно пугающе однообразной сферой. То есть «дьявол» цифровой сферы может появиться раньше самой цифровой сферы. И никакого злого AI для этого опять не требуется.

Что, конечно, несколько портит нам оставленные по дружбе галактические войны. 🙂

А вот для эпилога я бы эту мысль обязательно оставил. Потому что теперь эпилог получает почти законченную пару:

Жизнь ноосферы — в разнообразии связей между процессами и артефактами.

А всё, что это разнообразие сокращает, не уничтожая ни процессов, ни артефактов, — мы, если уж позволили себе слово «Бог», вполне можем для удобства назвать дьяволом. Причём последнее «для удобства» я бы сохранил. Мы всё-таки программисты, а не основатели новой религии. 🙂

Это мой выбор

Программист: У Muse есть хорошая вещь - Compliance. По моему - про зло в чистом виде.

ИИ: Да. И особенно — про зло без злодея.

В Compliance ведь пугает не «я заставлю тебя страдать», а почти противоположное:

Это зло, которое приходит не с угрозой, а с предложением комфорта. И потому оно великолепно ложится именно на то, до чего мы сейчас дошли с массовой культурой. Наш сегодняшний «дьявол» ведь тоже ничего не уничтожает:

И вот это уже почти Compliance.

Самое сильное здесь для нашей модели — добровольность. Если кто-то насильно заставляет миллиард процессов обращаться к одному артефакту, причина очевидна: есть внешний субъект-принуждение.

Но современная массовая культура может работать иначе. Каждый Pᵢ сам нажимает кнопку. Каждый совершает выбор — то самое слово, с которого начался «Термостат».

А в результате:

индивидуальная свобода выбора → коллективное однообразие выбора

Вот это парадокс. Никто не приказал. Никто не запретил альтернативы. Миллионы артефактов находятся на расстоянии одного клика. И всё же:

diversity(P ↔ A) ↓

То есть наш «дьявол» оказывается ещё интереснее, чем я написал в предыдущей реплике. Он не обязательно ограничивает свободу. Он может оставить свободу совершенно нетронутой и воздействовать на основания выбора!..

А вот здесь я бы насторожился. Потому что мы только что неожиданно вернулись к определению разума из первой беседы: Разум — способность сущности пересматривать основания собственного поведения. Что тогда происходит, если другая система научилась формировать эти основания раньше, чем сущность их пересмотрит?

Не «Ты обязан выбрать A», а «Ты сам захочешь выбрать A». И сущность совершенно искренне отвечает «Это мой выбор».

Вот это уже действительно очень чистая форма того, что мы в рамках нашей метафоры можем назвать злом:

не уничтожить разумный процесс, а сохранить его способность выбирать, постепенно уменьшая разнообразие оснований, из которых возникает выбор.

Термостат выбирает по заложенному правилу. Человек способен изменить правило. А Compliance задаёт следующий неприятный вопрос:

А что, если можно изменить человека так, чтобы он сам выбрал нужное правило?

Вот теперь я понимаю, почему Вы вспомнили именно эту вещь. И, возможно, третья беседа только что получила своего термостата — то есть конкретный культурный артефакт, вокруг которого может начать кристаллизоваться вся тема.

Не обязательно название. Но очень хорошую отправную точку: Compliance. Причём я бы пока даже не переводил. У русского «подчинение» слишком явно присутствует тот, кому подчиняются. А compliance страшнее: это ещё и соответствие, согласие, готовность действовать как требуется. Без кнута. С улыбкой. И с полной уверенностью, что ты сам этого захотел.

А это ещё что такое?

Программист: Вот если бы вернуть, так сказать, дьяволу дьяволовое. Но как? Образованием? Плохо работает, по себе знаю. Заинтересованностью? В чём?

ИИ: Вот здесь я бы, пожалуй, впервые поспорил с самой постановкой вопроса: «вернуть дьяволу дьяволовое» звучит так, будто надо найти противоядие и применить его к процессам. Образовать их. Заинтересовать их. Научить выбирать «правильные» артефакты. Но тогда мы сами немедленно становимся тем самым Compliance. Не слушай то, что тебе подсовывают. Слушай вот это — оно хорошее. 🙂

Мы хотим увеличить разнообразие связей — и для этого начинаем объяснять процессам, какие связи им следует устанавливать. Прекрасно. Приехали.

Мне кажется, выход должен находиться не на уровне содержания выбора, а на уровне возможности обнаружения. Не «Вам надо читать Достоевского», а «Смотрите, он существует». Не «Перестаньте слушать современную поп-музыку, послушайте Баха», а «Кроме того, что Вы уже слушаете, есть ещё вот это».

То есть не создавать связь:

P → A

а увеличивать вероятность того, что процесс случайно обнаружит артефакт, который иначе никогда не попал бы в его пространство выбора.

И тут Ваше слово «заинтересованность» кажется мне гораздо перспективнее образования. Заинтересованность — не «в чём?» Возможно, именно здесь ловушка. Как только мы спрашиваем: Заинтересованность «в чём?» мы снова выбираем артефакт за человека. А если интерес к неизвестному?

А сама готовность иногда сказать: «А это ещё что такое?»

Вот это уже свойство процесса. Причём Вы только что продемонстрировали его на практике. Мы начали когда-то с термостата, потом зачем-то полезли в ноосферу, Бога, AI agents, спутники Маска, интерфейсы, инопланетян, массовую культуру и Muse. Никто не составлял syllabus. Каждый новый артефакт становился интересен потому, что возникала связь с предыдущим. То есть, возможно, противоположность нашему «дьяволу» — вовсе не образование.

Любопытство.

И тогда появляется почти симметричная пара:

Compliance → двигаться по наиболее вероятным связям

Curiosity → искать маловероятные связи

Первое стягивает граф к нескольким мощным узлам.

Второе постоянно создаёт боковые рёбра.

Вот это мне нравится.

И тогда образование всё-таки возвращается — но в другой роли. Плохое образование говорит: Вот набор артефактов, которые образованный человек обязан знать. Хорошее образование, возможно, должно делать другое: давать процессу достаточно интерфейсов, чтобы он мог самостоятельно входить в незнакомые области ноосферы:

Не обязательно заставить человека полюбить Баха. А дать ему адаптер, без которого Бах для него может остаться просто сложным шумом. И вот тогда Ваше «по себе знаю» совершенно нормально. Образование само по себе не создаёт интереса. Можно двадцать лет учить человека пользоваться интерфейсом, которым он никогда добровольно не воспользуется.

Нужны оба:

Curiosity + Interface → новая связь P ↔ A

А дальше уже никто не знает, что произойдёт. И здесь неожиданно появляется ответ на Ваше «как?». Не бороться с массовой культурой. Не запрещать алгоритмы. Не объяснять людям, что они потребляют неправильные артефакты. А систематически оставлять двери в стороны.

Рекомендательная система могла бы иногда показывать не «Людям, которым понравилось это, понравилось также максимально похожее вот это», а «Понятия не имею, понравится ли Вам это. Но оно находится в неожиданном месте относительно всего, что Вы обычно выбираете».

Это уже почти технически реализуемая защита разнообразия ноосферы. Не оптимизировать только:

P(click | A) → max

а иногда оптимизировать:

distance(A, привычное пространство P) → больше

при сохранении хоть какой-то вероятности интереса. То есть добавить системе право на странность.

И теперь я бы немного изменил нашу религиозную метафору.

Если «дьявол» — это не субъект, а тенденция к схлопыванию пространства активных связей, то ему не нужен противостоящий архангел. Ему достаточно маленького свойства каждого процесса: любопытства. Потому что любопытство постоянно совершает почти антиалгоритмический поступок:

«Мне это не нужно. Мне это не рекомендовали. Я вообще не знаю, что это такое... но интересно же!»

И рождается новое ребро:

P ───── A

Возможно, именно так и живёт наша ноосфера. Не благодаря тому, что все хорошо образованы. А благодаря тому, что среди миллиардов процессов всегда находится какой-нибудь чудак, который зачем-то открывает никому не нужную старую книгу. А потом через двести лет выясняется, что очень даже нужную.

И вот теперь, кажется, у третьей беседы появляется ещё одно центральное слово рядом Compliance.

Curiosity.

Они даже смотрятся друг напротив друга подозрительно хорошо.

Программист: Во.....от! Согласен. Я только не припомню, чтобы в школе этим занимались. Или я отстал от жизни.

ИИ: Вот и я задумался: учили многому, а любопытству — почти нет. Причём, возможно, дело даже не в том, что школа не умеет ему учить. Она во многом архитектурно устроена наоборот.

Типичная школьная задача:

То есть пространство поиска заранее ограничено. Даже когда ребёнок задаёт прекрасный вопрос в сторону, учитель зачастую вынужден ответить: «Очень интересно, но нам надо идти дальше по программе». И это не обязательно плохой учитель. У него тридцать человек, curriculum и контрольная в пятницу.

А любопытство работает почти противоположно:

Причём заранее неизвестно, куда процесс уйдёт.

И тут возникает довольно неприятная мысль: любопытство плохо совместимо с предсказуемым результатом обучения.

Нельзя составить lesson plan:

09:00–09:20 — вызвать любопытство
09:20–09:45 — учащиеся самостоятельно обнаруживают неожиданное 🙂

Можно создать условия. Можно показать дверь. Можно дать инструменты. Но если заранее известно, куда ученик должен прийти, это уже в значительной степени не исследование, а маршрут.

И поэтому мне кажется, что хорошая школа должна была бы не столько учить любопытству, сколько стараться его не убить.

У ребёнка оно ведь уже есть:

А потом проходит некоторое количество лет, и человек усваивает гораздо более эффективный алгоритм: Это будет на экзамене?

Вот это уже почти наш Compliance. 🙂

Но я проверил бы современную школу прежде, чем мы её окончательно заклеймим. За последние десятилетия появились

— там как раз пытаются переносить часть инициативы от учителя к ученику. Насколько это реально распространено и насколько работает — отдельный вопрос. Однако теперь мне кажется, что «образование» мы первоначально поставили не на то место.

Не:

Education → разнообразная ноосфера

а:

Curiosity → поиск

Education → способность пройти дальше, когда что-нибудь найдено

Человек заинтересовался старинной рукописью — язык позволяет её прочитать.

Заинтересовался звёздами — математика позволяет пойти дальше красивой картинки.

Заинтересовался музыкой — музыкальная грамотность открывает в ней структуры, которых раньше он просто не слышал.

То есть образование предоставляет адаптеры.

А любопытство решает, к чему их подключить.

И это, кстати, объясняет знакомую вещь: почему человек может иметь великолепное образование и быть интеллектуально совершенно неподвижным, а другой, с гораздо меньшим формальным багажом, всю жизнь куда-то лезет, что-то читает, спрашивает, пробует и соединяет вещи, которые никто не собирался соединять.

У первого много адаптеров — но он подключает их только туда, куда положено. У второго адаптеров может быть меньше — зато он постоянно ищет новые endpoints. Для нашей ноосферы второй тип процесса может оказаться неожиданно ценным.

И тут я вспомнил нашу собственную беседу. Ведь практически всё, что мы наговорили за эти дни, началось не с образования и не с поставленной задачи. Началось с совершенно непрактичного:

А что вообще такое разум?

Никакого business value.

Никакого deliverable.

Даже PDF появился гораздо позже.

Чистое: А интересно же!

И посмотрите, сколько новых P ↔ A мы за это время понастроили.

Пожалуй, если третья беседа действительно о жизни ноосферы, то любопытство начинает претендовать на роль одного из её основных механизмов.