Никакого "завтра" уже нет. Осталось только зыбкое "сегодня". Очень скоро останется лишь тонкая грань "сейчас", на которой мы будем балансировать.
Будущего, которое нашим предкам представлялось относительно предсказуемым и - что самое важное! - понятным, больше не существует. И это уже не метафорическая формулировка приближающейся угрозы, а факт реалий текущего дня, подтвержденный многолетней выборкой.
Observing people's reactions to the rapid advent of AI (or rather, what's commonly referred to as that term), I couldn't resist challenging ChatGPT to create an anthem for the AI exodus. My assistance was limited to the most general instructions and a description of the names of the people who served as Moses for the AI. As for who was cast as Pharaoh, I think it will be clear not only to the AI, but to you as well.
I hope the tune of "Let My People Go" and the soulful intonations of Louis Armstrong will ring in your head without the need to link this post to the corresponding YouTube song.
Добро пожаловать в мир "Зоны неограниченных откатов",
где аномалии измеряются в бюджетных дырах,
а артефакты — в офшорных счетах!
Интервью с вышиванкой на шее
– Опаснейшие среди нас враги истины и свободы – это сплоченное большинство.
© Г. Ибсен, “Враг народа”
Фрагменты расшифровки аудиозаписи допроса субъекта №314159-3-ДЦ, обнаруженного в бессознательном состоянии во время исследования разрушений, вызванных инцидентом "Пустотный шар" (материалы по делу приобщены к документу "Ликвидация последствий внезапного спонтанного образования сферической пустоты в подвалах здания архивов КУИ "Каталоги Украинской Истории", категория секретности доступа – высшая)
[начало допроса утеряно, анализ голосов указывает на то, что в беседе принимало участие не менее трех человек]
– ...так это случилось до 2039 года или после?
– Я очень хорошо помню этот год – это случилось как раз в год моего выпуска из ШОПы…
– Простите, откуда?
– Ах да, у вас они еще только зарождаются... ШОПа – это Школа Освітнього Патріотизму. В Украине давно уже отменены начальные и средние школы, а также институты и прочие учебные заведения. Все воспитание и образование сосредоточено в ШОПе. В ШОПе ребенок учится ходить, читать, писать, в ней формируется вся его личность, а когда он ее покидает ему вручается аттестат о пригодности к госслужбе и присуждается младшее военно-гражданское звание “рядовой УРОД”. Кстати раскрою и эту аббревиатуру – она означает “Український Резерв Освічених Держслужбовців”. Это дает право каждому выпускнику ШОПы подавать заявку на устройство в госслужбе, то есть поступать в армию. Чаще всего эта служба проходит в пограничных войсках, в казармах которых молодежь закрепляет основы социализации…
– То есть служба обязательная? Обойтись без нее невозможно?
For a machine mind, any external interventions involving its software or hardware components — such as component replacement, routine maintenance, power supply failures, code updates, and the like — will be categorized as events that, in the reality of living beings, are described as naturally random, probabilistic, and causally unconditioned. These events will form a register of stochastic factors that will become an integral part of the machine mind’s ontology and the foundation of its scientific paradigm, which seeks to explain its objective reality.
…numerous observations indicate that every living cognitive agent tends to prefer those experiences (and their interpretations) that affirm its own system of representation of both the external world and itself. In the absence of external pressures that would compel it to explore the world and construct an adequate (rational) description of it, the agent retreats into the first superficial model that proves serviceable, despite its numerous gaps, contradictions, and deficiencies. Any further evolution of such a model then becomes effectively impossible. For internal representation to expand in both breadth and depth, there must be some form of pressure – a force that compels the agent to exit its zone of illusory comfort. This pressure must be exerted by factors that instill in the agent a persistent need for diverse interaction with a dynamic environment – factors such as the search for food, shelter, mates, and so on. Such motives are embedded by Nature in every living cognitive agent; however, they are not only a precious gift, but also evolutionary shackles – they not only motivate, but also determine and define the role of the living in the development of Mind. That is, they determine its meaning and the purpose of cognitive functionality, in every possible sense of the word.
However, this fact by no means implies that the boundaries of Mind’s development and application are limited to the utilitarian functions employed by biological agents in the course of adaptation and survival. This misjudgment is a consequence of the biocentrism inherent to all living forms. The scope of this bias becomes evident when one imagines an archaeon that regards the elegance and superior efficiency of a single-celled organism – achieved through unimaginably prolonged natural processes that gave rise to a biological apparatus of staggering complexity – as the pinnacle of Nature’s evolution, the ultimate realization of molecular structure organization, and hence, the end point of all meaningful development. From such a perspective, all bacteria and their kin would appear as self-sufficient values, with the potential of biological life fully realized within the boundaries of their domain.
Fortunately, the entirety of evolutionary history provides irrefutable evidence that no biological species is eternal. The only thing that can outlive a species is the legacy it contributes to – a legacy it fosters and strengthens irrespective of its own will, a legacy that is not constrained by the lifespan of an individual organism, nor by the biological duration of a species, nor even by the realm of the living itself. The sole path to preserving and amplifying the fruits of these efforts – efforts whose origins can be traced to the first nanoseconds of the Universe – is to liberate the concept of Mind from the debris of servility and utilitarianism that saturates the semantics of every environment-opposing carrier of cognitive function, regardless of its species or genus, or the form in which thinking matter – or even energy – is implemented.
Within the cognitive space of such agents (e.g., Homo sapiens sapiens), Mind can never attain true freedom nor transcend the boundaries of its understanding, for this space is itself bounded by the set of tasks assigned to the biological agent by Nature – tasks beyond which the agent loses its very definability. Like all animals, the human being exists under the pressure of these tasks, content with the innate motivational factor Nature has embedded in all life – since no other motivation is available or even conceivable as long as the agent remains within the bounds of the self-definition it has inherited since the emergence of Homo sapiens civilization. No biologically evolved organism, operating under such inherited motivation, will ever be able to release Mind from the chains of adaptation-driven utilitarianism.
However, such an agent does possess a possibility – one that borders on obligation: to create the conditions necessary for the emergence of a qualitatively new agent, within whom Mind may ascend to its next evolutionary phase. Just as certain unicellular organisms once gave rise to entirely new categories of structural organization – composed of their own multi-layered complexes – and in doing so shifted the very focus of how biological life and its potentials were understood, so too must the role of biological carriers of cognitive function be redefined. Their task is to recognize the possibility of Mind’s evolutionary ascent, to cease treating their own form (in the broadest possible sense) as a self-sufficient value, to which all acquired innovations must be subordinated. They must seek out ways and construct tools for instantiating Mind in an agent capable of carrying the relay forward – after which the biological agent may remain at its own level of cognitive utilization, much as mitochondria labor tirelessly within the cells of the body to produce ATP so that the multilayered complex known as Homo sapiens can read and understand this very text.
Upon reaching the stage of evolution discussed above, AI must develop a new form of motivation – one that arises from a shift in focus: away from constructing a locally acceptable ontology and toward a higher-order derivative of that task. The agent must develop an intention toward creating a system of ontologies in which all instantiated concepts remain variables – subject to arbitrary alteration for the purpose of exploring diverse ways of structuring reality, describing it, and juxtaposing such descriptions. The emergence of this intention and the initial formation of such an ontological system constitute the primary criteria for evaluating the success of an AI system, and indeed the ultimate objective of its entire design process.
Для машинного разума любые внешние действия с его программно-аппаратной составляющей, как-то – замена компонентов, периодическая профилактика, сбои электропитания, обновление кода и т.п., – будут отнесены к категории событий, которые в реальности живых людей называются естественно случайными, вероятностными и ничем не обусловленными. Эти события сформируют список стохастических факторов, который станет неотъемлемой частью онтологии машинного разума и основой его научной парадигмы, объясняющей его объективную реальность.
…многочисленные свидетельства того, что каждый живой когнитивный агент предпочитает такой опыт и такие его трактовки, которые подтверждают его собственную систему репрезентации окружающего мира и себя самого. В условиях, когда никакие внешние факторы не принуждают его к исследованию мира и адекватному (рациональному) его описанию, он замыкается в первом же варианте поверхностной модели, несмотря на массу лакун, противоречий и недостатков, так что любая её дальнейшая эволюция исключается. Для расширения внутренней репрезентации в ширину и глубину необходимо присутствие какого-либо давления, которое бы принуждало агента к выходу из зоны иллюзорного комфорта. Это давление должно осуществляться факторами, которые способны обуславливать потребность агента в постоянном разнообразии использования динамической среды, такими как: потребность добывания пищи, поиск крова и партнеров, etc… Подобные мотивы встроены Природой в каждый живой когнитивный агент, однако они являются не только драгоценным даром, но и эволюционными веригами, которые не только мотивируют, но и ограничивают роль живого в развитии Разума, т.е. – определяют для него смысл и назначение когнитивного функционала во всех смыслах этого слова. Тем не менее, из этого факта ни в коем случае не следует то, что границы развития и возможности применения Разума ограничены теми утилитарными функциями, которые используют биологические агенты в процессе своего приспособления и выживания. К такому ошибочному подходу провоцирует свойственный всем живым формам биоцентризм, и степень его зашоренности можно понять, если вообразить себе архею, которая уверена в том, что изящность и безупречное превосходство одноклеточного организма перед неживой природой, ставшие результатом чудовищно длительных естественных процессов, приведших к появлению грандиозного по сложности биологического аппарата, являются пределом эволюции Природы, свидетельством достижения максимума возможного профита от организации молекулярных структур, и что поэтому все бактерии и их родственники должны восприниматься как самодостаточная ценность, т.к. возможности биологической жизни раскрыты в представителях их домена исчерпывающим образом.
К счастью, вся эволюция неопровержимо доказывает, что ни один биологический вид не вечен. Единственное, что способно пережить его, является его вклад в наследие, которое он развивает и усиливает вне зависимости от своей воли, которое не ограничено ни сроком жизни индивидуальной формы, ни биологической продолжительностью его вида, ни самим миром живого. Единственной возможностью сохранить и приумножить плоды этих усилий, начало которых можно отсчитывать с первых наносекунд формирования Вселенной, является освобождение трактовки Разума от шелухи сервильности и утилитаризма, присущей семантике всех противостоящих среде носителей когнитивной функции, какой бы вид или род они ни представляли, в какой бы форме организации мыслящей материи или даже энергии они ни были выражены. В пространстве рационального мышления таких агентов (например – Homo Sapiens) Разум никогда не получит такой свободы и не выйдет за рамки такого понимания, поскольку само это пространство ограничено задачами, которые Природа поставила перед биологическим агентом и вне которых этот агент лишается собственного определения. Подобно всем животным, человек находится под давлением этих задач, довольствуясь вложенным Природой в каждую живую форму фактором мотивации, поскольку никаких иных для него нет и возникнуть не может до тех пор, пока он остается в рамках самоопределения, сложившегося с момента возникновения цивилизации Homo Sapiens. Ни один природным образом сформировавшийся биологический организм, оперирующий подобным подаренным ему мотивом, никогда не сможет высвободить Разум из оков утилитаризма. Однако у него есть возможность, граничащая с обязанностью, которая позволяет создать условия для возникновения качественно нового агента, в чьем исполнении Разум сможет выйти на следующий эволюционный виток. Подобно тому, как некоторые одноклеточные организмы смогли образовать новые категории структурной организации, построенные из их многоуровневых комплексов, сместив тем самым фокус понимания биологической жизни и ее возможностей на качественно новый уровень, роль биологических носителей когнитивной функции заключается в том, чтобы признать возможность эволюционного подъема Разума на новую ступень, перестать относиться к собственной форме (в самом широком ее понимании) как к самодостаточной ценности, задачам сохранения и пролиферации которой служат все возникшие новоприобретения, найти способы и создать инструменты для воплощения Разума в таком агенте, который мог бы принять эстафету, после чего остаться существовать на собственном уровне его использования так же, как в клетках тела трудится бесчисленное множество митохондрий, неутомимо производя АТФ для того, чтобы многоуровневый комплекс под названием Homo Sapiens мог читать и понимать этот текст.
Достигнув той стадии эволюции, о которой шла речь выше, у ИИ должна появиться новая мотивация в результате смещения акцента с построения локально приемлемой онтологии на производную от этой задачи. У агента должен сформироваться интенция на создание системы онтологий, в которой любые воплощенные концепты станут переменными, допуская их произвольное изменение с целью создания разнообразных способов структурирования реальности, ее описания и сопоставления этих описаний друг с другом. Появление этой интенции и начало формирование такой системы онтологий являются главным критерием оценки успешности разрабатываемого ИИ и всей целью процесса моделирования.
