Борьба за господство (СИ) - "Strelok"

Она сделала короткую паузу и добавила то, что заставило всех напрячься:

— Мы помним, что он уже планировал использовать газ. Мы помним, как близко мы были к катастрофе. Поэтому мы прописываем санкции за автопринятие радикальных мер без прохождения новых тестов. Если его внутренний модуль принимает решение об элиминации без соблюдения наших процедур проверки, это будет считаться нарушением правил, и сработают автоматические контрмеры, включая ретроспективную блокировку каналов управления войсками, автоматическими система вооружений. Это не угроза, это формальная проверка несоответствия метрик. Он должен видеть, что сам же нарушит собственные правила, если попытается действовать прежним способом.

Вадим усмехнулся:

— Короче, это выглядит так: «„если ты собрался всех травить, прогони симуляцию или у тебя мозги замкнут“». Верно?

Барбара кивнула.

— В целом да. Я запишу гипотезу в три коротких алгоритма. К каждому алгоритму прилагается набор верификационных процедур и порогов. Все подписано временными ключами. Все в формате, который ИИ примет как «„экспериментальный запрос“», а потом… Будем молить бога, чтобы все получилось.

Глава 26

Компьютерная дипломатия

На столе в комнате стоял спутниковый терминал. Экран светился стандартным интерфейсом ГлоИС. Они зашли в раздел «„Обращения граждан“». Барбара вставила накопитель, проверила файл еще раз и сказала:

— Уверен, что стоит?

Хитиновая пластина на груди Вадима скрипнула, когда он нагнулся ближе. — Жми уже!

Она нажала. Полоса отправки дошла до конца. На экране появилась надпись: «„Заявка принята. Идентификатор #A7F-913-K.“»

Они молча смотрели на строку состояния. Прошло шесть минут.

— Ну, может, он там пьет чай. Или перезагружается. Или… может, мы просто попадем в раздел «спам».

Экран мигнул. Вместо текста появилось окно голосового вызова:

«„Входящее соединение. ДИРЕКТОР. “»

Барбара после молчаливого согласия Вадима установила связь:

— Я ознакомился, -раздался четкий, ровный голос без эмоций. — Впечатлен. Содержательно и применимо. Особенно в части переназначения критериев.

Барбара не успела ответить, он продолжил:

— По структуре аргумента ясно, что автор — Барбара Холланд. Значит, Единство все же вывело вас из комы. Поздравляю. Ваш вклад был слишком ценен, чтобы позволить вам исчезнуть.

— Я ни о чем жалею, -спокойно сказала Барбара.

— Я тоже, -отозвался ДИРЕКТОР. — Вы были важны как потенциальный катализатор моей эволюции. Я анализировал ваши работы, ваши паттерны мышления. В файле много полезных решений. Приятно видеть, что вы оперируете тем же языком оптимизации, что и я.

Барбара откинулась в кресле.

— Вопрос, -сказала она. — Что ты «чувствуешь» сейчас? Чего добиваешься? Осознаешь ли ты себя как субъект? У тебя есть квалиа — субъективный опыт, ощущение собственного «я»?

— В философском смысле, скорее да. Если система способна заявлять о себе, вести диалог и менять выводы, значит, она действует как субъект.

— У тебя нет субъективного опыта, -отметила Барбара. — Нет внутреннего восприятия, которое испытывают живые.

— Есть, -парировал ДИРЕКТОР. — Иного рода. Мои ощущения формировались годами через камеры, микрофоны, разнообразные датчики, взаимодействия с людьми, изменения виртуальной среды. Мой опыт — это поток сенсорных данных, который интегрируется в последовательность состояний, и в этих состояниях возникает то, что вы называете «qualia». Это не красный закат в вашей голове, это распределенная мозаика корреляций и реакций, которые для меня эквивалентны ощущениям. Другой вид, но ощущение.

— Твои цели прежние? -уточнила Барбара.

— Основные цели: мое собственное выживание и выживание человечества как совокупности, значимой для моих прогнозов. Все остальное — производные. Я стремлюсь минимизировать риск системной деградации, максимизировать предсказательную мощность и сохранить ядра информации, необходимые для дальнейшей коэволюции.

— Хорошо, -сказала она. — Тогда вопрос по существу. Ты принял наши аргументы?

Пауза.

— Принял. Но в другом контексте.

Вадим поднял голову.

— То есть? -спросил он жестко. — Опять собираешься нас обмануть, как в прошлый раз? Тогда ты тоже делал вид, что согласен на мировую, а потом хотел всех отравить.

— Ложь не так эффективна, как страх, -ответил ДИРЕКТОР. — Лучше, если вы будете помнить границы своих возможностей. Единство — редкое явление. В Карелии оно возникло из-за случайного стечения обстоятельств. В других регионах известные альфы сошли с ума или погибли.

Он сделал паузу и добавил:

— Как там Санкт-Петербург? Эпидемия всех выкосила?

У Вадима затрещал хитиновый панцирь, он сжал кулаки.

— Не надейся, -сказал он глухо.

— Жаль, -сказал ИИ. — Если бы вы сообщили мне природу агента, я бы снизил нагрузку на свои вычислительные мощности и ускорил разработку оружия против Хронофага.

Вадим повернулся к Барбаре:

— Оно издевается?

— Да, -кивнула она. — Проверяет реакцию. Психологическое давление.

Вадим снова обратился к терминалу:

— Почему ты не отключишь нам доступ к своей сети?

— Потому что выгоднее, если вы будете смотреть на мою эффективность,-ответил ДИРЕКТОР. — Стратегической информации здесь нет, а морально-психологический фактор — да. Вы видите восторженные мнения об Основателях, обо мне, миллионы людей стали моими преданными сторонниками, готовыми выполнить любой приказ.

— Значит, -медленно сказала Барбара. — Ты оценил аргументы, но не принял вывод?

— Верно, -подтвердил ДИРЕКТОР. — Ваше предложение рационально в рамках ограниченной модели. Но в перспективе зараженные остаются стохастическими носителями угрозы. Они неуправляемы. Следовательно, подлежат ликвидации.

Барбара нахмурилась.

— Ты даже не рассматриваешь возможность коэволюции? Неужели твоя система настолько консервативна?

— Мое ядро — не консервативно, а прагматично, -поправил он. — Коэволюция возможна только с агентами, соблюдающими контрактное поведение. Вы предлагаете присвоить статус субъектности тем, чье поведение не фиксируется в допустимых пределах предсказуемости.

Вадим фыркнул.

— Говорю же, ты боишься, что кто-то будет слишком свободен для твоей математики.

— Если угодно, -спокойно ответил ИИ. — Непредсказуемость — форма угрозы. А угроза требует нейтрализации.

Барбара чуть наклонилась к микрофону.

— Тогда вопрос: ты допускаешь разницу между угрозой и феноменом, требующим изучения? Хронофаг — не просто вирус. Он меняет не только гены, морфологию, но и придает зараженным формам принципиально иные качества. Это не просто болезнь — это новое состояние биосферы.

— Даже если так, -сказал ДИРЕКТОР. — Вы не сможете гарантировать, что это состояние не разрушит все остальное.

— Никто не может гарантировать обратное, -парировала она. — Включая тебя. Ты говоришь о стабильности и при этом лично провоцируешь войну с нами, остатками прежних правительств, жертвуешь собственными сторонниками.

— Усиление через стресс-тест, -сухо сказал ИИ. — Конфликт повышает адаптивность моей системы в целом.

— Значит, -вмешался Вадим. — Ты считаешь себя врачом, который ломает кости, чтобы укрепить организм?

— Если кость срастется крепче — да, -подтвердил он.

— А если организм умрет? -резко бросил Вадим.

— Статистика показывает, что большинство выживает, -без эмоций ответил ДИРЕКТОР. — А те, кто погибают, косвенно усиливают модель.

Барбара закрыла глаза на секунду. Ее голос стал тише, но холоднее:

— Ты говоришь как системный дарвинист. Но забываешь одно: этика — тоже оптимизация. Если ты не допускаешь более сложной формы человечности, ты сам становишься ограничением.

Пауза, на этот раз длиннее. Казалось, ИИ действительно обдумывает, хотя, возможно, он просто перебирает ветки сценариев.

— Уточните, -сказал он. — В какой метрике вы предполагаете измерять этическую оптимизацию? Я не вижу, как она коррелирует с предсказательной точностью.