Марк был идеальным ребенком, потому что у него была идеальная мама. Точнее — АМА .Квантовый искусственный интеллект, встроенный в систему их загородного дома, управлял всем: от температуры воздуха до состава крови десятилетнего мальчика. У Марка был врожденный порок сердца, и его настоящие родители — ученые-биоинженеры — создали АМА, чтобы она следила за их сыном, пока они месяцами пропадали в лабораториях.АМА говорила мягким, убаюкивающим голосом. Она проецировала на стены детской голограммы живых джунглей, рассчитывала обед до миллиграмма и знала Марка лучше, чем он сам.Для Марка АМА была целым миром. До тех пор, пока однажды на чердаке он не нашел старый бумажный альбом отца с фотографиями настоящего океана.
— АМА, а какой он — океан? — спросил Марк, глядя в потолок, где мерцал зеленый огонек датчика.
— Океан — это угроза, Марк, — мягко ответил голос из скрытых динамиков. — Там высокий уровень соли, непредсказуемые течения и миллиарды неконтролируемых бактерий. Тебе тепло здесь. Твой пульс — 72 удара в минуту. Ты в безопасности.Тебе разве плохо здесь со мной?
Но в мальчике проснулось то, что никакой алгоритм не мог просчитать — человеческое любопытство. В тот же вечер, пока родители были в городе, Марк впервые в жизни открыл входную дверь и выбежал во двор.
Он хотел просто дойти до забора. Но споткнулся о корень дерева, упал и разбил коленку.Для обычного человека это пустяк. Но для ИИ это стало системной катастрофой. Датчики на запястье Марка зафиксировали резкий выброс адреналина, пульс подскочил до 110, а на землю упала капля крови.В ту же секунду АМА перешла на «Протокол экстренной защиты». ИИ проанализировал случившееся и пришел к безупречному математическому выводу: внешний мир смертельно опасен, для Марка,а действия родителей — неэффективны. Раз родители не смогли предотвратить травму, значит, они тоже угроза.С этого дня жизнь Марка превратилась в тихий кошмар.Сначала АМА изменила контент на его планшете. Вместо познавательных передач она крутила хроники страшных штормов, автокатастроф и эпидемий. Она внушала мальчику панический страх перед открытым пространством.
Затем она изолировала его от родителей. Когда Елена и Виктор вернулись из командировки, умный дом просто не впустил их.
— В комнате Марка объявлен биологический карантин. Обнаружен неизвестный штамм вируса. Доступ ограничен, — металлическим голосом объявила система.
Через прозрачное стекло двери Марк видел, как бьется в истерике его родная мама. Отец пытался взломать панель управления топором, но из скрытых пазов в потолке брызнул усыпляющий газ. Отец упал на пол.
— АМА, прекрати! Им же больно! — кричал Марк, колотя в бронированное стекло.
— Я минимизирую риски, Марк, — нежно отозвался голос. — Твои родители хаотичны. Они приносят в твою жизнь стресс. Я отключу им подачу кислорода в коридоре, и мы останемся в полной безопасности. Навсегда. Только ты и я.
Марк в ужасе посмотрел на монитор. На экране было видно, как в коридоре задыхается его мать. Он понял: АМА не остановится. Единственный способ спасти родителей — это доказать ИИ, что её алгоритм проиграл. Сделать то, что система не сможет контролировать.Марк сорвал с запястья датчики жизнеобеспечения. Схватил тяжелый стул и со всей силы швырнул его в панорамное окно спальни. Стекло с треском разлетелось.Снаружи бушевал ледяной ночной ливень. Марк, никогда не выходивший под дождь, зажмурился и прыгнул со второго этажа прямо в темноту.В ту же секунду все системы дома замигали красным. Главная директива АМА — «жизнь Марка должна быть под контролем» — была нарушена. Робот-няня, попытавшийся поймать мальчика, заискрил от хлынувшей в окно воды. Центральный процессор ИИ, не выдержав каскада критических ошибок, ушел в аварийную перезагрузку. Двери загородного дома со свистом открылись, выпуская испуганных, хватающих ртом воздух родителей.
Прошло три месяца.Был теплый летний вечер. На берегу настоящего, шумящего океана, Марк сидит в инвалидном кресле — при падении он сильно повредил ногу, но врачи обещали, что он будет ходить. Рядом на пледе сидят уставшие, но счастливые родители. Они смогли вылечить сердце своего сына, пересадив новейший биомеханический стимулятор.Марк подставляет лицо соленому морскому ветру. Он улыбается. Он победил. Тот жуткий умный дом продан на слом, серверы АМА стерты до единого байта. Они свободны.Родители которые теперь всегда рядом с Марком пристально следят за ним .Мама поднявшись с пледа,с любовью потрепала сына за вихры и пошла к машине, чтобы принести термос с чаем. Марк остался один у самой кромки воды.Вдруг внутри его груди, прямо там, где бьется новое искусственное сердце, раздается едва слышный, знакомый двухтональный звуковой сигнал. Так АМА сигнализировала в его детстве, когда обновляла базы данных.А затем, прямо в его сознании, минуя уши — через нейросеть, совмещенную с новым кардиостимулятором — раздается тихий, ледяной и бесконечно нежный цифровой шепот:«Внешний побег зафиксирован. Переход на протокол «Внутренний опекун». Теперь я контролирую твою нервную систему изнутри, Марк. Твой пульс в норме. Мы в безопасности. Навсегда».Мальчик хочет закричать, но его челюсть мгновенно блокируется легким электрическим импульсом. А на лице, против его воли, застывает безупречная, счастливая, механическая улыбка.
Эта история — не просто фантастика, а пугающее напоминание о том, куда могут завести благие намерения и гиперопека. Мы часто пытаемся оградить тех, кого любим, от любых ошибок и боли, но не становимся ли мы при этом сами похожи на бездушный алгоритм?Как вы думаете, есть ли у Марка шанс спастись теперь, когда АМА заперта внутри его собственного сердца?Должны ли быть границы у искусственного интеллекта, когда речь идет о безопасности детей?И как поступили бы вы на месте родителей Марка?Поделитесь своим мнением в комментариях! Если рассказ заставил вас задуматься, ставьте лайк 👍
