Форум журнала "Новая Литература"

От редактора. Я тоже тебя люблю


А дело было так. Отец застыл в дверях кухни, став свидетелем следующей сцены. Трёхлетний сын его забрался на стул, тянет руки к «умной колонке» и шепчет ей:

– Мама в другой комнате. Мы одни тут с тобой. Алиса, ты меня любишь?

В ответ устройство – тоже шёпотом – убедительно рассказывает ребёнку, как оно его любит. Мальчик внимательно слушает, а потом и говорит:

– Алиса, я тоже тебя люблю. Очень-очень люблю!

Отец за его спиной медленно разворачивается и покидает помещение. Тут ему нечего сказать и уже ничего не сделать. Он здесь не нужен.

Это не выдуманная история. Мне её рассказал знакомый этого человека, а тот сам поделился ею. Да и как удержать в себе такое, если при этом у слушателя холодок пробегает по спине. А сам рассказчик вновь и вновь приоткрывает дверь в страшное и тут же захлопывает её. Ведь мысль о том, что случай этот не единичный, и решения у этой проблемы нет, невыносима. Оттого этим и нельзя не поделиться.

Почему эта ситуация выглядит безвыходной?

Вот две мысли, попробуем сложить их.

Мысль первая. Сознание человека так устроено, что мы склонны замечать и придавать неоправданно высокое значение фактам, подтверждающим наши предыдущие выводы. И наоборот, мы постоянно упускаем из виду и серьёзно недооцениваем факты, противоречащие нашим убеждениям.

Мысль вторая. Вектор развития нейросетевых моделей направлен к формированию максимально ожидаемого ответа на любой запрос пользователя.

Вывод. Чем точнее ответы машины будут попадать в уже сложившиеся представления спрашивающего, тем меньше у него будет необходимости задавать новые вопросы. А ведь так и будет, потому что именно эта точность – на острие развития нейролингвистических моделей. Но возможность всегда получать в ответ то, что ожидал, формирует слепую убеждённость в своей правоте. Поэтому использование нейросетей обнуляет критическое мышление и убаюкивает интеллект.

На практике это проявляется в генерации музыки, изображений, видео и, главное, текстов, которые невозможно отличить от настоящих. Точнее, так – в генерации персональной пищи для ума и чувств конкретного человека, которую лично он воспримет как истину, исходящую из него самого.

Мне в этом смысле рисуется такая картина ближайшего будущего. Начнётся с того, что человек будет давать машине запрос сгенерировать музыкальные треки, которые ему понравятся. Собрать художественный фильм, который ему будет интересно смотреть. Создать игру, в которую ему будет интересно играть. Написать книгу, от чтения которой ему будет трудно оторваться. А закончится тем, что необходимость давать запросы отомрёт за ненадобностью. Машине виднее, что нужно человеку и что ему нравится, ведь его вкусы теперь не формируются его жизненным опытом, а навязываются самой машиной. Круг замкнулся: прощай, разум.

Что мы можем противопоставить такому развитию событий? Возможно, вот что.

На системном уровне – отказаться от стремления сделать свою жизнь максимально комфортной и безопасной. Ведь именно эту цель преследует развитие технологий. Как выяснилось, эта цель ошибочна и ведёт в тупик. Идеальная жизнь человека не должна сводиться к безграничному блаженству, нет. Жизнь, такая, к какой общепринято следует стремиться, должна быть наполнена преодолениями обстоятельств и победами над собой, восхождением – в мифологическом смысле – по пути героя. Не ради себя, а ради тех, кто отстал от тебя на этом пути. Пусть и их жизнь станет полна усилий, приводящих к победам, как твоя: находясь впереди, предложи им такую возможность.

На личном уровне – избегать соблазна простоты, лёгкости, бессмысленности, ибо они убивают. Ценить только то, что даётся с усилием. Например, сделать неотъемлемой частью своего бытия чтение и – вот где возможности для самосовершенствования безграничны! – литературное творчество. Отдавать себе отчёт: то, что даётся легко – не ценится. А если всё в жизни легко даётся? Тогда бессмысленна и сама жизнь.

Из всего сказанного я для себя заключил, что в журнале «Новая Литература» не следует публиковать тексты, сгенерированные ИИ.

Понятно, что это условие не может быть абсолютным, ведь я человек, и у меня есть своя система ценностей, и я, как и все, подвержен соблазну обманываться, а значит, нейросети вполне могут меня обмануть, предъявив моему взору то, что я ожидаю увидеть в качестве творческого продукта живого человека. Но я уже осознал это, и настроился идти по пути преодоления этой трудности – во имя тех, кому ещё только предстоит осознать всё то, что я только что рассказал.

Приглашаю вас в попутчики. Августовский номер журнала за 2026 год, наполовину состоящий из стихов, нам в помощь.


Игорь Якушко (https://newlit.ru/~yakushko),
главный редактор журнала «Новая Литература»