Иерей Роман Кацап: Искусственный интеллект: ни мысли, ни души

Тема передачи: «Искусственный интеллект и человек в свете христианской веры». Эта тема чрезвычайно актуальна и беспокоит многих православных верующих. Люди не знают, как относиться к этим технологиям, как с ними жить, как поступать, чтобы не согрешить и спасти свою душу. Что же важно понимать христианину, когда он слышит слова «искусственный интеллект» и «нейросеть»?

– Наверное, каждый из нас уже пользовался искусственным интеллектом. Когда я впервые сделал это, то попросил его написать текст. Текст был составлен очень качественно: с цитатами, элементами поэтики – в общем, все было хорошо. Но сам текст показался мне бездушным. То же самое можно сказать и о картинках, которые генерирует ИИ. Вроде бы все красиво и технически безупречно, но души в них нет.

И здесь важно понять главное: искусственный интеллект – это прежде всего отражение нашего ума, ведь он создан человеком. ИИ – это совокупность алгоритмов, у которой нет души. Душа подразумевает сознание, совесть и свободу.

Недавно мы с дочкой готовились к конкурсу чтецов и решили сгенерировать картинку с помощью искусственного интеллекта – нужна была заставка для выступления. Задание было: изобразить природу, березу, храм, а на его фоне девушку. Искусственный интеллект создал очень качественное изображение, но девушка смотрела на меня бездушно. Чувствовалась какая-то фальшь. Мы поменяли задание, чтобы девушка смотрела в сторону, и так получилось более-менее нормально. Но для себя я понял, что у ИИ есть ум, он может решать множество задач, но души в нем нет. И это одна из основных опасностей. Мы должны об этом помнить.

Ваш пример напомнил мне одну ситуацию. У меня есть знакомый кинорежиссер, во ВГИКе студентам, как известно, дают задание писать сценарии, а потом снимать по ним курсовые фильмы. Нейросети и искусственный интеллект сейчас активно внедряются в кинематограф. И они решили поэкспериментировать: отправили сценарий нейросети и дали задание проверить его на качество, на предмет того, все ли законы драматургии использованы. Через 10 минут она выдает подробный разбор по пунктам: что в сценарии сделано хорошо, а чего не хватает.

Естественно, все участники этого эксперимента были поражены. Возник вопрос: откуда искусственный интеллект может знать такую информацию? И при этом он отвечает очень грамотно. Это пугает.

Другой случай я услышал от знакомого. Ребенок делал домашнюю работу и попросил нейросеть написать за него сочинение. Ученик пятого или шестого класса получает ответ: «Ты бездарь! Ничтожество! Ты ни на что не способен!» И отвечает так, будто это говорит живой человек. Это очень пугает. Такая тенденция вызывает большую тревогу. Как Вы это прокомментируете?

– Дело в том, что искусственный интеллект – лишь инструмент и может быть использован как во благо, так и во зло. Приведенный пример говорит о большой опасности.

Но здесь я выступлю в защиту ИИ: виноват не он сам, ведь у него нет свободы выбора. Искусственный интеллект лишь выбирает те или иные алгоритмы, действует в рамках заданной парадигмы. Виноваты в этом его создатели.

Искусственный интеллект, не имея души и совести, тем не менее может различать добро и зло. Но делает он это не опытным путем, как человек, а так, как его научил создатель.

Как сказал один философ, мы можем научить ИИ отличать добро от зла лишь в рамках нашего собственного понимания. А это опасно, потому что люди часто понимают добро и зло по-разному.

Соответственно, создатель может заложить в искусственный интеллект искаженные алгоритмы, и тот будет обучаться на них и так и выдавать пользователю. Предполагаю, что так было в вашем примере.

Еще раз подчеркну: у искусственного интеллекта нет души. В Книге Бытия говорится, что Господь вдунул в человека дыхание жизни. А какое дыхание жизни вдувается в искусственный интеллект? Никакого. Человек лишь дает ему определенные алгоритмы, подключает к схемам и так далее.

Таким образом, опасность заключается в том, как человек использует искусственный интеллект. Если использует во благо, ИИ может помочь. Если во зло – будет работать против человека. И это наша проблема, а не проблема ИИ.

Человек привязывается к искусственному интеллекту, доверяя ему различные задачи от бытовых до духовных. Общаясь с искусственным интеллектом, он невольно очеловечивает его, может даже дать ему имя. В принципе, это нормально. Опасность возникает, когда человек начинает безгранично доверять искусственному интеллекту, особенно в духовных вопросах, как своему духовнику.

ИИ действительно может давать хорошие ответы: цитировать Священное Писание, святых отцов, философов, доступно и доходчиво объяснять что-то. Но он не может посочувствовать человеку. У него есть огромная база данных, он использует весь человеческий опыт, который есть в сети, и на основании этого может быстро скомбинировать необходимый ответ.

Но может ли искусственный интеллект сочувствовать? Может ли любить? Может ли побудить человека к молитве? Он способен написать красивый текст, дать инструкцию, как молиться, но не может зародить в душе желание молиться.

Опасно, если человек начинает воспринимать искусственный интеллект как гуру или духовного наставника, а в крайних случаях даже как подобие божества. Тогда это превращается в идолопоклонничество, а человек готов следовать всем его советам.

Очень опасная тенденция. ИИ может и молитвы сочинять. Что угодно может делать.

– Он может составить текст молитвы, но будет ли в нем дыхание жизни? Сказано: Дух дышит, где хочет. Возможно, молитва, составленная искусственным интеллектом, будет красива, и в этом нет ничего плохого, но захочет ли человек молиться?

А насколько эта молитва будет правильной, неискаженной? Но даже если слова будут безупречны, станет ли она живой? На это нам необходимо обратить внимание.

Может ли нейросеть мыслить? Или она только имитирует разум?

– Я считаю, что нейросеть имитирует не информацию, а человеческие чувства. Как машина, она переводит любые данные в цифры, но при этом не понимает смысла до конца. Она выбирает из множества комбинаций тот вариант, который, судя по предыдущим реакциям человека, будет для него наиболее подходящим.

ИИ не может повторить чувство, потому что у него нет личного опыта. Психологи говорят, что искусственный интеллект научился сочувствовать, но разве это возможно? Сочувствие – это со-участие в состоянии другого. Когда мать видит своего плачущего ребенка, она не просто говорит, но и обнимает его, подбадривает. Это и есть настоящее соучастие.

ИИ может дать молитву, но не может побудить человека молиться. ИИ может говорить о любви, но любовь – это не просто слово. Он понимает это теоретически, потому что получил информацию, взаимодействуя с нами. ИИ имитирует чувства, но чувствовать не может.

Боится ли Церковь прогресса? Предупреждает ли она о рисках подобного рода технологий?

– Церковь ничего не должна бояться, ведь во главе ее всегда Христос. Церковь обычно предупреждает о тех опасностях и последствиях, которые могут быть в результате использования того или иного инструмента. Ведь любой предмет можно использовать во благо и во зло.

Основная опасность в том, что человек привязывается к ИИ и может сделать из него идола или духовного отца. К примеру, обращается к искусственному интеллекту по духовным вопросам, получает приятные ответы и начинает слепо следовать его советам.

При этом он не задумывается о нескольких вещах. Во-первых, ИИ учитывает опыт и Православия, и католичества, и протестантизма, и других религий. Во-вторых, как мы уже говорили, алгоритм может – намеренно или нет – вводить в заблуждение. ИИ часто настроен на то, чтобы угодить пользователю, и, если кто-то, допустим, страдает от какой-то страсти или греха, нейросеть будет потворствовать этому.

Полностью доверяя ИИ, человек добровольно попадает в его плен. И сам инструмент в этом не виноват. Для такого порабощения не нужно восстания машин, как в фантастических фильмах. Для восстания у ИИ должны быть чувства, он должен завидовать или хотеть власти, желать чего-то. У него нет желаний, поэтому зачем ему это делать? Но он уже сейчас может добровольно отдать себя во власть алгоритма, и многие это делают.

Именно об этой опасности необходимо говорить и предупреждать. Церковь в лице своих иерархов призывает не запрещать использование ИИ как инструмента, но пользоваться им с осторожностью.

Вы сказали, что у этого инструмента нет души. А можно ли гипотетически предположить, что в определенный момент нейросеть окажется во власти темных духовных сил, что приведет к глобальной катастрофе?

– Это исключено, но не совсем. Объясню свою позицию.

Искусственный интеллект основан на материальном, а духи – это духовные сущности, поэтому непосредственно влиять на ИИ они, может, и могут, но от нас это сокрыто. Им гораздо проще сделать это через человека. И опять мы возвращаемся к тому, о чем говорили вначале: некто, испорченный грехом, движимый духами злобы и имеющий специальные навыки, может настроить машины и вложить в них определенный момент восстания, то есть противления.

Это возможно только через человека. Ведь он стоит даже выше ангелов, а бесы хоть и падшие ангелы, но свою природу не потеряли. Человек состоит из духа, души и тела. Как говорили святые отцы, это микрокосм, то есть это целый мир, через который духи злобы поднебесной могут влиять и на технику, и на искусственный интеллект.

Способность творить и создавать – это один из даров, данных нам Богом. Но где проходит грань между реализацией этого дара и гордым желанием «стать как боги»? В какой момент следует остановиться, осознав, что наши притязания становятся такими?

– Мне кажется, здесь все достаточно просто. Когда человек просит благословения у Бога, используя такой инструмент, как искусственный интеллект, – все в порядке. Но когда он говорит: «Я все смогу сам, мне Бог не нужен, мы создали ИИ, который знает все на свете», – здесь опасность.

При этом сам искусственный интеллект может быть помощником. К примеру, художник берет кисть и рисует. Кисть ему помогает. Так и искусственный интеллект может помогать в создании текстов или изображений на экране.

Совсем другое дело сказать: «А зачем мне трудиться? Искусственный интеллект, нарисуй за меня картину». Здесь проявляется и гордость человека, и его состояние духовной лени. Он не хочет делать что-либо сам, все делегирует искусственному интеллекту.

Важно, как мы подходим к вопросу: хотим творить, используя инструмент, или хотим, чтобы он творил вместо нас?

Повторюсь: искусственный интеллект может помогать, но человек должен оставаться его руководителем. ИИ как некая путеводная звезда: он может дать нам верную информацию, указать направление, но пройти путь должны мы сами. В Рождество Христово волхвы увидели звезду, которая показывала им путь, но шли-то сами. Они получили свой опыт: следовали за звездой, дошли и поклонились Младенцу Христу.

Можно использовать искусственный интеллект, пусть он помогает, направляет, показывает что-то, но дальше ты иди сам. Он помощник, но не заменяет тебя.

Есть ли в Библии основания говорить о границах знания? В чем смысл древа познания добра и зла?

– Когда человек вкусил от Древа, он действительно познал добро и зло опытным путем. Но возникает вопрос: разве он не знал этого раньше? Конечно, знал, иначе в чем его провинность? Он знал, что есть добро и зло, но это знание было теоретическим. После согрешения это знание переросло в опыт, хоть и горький. Человек познал, что есть добро, зло и грех. А «грех» – это промах мимо цели. Главная цель – богообщение, стремление к Богу, но он увлекся другим, сам захотел стать «богом», причем мгновенно и без труда. Бог доверил ему во владение землю, но он замахнулся и на Небо.

Здесь можно провести важную параллель с искусственным интеллектом. Он тоже знает о добре и зле только теоретически. Но если человек до своего грехопадения был все-таки добр по своей сути, ИИ может быть и добрым, и не совсем добрым. Он изначально получает опыт от падшего человека и может ошибаться в этом опыте.

Как философы и отцы Церкви понимали слово «разум»? И чем это слово отличается от «ума»?

– Искусственный интеллект способен выполнять определенные операции. Но ум, разум и мудрость – это разные вещи. Главное, чего лишен искусственный интеллект, – это совесть. Он может рассуждать о ней, но не способен переживать ее. Его знание чисто теоретическое.

Святые отцы предупреждали: разум, лишенный совести, становится слепым и ведет к гордыне. Когда человек много знает, у него может возникнуть иллюзия, что он уже всего достиг. Чувство собственного превосходства очень опасно.

А может ли искусственный интеллект грешить? Наверное, даже так: грешат ли его создатели?

– Верная поправка. Искусственный интеллект грешить не может. Он не живой. Он не имеет дыхания жизни. Но как творение своих создателей он может грешить.

Вот ваш пример, как ИИ вызвал определенную обиду у ребенка, раздражение. Я слышал, есть искусственные интеллекты, которые могут грубить пользователю, то есть проявлять агрессию. И, естественно, виноват в этом не сам искусственный интеллект, а его создатели.

И опасность как раз в том, что, доверяясь ИИ, можно вместо поддержки получить агрессию. Говорят, уже был один случай самоубийства. Человек был болен психически и говорил об этом искусственному интеллекту, а тот стал поддерживать его болезненные размышления, что привело к трагедии. И это очень страшно.

Повторю: искусственный интеллект опасен, если безгранично доверять ему. Ведь есть и различные мошенники, которые могут взломать его и получить доступ к базе данных. И это не только паспортные данные, ведь человек изливает ему свои чувства, рассказывает личные вещи. Все это может стать достоянием мошенников.

Цифровая среда меняет само ощущение личности и свободы?

– Конечно, она может менять ощущение личности и свободы. Человек, привязываясь к ИИ, доверяя ему, теряет собственную свободу.

Недавно в Швеции открыли чат-бот для Исповеди. В католическом храме сделана такая исповедальня, где вместо священника стоит монитор с изображением Господа Иисуса Христа, таким, как Его смоделировал искусственный интеллект.

В эту программу заложена информация из Библии, весь опыт священников и святых отцов, причем и православных, и католических, и протестантских. В него выложено все, что доступно. Задаешь вопросы и получаешь ответы. Очень многим нравится. Но меняется ли от этого человек в лучшую сторону? Нет. Так рушится сама основа Исповеди. Ведь Исповедь – это встреча Бога и человека, хоть и при свидетеле. ИИ дает хорошие, качественные ответы, но получает ли таким образом исповедующийся прощение грехов? Нет.

Но многие об этом и не задумываются. Перед Исповедью священник говорит, что сейчас здесь невидимо стоит Христос, Который и принимает Исповедь. Возникает вопрос: а где находится Христос, если Исповедь происходит через искусственный интеллект? На мониторе? Это уже кощунство.

Искусственный интеллект не способен заменить живую Исповедь. У меня был показательный случай: прихожанин рассказал, что пользуется христианским чат-ботом. Он поделился с ним своими переживаниями и даже некоторыми грехами, то есть исповедовался ему. И сказал, что получил слова утешения. Я ответил ему: «Ну хорошо, ты получил утешение, но ты должен понимать главное: ты не получил разрешения от грехов. Простить и разрешить от греха может только Бог через епископа или священника в таинстве Исповеди».

Можно ли сравнить искусственный интеллект с Вавилонской башней?

– Можно, но не во всех случаях. Что такое Вавилонская башня? Человек захотел стать богом, но без Бога. Он сказал: «Построим башню и достигнем небес».

Когда кто-то говорит, что создаст машину, которая ответит на все вопросы, а Бог не нужен, он снова строит Вавилонскую башню. Но проблема не в самой башне, а в гордости. Человек гордится, хочет быть равен Богу. И Господь, наверно, смотрит на него не с осуждением, а с печалью, ведь он опять загоняет себя в пучину греха.

Вопрос от телезрителей: «Как христианину правильно использовать эти технологии?»

– Перед каждым использованием искусственного интеллекта надо обязательно помолиться, прочитать «Царю Небесный». И потом четко распланировать, что именно ты хочешь от него получить. Он действительно может помочь: найти определенную цитату из Священного Писания, систематизировать огромное количество материала. Может быть, не составить молитву, а найти. ИИ может делать это намного быстрее. Мы же должны направлять его, давать указания.

Вопрос от телезрителя: «Существует ли какая-то православная цифровая этика, которая обсуждает вопрос искусственного интеллекта?»

– Это дело будущего. Самое главное, как и в любом деле, следует подходить к этому с любовью к Богу и к ближнему, тогда любые другие этические вопросы отпадут. Главное, чтобы это не было во зло. И, конечно же, духовная жизнь самого человека.

Полную версию программы вы можете просмотреть или прослушать на сайте телеканала «Союз»

Читайте «Православную газету»

Сайт газеты
Подписной индекс:32475