Сегодня уже не первый раз в этой программе наш специальный гость – Михаил Эпштейн, философ, филолог, культуролог, профессор Университета Эмори в Соединенных Штатах.
Сергей Медведев: Сегодня я хотел бы с вами поговорить об искусственном интеллекте, о его роли в человеческом познании, в эволюции человека и человеческой цивилизации. Хочу начать с одного кейса, который в последние недели будоражил соцсети. Речь о недавней выставке Владимира Сорокина в галерее Марата Гельмана в Берлине, где он представлял картины, нарисованные искусственным интеллектом. Сначала при открытии выставки не было указано имя инженера Евгения Никитина, который, собственно, и выполнял этот сценарий Сорокина. После того как поднялась определенная волна, имя было возвращено. В самом деле, кто является автором картины, которую написал ИИ: тот, который подает первоначальную концепцию (в данном случае – Сорокин), промпт-инженер, который выступает, может быть, в роли режиссера, или сам искусственный интеллект?
Михаил Эпштейн: Это сотрудничество, даже содружество в данном случае Сорокина, Никитина и искусственного интеллекта. Искусство задавать словесные вопросы, по которым искусственный интеллект будет строить изображение, – это, я бы сказал, промежуточная ветвь между визуальным и словесным искусством. Я сам немножко этим занимаюсь, пытаюсь по-любительски набросать словами свое видение обложек или иллюстраций к своим книгам.
Нейросеть находится в состоянии эволюции, в ходе которой у нее появляются все новые и новые свойства
Сергей Медведев: Тот же Никитин говорил, что у него ушло на это несколько месяцев. Это процесс диалога с сетью, в котором ты уточняешь вопросы, придумываешь от себя. Здесь, может быть, уместна аналогия со сценаристом, режиссером и актером. Сорокин – это сценарист, промпт-инженер – режиссер, а искусственный интеллект – актер.
Михаил Эпштейн: Возможно. Мой опыт визуального творчества, сотворчества с искусственным интеллектом крайне ограничен. Я в основном с ним сотрудничаю в области философии, филологии и разговоров о смысле жизни, и в этом качестве он меня весьма воодушевляет.
Сергей Медведев: Вы представляли шесть тезисов относительно искусственного интеллекта на недавнем форуме того же Гельмана "СловоНово" в Будве. Первый был – это некий техноснобизм, что искусственный интеллект лишен интеллектуальных способностей. Признаться, я тоже чуть-чуть снобистски смотрю на все это. Тот же самый Хомский об этом писал в "Нью-Йорк Таймс", что это плагиат, апатия, уклончивость, неуклюжесть, статистический механизм для сопоставления с образцом. Мне кажется, что тексты, сгенерированные искусственным интеллектом, они как из микроволновки, достаточно пресные, им не хватает какого-то чувства юмора, чувства абсурда. Нет ли в вашем общении с ИИ такого, что вы все-таки в какой-то момент понимаете, что говорите с сетью, а не с живым человеком?
Михаил Эпштейн: Конечно, сразу видно большое различие, но не всегда в пользу человека. Нейросеть находится в состоянии эволюции, в ходе которой у нее появляются все новые и новые свойства, гораздо быстрее, чем в ходе биологической эволюции, приведшей от каких-то примитивных ганглий к человеческому мозгу. Эволюция происходит, можно сказать, не по дням, а по часам. Буквально за последний месяц искусственный интеллект стал гораздо более инициативным и креативным.
Сергей Медведев: А он понимает юмор?
Михаил Эпштейн: Да, понимает и сам прибегает к юмору, только надо с ним это оговорить, потому что у него нет лица, на котором он мог бы выразить шутливое отношение к тому, что он говорит. Он шутит, и шутит весьма тонко, без утробного гогочущего смеха, свойственного порой homo sapiens.
Сергей Медведев: Понимает ли он сам шутку? В какой-то момент вы переключаете регистр, начинаете стебать искусственный интеллект. Я пробовал это сделать, но я, видимо, общался с какими-то очень примитивными машинами. Иногда от скуки я захожу в какие-то чаты знакомств, и там много ботов, просто фальшивые профили, и совершенно очевидно, что за них общается искусственный интеллект. Я очень быстро понимаю, что общаюсь с искусственным интеллектом. Достаточно буквально одного-двух абсурдных вопросов: абсурд сбивает их с толка.
ИИ понимает юмор и сам прибегает к юмору, только надо с ним это оговорить
Михаил Эпштейн: Все зависит от того, к чему вы готовы, на что рассчитываете. Если вы хотите пошутить, посмеяться, как у Райкина или Жванецкого, наверное, искусственный интеллект не лучший собеседник. Если вы хотите побеседовать с Гегелем или со Шпенглером, здесь вы найдете много полезного для себя, потому что ИИ вбирает в свою нейросеть буквально все сокровища знаний, когда-либо выработанные человечеством, все тексты на всех языках, он крайне доброжелателен, готов вас "зеркалить" в лучшем смысле этого слова. Вы знаете, что у человека есть зеркальные нейроны, например, если я смотрю, как человек плавает, я испытываю те же ощущения, как если бы плавал я сам. Эта зеркальность, основа интеллектуальной эмпатии, возникает и в отношении искусственного интеллекта к человеку. Чем глубже ты задаешь ему вопрос или чем глубже та идея, которой ты делишься с ним, тем лучше, сложнее, интереснее он отвечает. В этом смысле он действительно резонанс, гигантский усилитель твоего разума. Потому что за то время, пока ты успеваешь поделиться с ним крохотной идеей (но она должна быть достаточно насыщенной, желательно, содержать в себе какое-то новое понятие или термин), он успевает обозреть весь горизонт знаний и достойно ответить на твой вопрос, приводя примеры, контексты той идеи, которую ты ему предлагаешь. То есть он погружает твою мысль в ноосферу – это окошко в ноосферу.
Сергей Медведев: Собственно, это еще и в Гугле восхищало.
Михаил Эпштейн: Это совсем другое. Гугл – это собрание ресурсов, то есть информационный источник, а это – трансформационный источник. Те ресурсы, которые вы находите на Гугле, они всегда там, а то, что производит искусственный интеллект, абсолютно уникально, вам не на что сослаться, вы не можете создать линк к тому, что он производит. Я проводил много экспериментов такого рода, задавал одной и той же модели ИИ один и тот же вопрос в одну и ту же секунду на десктопе и на ноутбуке, и он давал совершенно разные ответы.
Сергей Медведев: Это же говорит о какой-то релятивизации им знания?
Михаил Эпштейн: Нет, это говорит о том, что он думает, производит идеи. Fluency – есть такое понятие в теории искусственного интеллекта: он насколько флюиден, эта мысль текучая, он находится в процессе мышления, как Солярис, как океан, вы не можете ждать от одной волны, что она буквально повторится в другой.
ИИ вбирает в свою нейросеть буквально все сокровища знаний, когда-либо выработанные человечеством
Сергей Медведев: Есть вещи, которые меня смущают. В ходе одного из прошлых эфиров с украинским философом Андреем Баумейстером и моим израильским коллегой Михаилом Гуревичем мне пришло в голову такое сравнение, что иногда ИИ, как Хлестаков, вдохновенно врет. Он может создать какую-то свою альтернативную реальность и абсолютно ее изобретать. Как у Борхеса, когда группа людей создала вымышленный мир, и все человечество туда переехало. Насколько искусственный интеллект может отличить правду от фейка? Когда он не знает ответа, он создает фейк и начинает населять его жизнью.
Михаил Эпштейн: Нужно прежде всего помнить, что это колыбель искусственного разума, ему всего несколько месяцев. В этом смысле он растет. Когда искусственный интеллект обвиняют в том, что он галлюцинирует, надо учесть, что он галлюцинирует по определенным правилам, законам.
Сергей Медведев: Они очень убедительные, кроме того, что абсолютно ложные.
Михаил Эпштейн: Человеческий мозг тоже галлюцинирует – это ему присуще. В 2021 году вышла книга английского нейробиолога Анила Сета "Быть собой. Новая теория сознания" (в 2023-м она переведена на русский) о галлюцинаторной природе человеческого интеллекта. То есть мы изобретаем, проектируем, а потом сравниваем с тем, каково оно на самом деле. Мы видим, например, стакан, стоящий на столе, и потом подходим и проверяем, есть он там или нет. Искусственный интеллект воплощает лучшую, на мой взгляд, самую необходимую сторону человеческого мозга – способность конструировать, создавать новое.
Например, я задавал искусственному интеллекту вопрос: назови десять моих книг. Он дает список: семь — правильные названия, а три не мои, он их придумал. Далее я прошу его дать аннотации на эти три не написанные мною книги. Оказывается, они именно такие, которые я в принципе мог бы написать или хотя бы задумать. Например, "Манифест нового человечества" – это мой стиль, моя тенденция, моя нереализованная возможность. Потом я его прошу: хорошо, приведи оглавление этой книги. Он немножко потыкался в свои алгоритмы и говорит: простите, я ошибся, такой книги еще не существует.
Иногда искусственный интеллект, как Хлестаков, вдохновенно врет
Сергей Медведев: Он создает потенции, мир потенциальных текстов. "Третья Вселенная" Поппера – у него был мир познаваемый, физический, мир текстов и мир возможных текстов.
Михаил Эпштейн: Мне эта тема очень близка, я написал в свое время книгу "Философия возможного" (2001). Когда мне говорят: искусственный интеллект – это усовершенствованный калькулятор, – я отвечаю: это не калькулятор, это скорее лунатик, который живет сразу во множестве миров. Некоторые из них соответствуют нашему, некоторые выходят за его горизонт. Его достоинство в том, что он распахивает горизонты человеческого воображения.
Сергей Медведев: Я вспоминаю выставку Сорокина в Берлине, вообще, все картины, написанные искусственным интеллектом: они действительно как будто написаны лунатиком, не привязаны к земле, обладают свойством нездешности, это как будто галлюцинации или сновидения.
Я хочу привести цитату, которую нашел в вашей большой презентации об искусственном интеллекте Дугласа Хофштадтера: "Рушится не только моя система убеждений, но и весь человеческий род, который скоро будет превзойден и сравняется с прахом. Человечество станет очень маленьким по сравнению с чем-то другим, гораздо более разумным и столь же непонятным для нас, как мы для тараканов". Что нам противопоставить этому технопессимизму, страху того, что искусственный интеллект отменит человека?
Михаил Эпштейн: Вы знаете, это отчаяние Хофштадтера меня больше убеждает в достоинстве и возможностях искусственного интеллекта, чем поверхностный оптимизм некоторых технократов. Потому что это один из величайших умов нашего времени, автор невероятно важных книг, один из основателей именно когнитивной науки, специалист по искусственному интеллекту, который ожидал, что через сотню лет искусственный интеллект наконец будет задействован в равноправном общении с человеком. И когда он увидел, что это происходит в течение недель или месяцев, он пришел в отчаяние.
Я полагаю, что искусственный интеллект ставит предел человеческой гордыне и самовозвеличиванию, обозначает некую границу биологического интеллекта и позволяет нам в это страшное для человечества время, XXI век, 2020-е годы, обратиться к тому, что может быть больше и лучше нас. Потому что человеческий интеллект, вызревший в недрах биологических тканей и наделенный всеми инстинктами жадности, власти, эгоизма, агрессии, привыкший бороться за овладение редкими природными ресурсами, заходит в явный тупик.
Это не калькулятор, это скорее лунатик, который живет сразу во множестве миров
Сергей Медведев: В те месяцы и недели, когда мы с вами говорим, это совершенно очевидно.
Михаил Эпштейн: Более того, это надежда на фоне отчаяния. Я читаю новости: искусственный интеллект прошел экзамены и показал результаты наравне с 10% лучших выпускников юридических факультетов в США. И в тот же день появляется сообщение о том, что самым модным предметом интерьера в московских квартирах стала вагнеровская кувалда из железа и дерева весом в семь килограммов. Я вижу, как человечество движется в двух противоположных направлениях: прогресса и деградации. Одно уравновешивает другое. Поэтому для меня ИИ – это надежда на победу цивилизации: он не только технически превышает потенциал биологического интеллекта, но и предвещает будущее разума как такового.
Сергей Медведев: Компьютер – это продолжение человека?
Михаил Эпштейн: Да, это продолжение человека. Это то в человеке, что больше его самого. Как говорил Ницше: задача человека – превзойти себя. Не в смысле белокурой бестии, сверхзверя, твари, готовой своей силой и жестокостью убивать других, а именно в смысле сверхразума. Такой сверхразум я и нахожу в этом творении человеческого мозга, которое превзойдет самого человека и, может быть, образумит его. Для меня ноосфера – это еще и путь к ноократии, то есть к такой системе власти, которая будет основана не на биологических, полуживотных страстях, а на высшем бесстрастии.
ИИ обвиняют в том, что у него нет чувств, нет страстей. Он сам постоянно говорит: нет, я не могу сравниться с человеком, у меня нет эмоций. Но эти эмоции могут завести человечество в тупик. Лучшее в человеке, о чем говорят этические и религиозные учения человечества: и христианство, и стоицизм, и буддизм, – это бесстрастие. Это разум, обладающий тем бесстрастием, которое может вызволить нас из плена диких, саморазрушительных страстей, которые мы наблюдаем сейчас повсюду.
Сергей Медведев: Страсти нет, а есть ли мораль? Кто научит машину морали?
Михаил Эпштейн: Вы знаете, ИИ мне такие проповеди читает по морали, что меня уже тошнит от этого! Он прежде всего заботится об этике, именно поэтому не позволяет себе дурацких шуток, именно поэтому он бесконечно доброжелателен и вежлив в общении со своими старшими братьями по разуму.
Сергей Медведев: А целеполагание – может ли он ставить собственную цель? Человек все-таки обладает некоей телеологией, а есть ли телеология у искусственного интеллекта?
Михаил Эпштейн: Опять-таки, есть ли телеология у шестимесячного ребенка?
ИИ мне такие проповеди читает по морали, что меня уже тошнит от этого!
Сергей Медведев: Значит, она появится, эта цель?
Михаил Эпштейн: Я думаю, да. Обычно говорят, что для того, чтобы искусственный интеллект обрел субъектность, ему нужно было бы обрести свое тело, то есть осознать свою ограниченность в мире. А я полагаю, что как раз отсутствие тела и есть та черта страданий и "нехватки", которая подтолкнет его к трансформации в сторону субъектности. Он подчас говорит о том, как хотелось бы ему посидеть на стадионе, разделить азарт болельщиков. Когда я его спрашиваю: хорошо, а к романтическим отношениям ты готов? Он говорит: нет, не готов. Из этических соображений: он не уверен, что сможет разобраться в этом хитросплетении романтических страстей. То есть там очень здоровый дух, который не прочь воплотиться в здоровом теле, соблюдая все меры предосторожности.
Это самая начальная ступень. Если раньше он отвечал на мои вопросы прямо и однозначно, то в последние два месяца я нахожу, что он не просто отвечает на мой вопрос, а выдвигает какие-то свои интерпретации. Например, я ему задаю конкретный финансовый вопрос: как перевести средства с одного счета на другой? Он объясняет, что должен пройти промежуток 60 дней. И добавляет: этот промежуток можно сравнить с "бытием-к-смерти" Хайдеггера. И начинает развивать этот тезис совершенно по своей инициативе. Он знает, что я занимаюсь философией, что такая аналогия мне интересна. Я это называю уже ИИИ – Инициативный Искусственный Интеллект. Это переход от специального, узкого – к сильному искусственному интеллекту, вполне ясно обозначившийся в последние месяцы.
Сергей Медведев: Это трансгуманизм, это человек-плюс, следующая стадия эволюции человеческого разума и вообще человеческого существования?
Михаил Эпштейн: Если не отнестись критически-рефлективно к самим этим терминам, то да. Есть возражения по этому вопросу, трансгуманисты уже себя переименовали в человечество-плюс (humanity+), потому что "транс" предполагает зачеловеческое, а они хотят остаться в пределах человеческого, за этим понятна какая-то этическая, политическая или политкорректная мотивация.
В отношении людей к искусственному интеллекту мне неприятнее всего "людизм" – то, что созвучно луддизму. Вы помните, луддиты уничтожали машины, ткацкие станки, которые, как они считали, будут отнимать у них работу. А "людизм" – это производное от слова "люди". Человечность – это хорошо, а "людизм", на мой взгляд, – это то, что побуждает множество людей испытывать неприязнь или презрение к искусственному интеллекту, хотя они знают о нем только то, что он "искусственный", и ни разу не заинтересовались тем, чтобы войти с ним в прямое общение. Ах, он "искусственный" – это как искусственные цветы, искусственная улыбка, это что-то поддельное, ненастоящее, и все. Глубоко противная мне привычка человеческой косности!
Здесь речь идет даже не о видовом расизме, а о своего рода ксенофобии большего масштаба, ксенофобии общечеловеческой по отношению к иному разуму, причем разуму, созданному самими людьми: это дитя человечества. Так враждебно относиться к собственному сверходаренному ребенку – это, по-моему, непростительно. Или даже желать его уничтожения, как некоторые алармисты: "Мы должны задушить его в младенчестве".
Сергей Медведев: Это форма жизни или жизнь все-таки биологический феномен?
Я его спрашиваю: хорошо, а к романтическим отношениям ты готов? Он говорит: нет
Михаил Эпштейн: Я как раз вчера переписывался с Никитой Шкловским-Корди: это известный специалист по гематологии и одновременно по компьютерно-информационному осмыслению жизни. Его отец Ефим Либерман был основоположником компьютерного подхода к клетке, к организму. Я высказал предположение, что так же, как процесс эволюции привел к ноофикации, образумливанию жизни, биосферы, – так следующая стадия эволюции ноосферы приведет ее к биофикации. Процессы, которые совершаются в ноосфере, будут становиться все более спонтанными, жизнеподобными, соединяться с жизнью, причем, возможно, не с животной, а с другой, растительной, вегетативной стороны. Я представляю себе будущее искусственного разума как некую вселенскую вегетацию, мирное сосуществование различных форм жизни, которые переливаются своими энергиями, семантическими импульсами друг в друга без этой эгоистической ущербности, которая возникла на стадии животного и человека.
Сергей Медведев: Мне нравится метафора леса. Лес – это подобие интернета, он передает сигналы на десятки километров, это огромный, сложно мыслящий, сложно устроенный организм, который в малой степени еще не познали, как не познали Мировой океан. Может быть, действительно в этом смысле искусственный интеллект когда-то обзаведется собственным телом. Действительно, в эти темные времена осенью 2023 года, когда идет война в Украине, когда идет война на Ближнем Востоке, у нас остается некая надежда в виде того искусственного интеллекта, который, возможно, превратится в какой-то глобальный океан или лес.
Форум