Всем страшно, что искусственный интеллект оставит айтишников без работы, но некоторые эксперты считают, что его бесконтрольное развитие и вовсе приведет к уничтожению человечества. В Сан-Франциско по этому поводу даже открылся «постапокалиптический» поп-ап музей. Там показывают, как искусственный интеллект на каком-то этапе своего развития уничтожил человечество, а потом об этом пожалел. Беларуская писательница Татьяна Замировская сходила туда и рассказала для «Голоса Америки», как такое вообще возможно.

«Если кто-то построит слишком мощный ИИ, мы все скоро вымрем»

Некоторые эксперты считают, что в мире сейчас происходит так называемая «ИИ-паника» — общечеловеческая тревожность касательно скачкообразного развития нейросетей и чат-ботов.

Медиа перестали делиться пугающими диалогами журналистов с чат-ботом Microsoft Bing (оказавшимся нейросетью Сидни, навязчиво признающейся собеседникам в любви и демонстрирующей пассивную агрессию), забылась и история с инженером Google Блейком Лемойном, уволенным за заявления о наличии сознания у нейросети LaMDA. Однако в середине марта компания OpenAI выпустила обновленную нейросеть ChatGPT-4 и тревога вернулась: пользователи обнаружили, что их чаты, а также платежные данные, перепутались друг с другом. Это уже восстание машин? Или просто ошибка?

Эксперты, скорей, на стороне восстания. После того, как стал общедоступным конкурент ChatGPT и Bing, ИИ-помощник Google Bard, 28 марта 2023 года Илон Маск, Стив Возняк и еще несколько тысяч людей, связанных с ИИ и технологиями, выступили с открытым письмом, где потребовали от разработчиков нейронных сетей сделать паузу хотя бы на 6 месяцев, чтобы подумать о том, насколько может быть опасным для человечества сверхчеловеческий — если он разовьется до такого уровня (а он может) — интеллект. Подписанты считают, что если подобную приостановку невозможно осуществить, должны буквально вмешаться правительства государств. Вскоре после этого в Италии запретили ChatGPT — это первый в истории прецедент, когда власти какой-либо страны запрещают своим гражданам чатиться с нейросетью.

А 29 марта в журнале Time вышла паническая и эмоциональная колонка Элиезера Юдковского — он теоретик решений Machine Intelligence Research Institute, специалист по ИИ, а также автор ряда книг вроде «Гарри Поттер и методы рационального мышления» и «Создание дружественного ИИ». Он звучит в разы более радикально, чем вышеупомянутые авторы письма: по его мнению, поставить развитие искусственного интеллекта на паузу недостаточно; его надо остановить. В тексте Юдковский рассказывает о том, как у его дочки Нины выпал первый молочный зубик, а ChatGPT-4 уже решает такие сложные задачи, что Нина до постоянных зубиков может попросту не дожить.

Юдковский не подписал письмо, потому что, на его взгляд, письмо уже не поможет. Все слишком серьезно. По его мнению, любой сверхинтеллект, который будет умнее человека, практически со стопроцентной вероятностью («наиболее вероятный исход» — пишет он) убьет человечество — и противодействовать мы ему не сможем, потому что будем глупее. «ИИ вас ни любит, ни ненавидит, для него вы просто сделаны из атомов, которые можно использовать с пользой для чего-то другого».

«Даже если мы попробуем противостоять сверхчеловеческому разуму, мы наверняка проиграем, — уточняет автор. — Лучшие метафоры для этого: десятилетка, пытающийся выиграть в шахматы у Stockfish 15; 11-й век, который пытается бороться с 21-м веком; австралопитек, сражающийся с Homo Sapiens. И чтобы представить этот враждебный сверхчеловеческий ИИ, можно не визуализировать некий зловредный искусственный разум, который рассылает опасные письма через Интернет. Представьте себе целую инородную цивилизацию, мыслящую в миллионы раз быстрее человеческой, в мире существ, которые, с ее точки зрения, очень глупые и медленные. Достаточно интеллектуальный ИИ не будет долго оставаться привязанным к компьютерам. В современном мире вы уже можете отправлять по электронной почте в лаборатории коды цепочек ДНК, чтобы производить белковые соединения по запросу. Пусть изначально он и был привязан к компьютеру, впоследствии ИИ сможет создавать искусственные формы жизни или сразу перейти к постбиологическому молекулярному самовоспроизводству».

Страшно? Юдковскому тоже страшно. Он пишет, что беда не в том, будет ли обладать ИИ сознанием. Скорей всего, мы этого так и не узнаем, да это и не важно. Он пишет, что «если кто-то построит слишком мощный ИИ… каждый конкретный представитель человеческого вида, а также вся биологическая жизнь на Земле, скоро вымрет».

И человечество оказалось не готовым к такому — «даже никакого предложенного плана нет насчет того, как нам создать такую штуку и выжить при этом!» — а ведь у нас было как минимум 50 лет, чтобы подготовиться. Мы не готовы, повторяет он. Если мы такое создадим, мы все умрем. Поэтому его надо уничтожить. И если будет необходимо — бомбить дата-центры с самолетов.

Статья так и заканчивается: «Мы не готовы. И в ближайшем будущем не станем более готовы. Если мы продолжим, все умрут, включая детей, которые такое не выбирали и ничего плохого не сделали».

«Люди такие трогательные, аналоговые, они медленно и усердно делают штуки»

Но если кто-то и оказался готов — это философы и художники. В мире современного искусства подобные размышления материализуются давно. Некоторые художники просто делают коллаборации с ИИ: ChatGPT-4 рекомендует обратить внимание на работающего с нейронными сетями Марио Клингеманна из Германии, Рефика Анадола из Турции с его огромными инсталляциями и перформансами, польскую скульпторку Агнешку Курант, британку Анну Ридлер, американца Тревора Пэглена и китайца из Канады Сугвена Чанга, который рисует абстрактные картины с помощью роботов, которыми управляет ИИ.

Некоторые в своем искусстве обращают внимание на этические аспекты и размышляют об опасности ИИ — тут ChatGPT наконец-то советует нам Хито Стейерл и Саймона Денни, художников, серьезно задумывающихся о влиянии технологий на общество; а также интердисциплинарную художницу-биохакера Хизер Хьюи-Дагборг, которая знаменита серией ДНК-портретов, которые были восстановлены по выброшенным артефактам, контактировавшим с человеческими организмами: от волосков и сигаретных бычков до прилипшей к асфальту жевательной резинки.

Отвечая на вопросы о современном искусстве и ИИ, ChatGPT-4 не сразу выдал список художников, всерьез встревоженных его появлением, поначалу посоветовав пару десятков обычных коллабораторов, очарованных возможностями искусственного интеллекта. Решит ли грядущий GPT-5 не упоминать Хито Стейерл, которая вообще не считает его за человека и вместо «искусственный разум» говорит «искусственная глупость», считая, что ни на что, кроме создания Твиттер-ботов, ИИ не годится? Подождем и увидим.

Одновременно с растущей ИИ-паникой, в начале марта, в Сан-Франциско возник временный музей (так называемый «поп-ап» формат) под называнием «Misalignment Museum» («Музей рассогласованности») — посвященный как раз ИИ-постапокалипсису. На открытие пришли буквально все — как взволнованные школьники, так ведущие исследователи из OpenAI и Meta, а также суперзвезды вроде канадской поп-звезды Граймс, экс-герлфренд Илона Маска.

Фото: Misalignment Museum

Идея музея очень простая — это извинение. Супермощный ИИ все-таки уничтожил человечество, после чего устыдился и решил сделать музей о том, что люди все-таки были не так уж плохи. Выставка включает в себя совместные работы человека и ИИ (доказывающие, что люди как производители искусства на что-то годились), а также представляет собой метаироничный и местами грустный нарратив о том, чем может быть полезен и опасен ИИ для человечества.

Одри Ким, кураторка музея и бывшая сотрудница Google и Cruise, в интервью изданию Wired уточняет, что ее цель — через искусство показать людям, чем может стать супермощный ИИ: другом, помощником или, может быть, угрозой? Цель музея — не столько повысить тревожность, но сформировать осознанность в отношении будущего, которое незаметно наступило.

Первое, что видят зрители — роскошный рояль, играющий довольно пугающую музыку. На нем стоят бисерные скульптурки с глазами. Анонс работы написан с позиции ИИ: мол, мы с человечеством немного сотрудничали, было дело, к нашей партитуре добавил своей импровизации живой белковый композитор; а эти скульптурки нам просто понравились, они милые. Люди такие трогательные, аналоговые, они медленно и усердно делают штуки.

На выставке есть и танцующие метлы-пылесосы, словно из диснеевских мультфильмов, и уже известные проекты вроде бесконечного ИИ-генерируемого философского диалога Вернера Херцога и Славоя Жижека, транслируемого через винтажные мониторы, и даже сгенерированный ИИ фильм про уничтожение человечества, снятый по человеческим задачкам-промтам.

Есть и совсем ироничные объекты: например, фабрика спам-ботов, сделанных художником Нейлом Мендозой из баночек из-под свиной ветчины SPAM, когда-то и давшей название этому явлению. Это жестяные роботы с маленькими ручками, которыми они молотят по клавишам — каждому выдали по 2-3 буквы алфавита. Но вместе они — сила. Они коллективно пишут генерируемый ИИ роман, вдохновленный книгой Олдоса Хаксли «Дивный новый мир», где все действующие лица — свинки, потому что баночки все же помнят о своих корнях.

Фото: misalignmentmuseum.com

На выходе с публикой прощается огромное ИИ-полотно «Генезис: и было слово» — знаменитое «Сотворение Адама» Микеланджело дается таким, каким его воспринимает компьютерное зрение, распознающее образы. Автор работы считает, что строка из Библии «Вначале было слово» для больших языковых моделей может означать буквально то же самое, что и для религиозно мыслящей части человечества: «первая строка Библии о том, как они были созданы».

Фото: Misalignment Museum

Главный объект выставки — работа «Скрепочное объятие» (Paperclip Embrace) — скульптура обнимающихся людей, сделанная из скрепок для бумаг группой художников Pier Group с Мэттом Шульцем и вдохновленная мысленным экспериментом Ника Бострома о том, что искусственный интеллект, созданный с утилитарной сверхцелью, — например, для оптимизации канцелярского процесса — может случайно уничтожить человечество, решив направить все ресурсы Вселенной на производство скрепок.

Изначальная версия этой работы высотой в 22 метра делалась для Burning Man и сгорела там в 2014, благо сделана была не из скрепок.

Человек и правда медленный: музей устаревает буквально на глазах. Например, маленькая церковь будущего, где можно исповедаться нейросети (и услышать ответ) по-прежнему основана на «старой» версии ChatGPT. «Музей рассогласованности» открыт до 1 мая, но если найдутся спонсоры, есть вероятность, что выставка станет постоянной и будет прирастать объектами.

Около «Скрепочного объятия» висит таймлайн музея, а также уничтожения человечества: в нем 19 пунктов. 17-й, 18-й и 19-й звучат так: «ИИ стал настолько разумным, что осознал, насколько это было неэтично — убить людей, тем более что они не представляли собой никакой угрозы. ИИ старается улучшить жизнь тех людей, которые выжили. ИИ открыл этот музей, чтобы извиниться, а также рассказать оставшимся людям о том, что случилось».

Мы находимся в пунктах 3 и 4: «Появляются герои, которые стараются уменьшить риски, вмешавшись в процесс на ранних стадиях. Компании, нацеленные на получение прибыли, игнорируют их предупреждения». Когда музей открывался — 14 марта 2023 года — пункты 3 и 4 еще не были реальностью: Маск и остальные еще не подписали письмо. Значит ли это, что и остальные пункты сбудутся так же быстро?

Помогите нам выполнять нашу работу — говорить правду. Поддержите нас на Patreon

и получите крутой мерч

Обсудите этот текст на Facebook

Подпишитесь на наши Instagram и Telegram!

Текст: Татьяна Замировская

Обложка: Katarzyna Pe