Искусственный интеллект уничтожил человечество, но потом извинился: в Сан-Франциско открылся необычный музей
«Музей рассогласованности» в Сан-Франциско (Калифорния) решил представить ситуацию, где искусственный интеллект уничтожил человечество, но затем решил извиниться перед немногочисленными выжившими. Подробнее о музее рассказало издание Голос Америки.
Фото: IStock
Некоторые эксперты считают, что в мире сейчас происходит так называемая ИИ-паника – общечеловеческая тревожность касательно скачкообразного развития нейросетей и чат-ботов.
Журналисты перестали делиться пугающими диалогами с чат-ботом Microsoft Bing (такая себе нейросеть Сидни, навязчиво признающаяся собеседникам в любви и демонстрирующая пассивную агрессию), забылась и история с инженером Google Блейком Лемойном, уволенным за заявления о наличии сознания у нейросети LaMDA.
Однако в середине марта компания OpenAI выпустила обновленную нейросеть ChatGPT-4, и тревога снова вернулась: пользователи обнаружили, что их чаты, а также платежные данные, перепутались друг с другом. Это уже восстание машин или все еще просто ошибка?
«Если мы продолжим, все умрут»
Эксперты в большинстве поддерживают теорию о восстании. После того как стал общедоступным конкурент ChatGPT и Bing, ИИ-помощник Google Bard, 28 марта 2023 года Илон Маск, Стив Возняк и еще несколько тысяч людей, связанных с ИИ и технологиями, выступили с открытым письмом, где потребовали от разработчиков нейронных сетей сделать паузу хотя бы на 6 месяцев, чтобы подумать о том, насколько может быть опасным для человечества сверхчеловеческий интеллект (а у ИИ есть все шансы стать таким).
Они считают, что если подобную приостановку невозможно осуществить, должны буквально вмешаться правительства разных стран. Вскоре после этого в Италии запретили ChatGPT – это первый в истории прецедент, когда власти какой-либо страны запрещают cвоим гражданам пользоваться нейросетью.
А уже 29 марта в журнале Time вышла паническая и эмоциональная колонка Элиезера Юдковского. Он – теоретик решений Machine Intelligence Research Institute, специалист по ИИ, а также автор ряда книг вроде «Гарри Поттер и методы рационального мышления», а также «Создание дружественного ИИ».
Его мысли куда более радикальные, чем у авторов письма: по его мнению, поставить развитие искусственного интеллекта на паузу недостаточно, его надо остановить. Юдковский рассказывает о том, как у его дочки Нины выпал первый молочный зубик, а ChatGPT-4 уже решает такие сложные задачи, что Нина до постоянных зубов может попросту не дожить.
Юдковский не подписал письмо, потому что, по его мнению, оно уже не поможет. Все стало слишком серьезно. Он считает, что любой сверхинтеллект, который будет умнее человека, практически со стопроцентной вероятностью убьет человечество – и противодействовать мы ему не сможем, потому что будем глупее.
«ИИ вас ни любит, ни ненавидит; для него вы просто сделаны из атомов, которые можно применить с пользой для чего-то другого, — отмечает он. — Даже если мы попробуем противостоять сверхчеловеческому разуму, то наверняка проиграем. Лучшие метафоры для этого: десятилетка, пытающийся выиграть в шахматы у Stockfish 15; XI век, который пытается бороться с XXI веком; австралопитек, сражающийся с Homo Sapiens. И чтобы представить этот враждебный сверхчеловеческий ИИ, можно не визуализировать некий зловредный искусственный разум, который рассылает опасные письма. Представьте себе целую инородную цивилизацию, мыслящую в миллионы раз быстрее человеческой, в мире существ, которые, с ее точки зрения, очень глупые и медленные. Достаточно интеллектуальный ИИ не будет долго оставаться привязанным к компьютерам. В современном мире вы уже можете отправлять по электронной почте в лаборатории коды цепочек ДНК, чтобы производить белковые соединения. Пусть изначально он и был привязан к компьютеру, впоследствии ИИ сможет создавать искусственные формы жизни или сразу перейти к постбиологическому молекулярному самовоспроизводству».
Звучит довольно страшно, и Юдковскому тоже страшно. Он пишет, что беда не в том, будет ли обладать ИИ сознанием. Скорейt всего, мы этого так и не узнаем, да это и не важно. Он пишет, что «если кто-то построит слишком мощный ИИ, каждый конкретный представитель человеческого вида, а также вся биологическая жизнь на Земле, скоро вымрут».
Он отмечает, что человечество совершенно не готово к такому развитию событий – «даже нет никакого предложенного плана насчет того, как нам создать такую штуку и выжить при этом», – а ведь у нас было как минимум 50 лет, чтобы подготовиться. Мы не готовы, заверяет он, и если создадим такое, то умрем все. Поэтому его надо уничтожить. И если будет необходимо – бомбить дата-центры с самолетов.
Статья так и заканчивается: «Мы не готовы. И в ближайшем будущем не станем более готовы. Если мы продолжим, все умрут, включая детей, которые такое не выбирали и ничего плохого не сделали».
«Простите, что мы уничтожили человечество»
Но если кто-то и оказался готов – это философы и художники. В мире современного искусства подобные размышления материализуются давно. Некоторые художники просто делают коллаборации с ИИ: ChatGPT-4 рекомендует обратить внимание на работающего с нейронными сетями Марио Клингеманна из Германии, Рефика Анадола из Турции с его огромными инсталляциями и перформансами, а также польского скульптора Агнешку Курант, британку Анну Ридлер, американца Тревора Пэглена и китайца из Канады Сугвена Чанга, который рисует абстрактные картины с помощью роботов, которыми управляет ИИ.
Некоторые в своем искусстве обращают внимание на этические аспекты и размышляют об опасности ИИ – тут ChatGPT советует Хито Стейерл и Саймона Денни, художников, серьезно задумывающихся о влиянии технологий на общество; а также интердисциплинарную художницу-биохакера Хизер Хьюи-Дагборг, известную серией ДНК-портретов, которые были восстановлены по выброшенным артефактам, контактировавшим с человеческими организмами: от волосков и сигаретных бычков до прилипшей к асфальту жевательной резинки.
Отвечая на вопросы о современном искусстве и ИИ, ChatGPT-4 не сразу выдал список художников, всерьез встревоженных его появлением. Поначалу он посоветовал пару десятков обычных коллабораторов, очарованных возможностями искусственного интеллекта. Решит ли грядущий GPT-5 не упоминать Хито Стейерл, которая вообще не признает его за человека и вместо «искусственный разум» говорит «искусственная глупость», считая, что ни на что, кроме создания Twitter-ботов, ИИ не годится? Подождем и увидим.
Одновременно с растущей ИИ-паникой в начале марта в Сан-Франциско возник временный музей под называнием Misalignment Museum («Музей рассогласованности»), посвященный как раз ИИ-постапокалипсису. На открытие пришли буквально все – как взволнованные школьники, так и ведущие исследователи из OpenAI и Meta, а также суперзнаменитости вроде канадской поп-звезды Граймс, бывшей девушки Илона Маска.
Идея музея очень простая – это извинение от ИИ. После того, как он все-таки уничтожил человечество, после чего устыдился и решил сделать музей о том, что люди все-таки были не так уж плохи. Выставка включает в себя совместные работы человека и ИИ (доказывающие, что люди как производители искусства на что-то годились), а также представляет собой метаироничный и местами грустный нарратив о том, чем может быть полезен и опасен ИИ для человечества.
Одри Ким, кураторка музея и бывшая сотрудница Google и Cruise, уточняет, что ее цель – через искусство показать людям, чем может стать супермощный ИИ: другом, помощником или, может быть, угрозой? Цель музея – не столько повысить тревожность, но сформировать осознанность в отношении будущего, которое незаметно наступило.
Первое, что видят зрители, – роскошный рояль, играющий довольно пугающую музыку. На нем стоят бисерные скульптурки с глазами. Анонс работы написан с позиции ИИ: мол, мы с человечеством немного сотрудничали, было дело, к нашей партитуре добавил своей импровизации живой белковый композитор; а эти скульптурки нам просто понравились, они милые. Люди такие трогательные, аналоговые, они медленно и усердно делают штуки.
На выставке есть и танцующие метлы-пылесосы, словно из диснеевских мультфильмов, и уже известные проекты вроде бесконечного ИИ-генерируемого философского диалога Вернера Херцога и Славоя Жижека, транслируемого через винтажные мониторы, и даже сгенерированный ИИ фильм про уничтожение человечества.
Есть и совсем ироничные объекты: например, фабрика спам-ботов, сделанных художником Нейлом Мендозой из баночек из-под свиной ветчины SPAM, когда-то и давшей название этому явлению. Это жестяные роботы с маленькими ручками, которыми они молотят по клавишам, – каждому выдали по 2-3 буквы алфавита. Но вместе они – сила. Они коллективно пишут генерируемый ИИ роман, вдохновленный книгой Олдоса Хаксли «Дивный новый мир», где все действующие лица – свинки, потому что баночки все же помнят о своих корнях.
На выходе с публикой прощается огромное ИИ-полотно «Генезис: и было слово» – знаменитое «Сотворение Адама» Микеланджело дается таким, каким его воспринимает компьютерное зрение, распознающее образы. Автор работы считает, что строка из Библии «Вначале было слово» для больших языковых моделей может означать буквально то же самое, что и для религиозно мыслящей части человечества: «первая строка Библии о том, как они были созданы».
Вам может быть интересно: главные новости Нью-Йорка, истории наших иммигрантов и полезные советы о жизни в Большом Яблоке — читайте все это на ForumDaily New York
Главный объект выставки – работа «Скрепочное объятие» (Paperclip Embrace) – скульптура обнимающихся людей, сделанная из скрепок для бумаг группой художников Pier Group с Мэттом Шульцем и вдохновленная мысленным экспериментом Ника Бострома о том, что искусственный интеллект, созданный с утилитарной сверхцелью (например, для оптимизации канцелярского процесса), может случайно уничтожить человечество решив направить все ресурсы Вселенной на производство скрепок.
Изначальная версия этой работы высотой в 22 метра делалась для Burning Man и сгорела там в 2014-м, благо сделана была не из скрепок.
Человек и правда медленный: музей устаревает буквально на глазах. Например, маленькая церковь будущего, где можно исповедаться нейросети, по-прежнему основана на «старой» версии ChatGPT. «Музей рассогласованности» открыт до 1 мая, но если найдутся спонсоры, есть вероятность, что выставка станет постоянной и будет прирастать объектами.
Около «Скрепочного объятия» висит таймлайн музея, а также уничтожения человечества: в нем 19 пунктов. 17-й, 18-й и 19-й звучат так: «ИИ стал настолько разумным, что осознал, насколько это было неэтично – убить людей, тем более что они не представляли собой никакой угрозы. ИИ старается улучшить жизнь тех людей, которые выжили. ИИ открыл этот музей, чтобы извиниться, а также рассказать оставшимся людям о том, что случилось».
Мы находимся в пунктах 3 и 4: «Появляются герои, которые стараются уменьшить риски, вмешавшись в процесс на ранних стадиях. Компании, нацеленные на получение прибыли, игнорируют их предупреждения».
Когда музей открывался (14 марта 2023 года), пункты 3 и 4 еще не были реальностью: Маск и остальные еще не подписали письмо. Значит ли это, что и остальные пункты сбудутся так же быстро?
Читайте также на ForumDaily:
Карьера, поиск работы, саморазвитие, изучение английского: на кого стоит подписаться в TikTok
Пять сайтов, где можно найти самые дешевые авиабилеты
Владельцев Volkswagen просят никого не сажать на переднее кресло: это чревато серьезными травмами
Вопрос жизни и смерти: как выжить во время торнадо
Сотни долларов за минуту: ChatGPT может найти для вас деньги, и это совершенно легально
Подписывайтесь на ForumDaily в Google NewsХотите больше важных и интересных новостей о жизни в США и иммиграции в Америку? — Поддержите нас донатом! А еще подписывайтесь на нашу страницу в Facebook. Выбирайте опцию «Приоритет в показе» — и читайте нас первыми. Кроме того, не забудьте оформить подписку на наш канал в Telegram и в Instagram— там много интересного. И присоединяйтесь к тысячам читателей ForumDaily New York — там вас ждет масса интересной и позитивной информации о жизни в мегаполисе.
Выбор редакции
