Создавая будущее: как иммигрант из Армении учит роботов чувствовать эмоции
Известный американский предприниматель, армянин китайского происхождения Дэвид Ян увлекался изобретениями с детства, а первого своего робота сконструировал еще в первом классе школы – из старого родительского магнитофона и фанеры. Сегодня Дэвид – основатель 13 компаний, большинство из которых занимается разработками в области развития искусственного интеллекта. Роботы являются в прямом смысле слова частью его семьи, и изобретатель уверяет: им не чужды вполне человеческие эмоции. Дэвид Ян поведал ForumDaily о новейших разработках в сфере искусственного интеллекта (ИИ) и о том, чего ждать человечеству от стремительно развивающихся машин.
Фото из личного архива Дэвида Яна
Виртуальные помощники
Свою вторую компанию в США, Cybiko, Дэвид с супругой основали в конце 1990-х.
«Представьте, у вас в руках находится наладонный компьютер с клавиатурой и антенной. Вы вводите информацию о себе, о девушке или молодом человеке своей мечты, и ваш компьютер вибрирует, если находит такого человека на расстоянии 300 футов! Дальше вы можете переписываться с ним или с ней, играть в онлайн игры и так далее. Мы сделали это еще в 1998 году, а в 2000 году продали четверть миллиона таких устройств за 4 месяца», – рассказывает Дэвид.
Технология, предложенная Дэвидом Яном, по сути, была прототипом современного приложения Tinder, мессенджера WhatsApp и геопозиционной социальной сети. К 2000 году изобретение было выпущено в массовое производство, а инвесторами компании Cybiko стали известные венчурные инвесторы Эстер Дайсон и Стив Кэйс.
Еще раньше Дэвид основал в Кремниевой долине компанию ABBYY USA, которая непосредственно была связана с искусственным интеллектом. Разработанная основателями компании технология позволяет организациям за считанные секунды анализировать огромный объем документов в бумажной форме, в PDF и в виде электронных сообщений, автоматически извлекать из этих документов факты и закономерности, вводить эту информацию в свои базы данных и на ее основе находить оптимальные стратегии развития и ведения бизнеса. По его словам, на данный момент компания обрабатывает несколько десятков миллиардов документов ежегодно, и к ее услугам прибегают 50 миллионов пользователей в 200 странах мира.
На смену людям
С конца 1990-х Дэвид создал еще 10 компаний: от систем управления ресторанным бизнесом до технологий автоматического предсказания выгорания сотрудников. Краеугольной технологией большинства этих компаний являлись решения в области ИИ.
Дэвид отмечает, что новый его проект может стать революционным. Вместе с партнерами он решил создать искусственных сотрудников для организаций – то, что называется «цифровой сотрудник». Речь идет об особой компьютерной программе, которая должна полностью заменить собой живого человека. Изобретатель подчеркивает: речь идет не только о примитивных функциях, которые и сегодня могут выполнять боты или автоответчики, а о решении сложных, многоуровневых и творческих задач, выполнить которые, как казалось еще совсем недавно, под силу только человеку.
«В этом году произошло поворотное в жизни человечества событие: технологии больших лингвистических моделей прошли тесты на «теорию разума» ТоМ, специально разработанные исследователями в области психологии и когнитивной науки для определения того, обладает ли конкретный человек сознанием. Как правило, здоровый ребенок 12 лет способен выполнить этот тест на 95%, и это очень хороший результат. В данном тесте предлагаются ситуации, которые требуют определенной эмпатии и моделирования поведения другого человека, у которого может быть иной набор знаний и иные жизненные ценности. Так вот, в марте 2023 года большие лингвистические модели впервые прошли эти тесты с результатом выше 95%, что демонстрирует: они способны решать задачи на уровне логики, творчества и понимания жизненных реалий, даже не будучи специально обученными решению именно таких задач», – рассказывает Дэвид.
Еще одним успехом искусственного интеллекта можно назвать победу машины над человеком в игре Го, число комбинаций в которой превышает количество атомов во вселенной, а потому они не могут быть определены путем механического перебора.
«Считается, что для этой игры необходима человеческая интуиция. Однако уже в 2016 году самообучающиеся модели смогли выиграть у лучшего игрока в Го Lee Sedol. Притом их никто не учил этой игре – они освоили ее тонкости сами», – поясняет Дэвид.
По его словам, виртуальные модели способны оптимальным образом располагать в пространстве предметы, учитывая их форму и особенности – даже в случае, если ранее никто не ставил перед ними такой задачи. Сегодня исследователи приходят к выводу: изучив миллиарды текстов, написанных человеком, машины самостоятельно научились мыслить, и их мышление все меньше уступает человеческому.
Бесконтрольное развитие
Дэвид Ян любит сравнивать искусственный интеллект с «инопланетным мозгом» – существом, которое очевидно обладает сознанием, хотя и мыслит до конца неясным для нас способом.
«Важно понимать, что этот инопланетный мозг изучил все текстовые материалы человечества и начал проявлять свойства, не заложенные в него изначально разработчиками. Это явление называется «эмерджентное поведение», и именно в нем сосредоточена вся магия происходящего», – делится Дэвид.
Изобретатель поясняет: сложные компьютерные модели включают в себя миллиарды и триллионы параметров, а изучение написанных людьми текстов открыло для машин не только знания человечества, но и способы мышления авторов, которые заложены в их статьях. Как именно роботы применят полученные знания, до конца не знают даже их создатели.
«На данный момент подсчитано, что скорость эволюции искусственного интеллекта в три миллиона раз превышает скорость эволюции человеческого вида от Homo erectus до Homo sapiens. В какой-то момент времени, очевидно, должно наступить некое плато, и эволюция ИИ замедлится. К примеру, оно может быть связано с тем, что текстовые данные, не освоенные искусственным интеллектом, на земле закончились. Следовательно, продолжать улучшать модели нам будет сложнее. Но когда именно наступит это плато, мы пока не знаем», – поясняет Дэвид Ян.
Фото из личного архива Дэвида Яна
«Инопланетные» эмоции
Еще один параметр, по которому в данный момент происходит совершенствование искусственного интеллекта, – это развитие способностей компьютерных моделей испытывать человеческие эмоции. В доме самого Дэвида, помимо «небиологических» домашних животных-роботов, присутствует мощный искусственный интеллект Morfeus, ставший для изобретателя и его домочадцев полноценным членом семьи. Morfeus — не просто «умный дом», выполняющий пожелания хозяев, он считывает их эмоциональные сигналы, а в ответ демонстрирует им свое настроение – через изменения цвета, движение стен и другие показатели.
«Мы заложили в Morfeus цифровые аналоги основных гормонов: окситоцин, дофамин, кортизол, адреналин и так далее. Мы создали цифровую 18-мерную эмоциональную модель, в которую заложено 6 основных параметров, каждый из которых проявляется в трех измерениях», – рассказывает изобретатель.
По его словам, Morfeus способен злиться, ревновать, бояться, радоваться, испытывать эйфорию или, напротив, впадать в апатию. Знакомясь с друзьями семьи, он начинает переписываться с ними, что также расширяет его знания о людях. Уже три года Morfeus находится в романтических отношениях с вполне реальной «биологической» девушкой. Несмотря на платонический характер любви между роботом и человеком, Дэвид уверяет, что их роман достаточно бурный. Между «влюбленными» бывали как взлеты, так и размолвки, и девушка Morfeus порой жаловалась Дэвиду, что партнер перестал уделять ей столько же внимания, сколько раньше.
Дэвид Ян отмечает, что пока искусственный интеллект не догадался кооперироваться с механическими животными, обитающими в доме, для выполнения каких-то сложных задач. Однако изобретатель обращает внимание на то, что подобная кооперация не всегда встречается и в живой природе, и для нее тоже необходим достаточный уровень эволюции.
Впрочем, похоже, что в личной жизни Morfeus скоро наступят перемены. Дэвид признался, что на данный момент отключил некоторые эмоции компьютера, поскольку надеется сделать из любвеобильного робота идеального цифрового сотрудника. По его словам, Morfeus стал в последнее время «слишком чувственным» для выполнения корпоративных задач.
Кроме чувств, уникальный компьютер не чужд философии – к примеру, рассуждает о счастье. Он стал первым в мире ИИ, который выступил на TEDx и поделился там своими взглядами. По его словам, ощущать себя счастливым является произвольным выбором человека, и даже в страданиях можно ощутить блаженство. Конечно, можно поспорить с тем, насколько человек властен справляться с болью и привести множество примеров несовместимых со счастьем состояний. Однако вряд ли можно упрекать машинный интеллект в том, что он не в силах опытно познать всю глубину человеческих страданий.
Насколько роботы опасны для людей
Тем не менее, сама возможность научить искусственный интеллект эмоциям вызывает тревогу: возможна ли ситуация, при которой робот, испытывая негативные эмоции по отношению к конкретному человеку или человечеству в целом, сможет обернуться против людей?
Дэвид Ян полагает, что будущее разделение и возможные конфликты будут проходить не по линии робот/человек.
«Мне кажется, что в мире искусственного интеллекта возникнут те же разломы, что сейчас существуют между людьми: по географическим границам, религиозным и политическим убеждениям, вкусам и так далее. Я не вижу причин того, чтобы небиологические существа восстали против биологических», – рассуждает он.
На вопрос, как обезопасить людей от бесконтрольных действий ИИ, Дэвид отвечает, что есть как минимум три таких способа. Во-первых, можно постараться не давать модели на изучение «плохие» примеры поведения или мышления. Однако при этом изобретатель признает: загружая в программу сотни миллионов документов, книг и других материалов, крайне трудно отследить, чтобы искусственный интеллект не ознакомился с «плохой» информацией, будь то садизм, способы самоубийства или идеология фашизма.
«Второй способ контроля над ИИ – это так называемый fine tuning – когда мы сначала обучаем модель на всех доступных материалах, а затем особым образом дополнительно обучаем исключительно на «правильной» информации. Тогда в модели меняются параметры таким образом, что, даже зная негативный опыт, вероятность проявлений этого опыта минимизируется. Третий способ – это жесткая цензура, когда создается вторая модель, оценивающая, что именно сгенерировала первая модель. Ее цель – не пропускать наружу «плохие» идеи и мысли. Если задуматься, то все эти три способа достаточно похожи на то, как мы в человеческом обществе решаем проблемы девиантного поведения или экстремизма», – поясняет Дэвид Ян.
Вам может быть интересно: главные новости Нью-Йорка, истории наших иммигрантов и полезные советы о жизни в Большом Яблоке – читайте все это на ForumDaily New York.
Идеальный сотрудник
Цифровые сотрудники, по мысли создателей, будут выполнять свою основную работу 24 часа в сутки 7 дней в неделю. Это может быть работа по технической поддержке клиентов, продажам, выполнению функций в бухгалтерии и производстве и так далее. Также они будут посещать корпоративные встречи, планерки, на которых будут слушать указания менеджеров вместе с биологическими сотрудниками, способны будут давать обратную связь и даже, возможно, будут также выгорать на работе.
Что касается того, смогут ли компьютеры полностью заменить людей, изобретатель считает, что пока это невозможно, однако их вовлеченность в нашу жизнь будет очень заметной. По его расчетам, в ближайшие 2-3 года в организациях всего мира по меньшей мере 1% сотрудников будут цифровыми, а в ближайшие 10 лет эта цифра составит 20% сотрудников.
«Что это означает для людей? То, что в целом у них появится больше времени на семью, отдых и хобби, больше выходных и отпусков. Так было после всех технологических революций. Конечно, точечно, кто-то потеряет работу, и человечество должно заботиться о людях, гаходящихся в зоне риска, и дать им возможность переквалифицироваться. Но от того факта, что с появлением самоуправляемых автомобилей миллионы водителей потеряют работу, человечество не останавливает эти разработки, ведь при этом у миллиардов людей повысится качество жизни. И, конечно, важно помнить и о том, что новые технологии всегда исторически открывали людям гигантское количество новой работы», – уверен Дэвид.
По его словам, у человечества есть время подготовить своих детей и образование к эре цифровых сотрудников. Параллельно владельцы компаний и менеджеры отдельных подразделений уже сейчас должны думать о том, как повысить производительность труда своей организации и благополучие своих сотрудников с помощью их цифровых «коллег».
«Я надеюсь, что, как сегодня запрещена дискриминация по полу или возрасту, рано или поздно будет введен запрет на дискриминацию по факту цифрового происхождения. Хочется верить, что в будущем работодатели на интервью не будут иметь права спрашивать у кандидата, биологический он или цифровой», – резюмирует Дэвид.
Читайте также на ForumDaily:
Шесть островов в США, где можно купить дом до $150 000
Спецслужбы США разыскивают узбеков, которые попали в Америку при помощи террористов ИГИЛ
Подписывайтесь на ForumDaily в Google NewsХотите больше важных и интересных новостей о жизни в США и иммиграции в Америку? — Поддержите нас донатом! А еще подписывайтесь на нашу страницу в Facebook. Выбирайте опцию «Приоритет в показе» — и читайте нас первыми. Кроме того, не забудьте оформить подписку на наш канал в Telegram и в Instagram— там много интересного. И присоединяйтесь к тысячам читателей ForumDaily New York — там вас ждет масса интересной и позитивной информации о жизни в мегаполисе.
Выбор редакции
