Темпы развития искусственного интеллекта пугают даже ученых: чем умные роботы угрожают человечеству
Искусственный интеллект уже начал оказывать большое влияние на мир, и это пугает разработчиков, сообщает ХАЙТЕК.
Фото: Shutterstock
Специалист в области искусственного интеллекта, основатель Центра совместимого с человеком искусственного интеллекта при Калифорнийском университете в Беркли профессор Стюарт Рассел заявил, что его коллеги «напуганы» собственными успехами в этой сфере и сравнил прогресс в развитии искусственного интеллекта (ИИ) с созданием атомной бомбы.
Почти все эксперты считают, что еще в этом веке будут изобретены машины, превосходящие человека по интеллекту, сказал он и призвал к срочному регулированию этой технологии на международном уровне.
«Сообщество ИИ еще не привыкло к факту, что мы начали оказывать очень большое влияние на реальный мир, — сказал профессор Рассел в интервью Guardian. — На протяжении большей части истории этой отрасли такого не было — мы просто сидели в лабораториях, разрабатывали, пытались сделать так, чтобы оно заработало, чаще всего впустую. Так что вопрос реального воздействия на мир был совершенно неуместным. И нам нужно было очень быстро расти, чтобы не отставать».
Искусственный интеллект начал проникать во многие сферы жизни, от поисковых систем интернета до банков, и прогресс в распознавании изображений и машинном переводе — одни из главных достижений последних лет.
Стюарт Рассел, который в этом году будет читать на радио ВВС цикл лекций под названием «Жизнь с искусственным интеллектом» («Living with Artificial Intelligence»), считает, что необходимо срочно обеспечить контроль над разработкой сверх-интеллектуального ИИ.
По мнению Рассела, ИИ, созданный для решения узких задач, слишком рискованно использовать для решения реальных проблем.
К примеру, опасно просить ИИ как можно скорее решить проблему рака.
«В таком случае он, скорее всего, найдет способ пересадить раковые клетки всему человечеству, чтобы провести миллионы экспериментов параллельно, используя всех нас как подопытных свинок, — сказал ученый. — И все потому, что это решение задачи, которую мы ему дали. Просто мы забыли уточнить, что нельзя проводить эксперименты на людях и использовать весь всемирный ВВП на проведение экспериментов, и еще много чего нельзя».
Вам может быть интересно: главные новости Нью-Йорка, истории наших иммигрантов и полезные советы о жизни в Большом Яблоке – читайте все это на ForumDaily New York.
Профессор считает, что между нынешним ИИ и тем, который показывают в фантастических фильмах вроде «Ex Machina», все еще есть большая разница, но будущее, где машины умнее людей, вполне вероятно.
«Думаю, что сроки варьируются от 10 лет, в самом оптимистичном сценарии, до нескольких сотен, — сказал он. — Но почти все исследователи ИИ скажут, что это произойдет в этом веке».
Проблема в том, что ИИ не нужно быть умнее человека, чтобы представлять для него серьезную опасность.
За примерами далеко ходить не нужно — достаточно взглянуть на алгоритмы социальных сетей, решающие, что люди должны читать и смотреть. У них уже огромное влияние на восприятие людей.
И разработчиков ИИ, по мнению Рассела, пугает собственный успех.
«Это немного напоминает то, что происходило в физике, когда ученые поняли, что атомная энергия существует, что они могут измерить массу различных атомов и понять, сколько энергии высвободится, если одни типы атомов превратятся в другие. А потом это произошло, и никто не был к этому готов», — пояснил Рассел.
Ученый убежден, что будущее ИИ лежит в развитии машин, которые, как вышколенные слуги, по всем вопросам обращаются к людям, не принимая решений самостоятельно.
Следует исходить из того, что у разных людей могут быть различные — и иногда конфликтующие — предпочтения, и они меняются со временем. Он призывает ввести для разработчиков и организаций некий кодекс, обеспечивающий непредвзятость ИИ.
Также следует распространить на весь мир действующий в ЕС запрет на маскировку машин под человека.
По теме: Как оберегая экологию не потерять желудки: можем ли мы переварить еду будущего
После таких заявлений сюжет цикла произведений Айзека Азимова о позитронных роботах («Три закона роботехники»), на основе которых был снят фильм «Я, робот», не кажется таким фантастическим и далеким от реальности.
Через пять лет ИИ даст возможность алгоритмам «читать правовые документы» и «давать медицинские советы», считает сооснователь и президент некоммерческой организации OpenAI Сэм Альтман.
Через десять лет машины массово встанут за конвейер и, возможно, даже станут компаниями. Еще позже ИИ будет делать почти все, включая научные открытия. В итоге ИИ создаст «феноменальное изобилие», но при этом цена труда упадет почти до нуля.
Читайте также на ForumDaily:
Больше никаких скидок: продуктовые магазины отменяют акции, чтобы компенсировать дефицит товаров
Подписывайтесь на ForumDaily в Google NewsХотите больше важных и интересных новостей о жизни в США и иммиграции в Америку? — Поддержите нас донатом! А еще подписывайтесь на нашу страницу в Facebook. Выбирайте опцию «Приоритет в показе» — и читайте нас первыми. Кроме того, не забудьте оформить подписку на наш канал в Telegram и в Instagram— там много интересного. И присоединяйтесь к тысячам читателей ForumDaily New York — там вас ждет масса интересной и позитивной информации о жизни в мегаполисе.
Выбор редакции
