Когда люди видят машины, которые ведут себя как как люди, или компьютеры, демонстрирующие умение стратегически мыслить и познавать, они иногда шутят о мрачном будущем. Где человечество поработит цивилизация роботов.
Но в каждой шутке – лишь доля шутки. Научная фантастика и популярные фильмы от «2001: Космическая одиссея» (1968) до «Мстители: Эра Альтрона» (2015) предполагают, что искусственный интеллект (ИИ) превзойдет ожидания его создателей. И рано или поздно уйдет из – под контроля. В конечном итоге поработив людей или устроив их вымирание. Такая ситуация описана, например, в легендарной серии кинофильмов «Терминатор».
Но и в реальном мире не все готовы приветствовать ИИ с распростертыми объятиями. В последние годы ученые расширили границы того, чего может достичь ИИ. И ведущие фигуры в области технологий и науки предупреждают о надвигающихся опасностях, которые искусственный интеллект может представлять для человечества. Некоторые из них предполагают даже, что возможности ИИ могут обречь человечество на уничтожение.
Но почему люди так опасаются ИИ?
«Экзистенциальная угроза»
Илон Маск – один их известнейших изобретателей современности, считает опасным развитие ИИ. В июле 2017 года Маск заявил присутствующим на встрече Национальной ассоциации губернаторов: «У меня есть опыт работы с самыми передовыми ИИ, и я думаю, что люди должны быть действительно обеспокоены их развитием».
«Я буду продолжать озвучивать этот тревожный сигнал», – добавил Маск. «Но пока люди не видят, как роботы идут по улице, убивая прохожих, они не знают, как реагировать на мои предупреждения. Потому что пока им все это кажется несерьезным».
Ранее, в 2014 году, Маск назвал ИИ «нашей самой большой экзистенциальной угрозой». А в августе 2017 года он заявил, что человечество сталкивается с большим риском от ИИ, чем от Северной Кореи.
Физик Стивен Хокинг также выражал озабоченность по поводу возникновения злонамеренного ИИ, сообщив Би-би-си в 2014 году, что «развитие полноценного искусственного интеллекта может означать конец человеческой расы».
Также не обнадеживают и результаты работ, выполняемых некоторыми программистами. Особенно те, которые работают в MIT Media Lab в Кембридже, штат Массачусетс. По-видимому, они намерены доказать, что ИИ может быть чем-то ужасным.
Нейронная сеть под названием «Кошмарная машина», созданная учеными MIT в 2016 году, превратила обычные фотографии в омерзительные, адски апокалиптические. Другой ИИ, созданный учеными MIT, получившая название «Шелли», выдумывала страшные истории. И создала в итоге 140 000 рассказов на тему ужасов.
«Нам было интересно посмотреть, как ИИ провоцирует у людей эмоции. В этом конкретном случае – страх», – заявил Мануэль Себриан, менеджер по исследованиям в MIT Media Lab.
Страх и ненависть
Отрицательные чувства об ИИ обычно можно разделить на две категории. Первая – ИИ станет сознательным. И попытается уничтожить нас. И еще есть мнение, что безнравственные люди будут использовать ИИ для совершения злых дел. Килиан Вайнбергер, доцент кафедры информатики в Корнельском университете, по этому поводу заявила:
«Основная мысль, которая беспокоит людей, заключается в том, что если суперумный ИИ – более умный, чем мы, – обретет сознание. И будет относиться к нам, как к низшим существам. Так, как мы относимся, например, к обезьянам. Это, конечно, было бы не очень здорово».
Однако опасения, что ИИ будут продумывать планы по уничтожению человечества, основаны на неправильных представлениях о принципах их работы, отметил Вайнбергер. ИИ работает под очень специфическими ограничениями, определяемыми алгоритмами, определяющими его поведение. Некоторые типы решаемых ИИ проблем хорошо сопоставляются с наборами навыков машин. И это делает некоторые задачи относительно легкими для ИИ. «Но большинство вещей не соответствуют этому. И они неприменимы», – сказал он.
Это означает, что, ИИ может быть способным к впечатляющим подвигам в тщательно определенных границах. Например – сможет играть на шахматной игре на уровне гроссмейстера. Или быстро идентифицировать объекты в образах. Но на этом его способности заканчиваются.
«Создание ИИ, достигнувшего состояния собственного осознания, не предвидится в ближайшем будущем. Поскольку в исследованиях, проводимых в этой области, нет абсолютно никакого прогресса», – сказал Вайнбергер. «Я не думаю, что это произойдет в ближайшем будущем».
Гении и злодеи
Другая тревожащая людей мысль – что недобросовестный человек будет использовать ИИ для причинение вреда.
К сожалению, это гораздо более вероятно, – добавил Вайнбергер. – В принципе любой тип машины или инструмента может использоваться как в хороших, так и в плохих целях. Все зависит от намерений пользователя. И перспектива использования оружия, имеющего искусственный интеллект безусловно пугает. Она нуждается в строгом государственном регулировании, – добавил ученый.
Возможно, если бы люди могли отбросить свои опасения по поводу враждебного ИИ, они были бы более открыты для признания его преимуществ, – продолжил Вайнбергер.
– Например, расширенные алгоритмы распознавания образов могут помочь дерматологам идентифицировать родинки, которые потенциально могут быть раковыми. А автомобили, оборудованные автопилотом, могут значительно уменьшить количество смертей в автокатастрофах, многие из которых вызваны человеческой ошибкой, – заключил ученый.