Стоит ли опасаться искусственного интеллекта?

Далеко не все ученые с оптимизмом смотрят на наступление эпохи умных роботов

0

Когда люди видят машины, которые ведут себя как как люди, или компьютеры, демонстрирующие умение стратегически мыслить и познавать, они иногда шутят о будущем, где человечество будет порабощено цивилизацией роботов.

Но в каждой шутке — лишь доля шутки. Научная фантастика и популярные фильмы от «2001: Космическая одиссея» (1968) до «Мстители: Эра Альтрона» (2015) предполагают, что искусственный интеллект (ИИ) превзойдет ожидания его создателей и уйдет из — под контроля, в конечном итоге поработив людей или устроив их вымирание. Такая ситуация описана, например, в легендарной серии кинофильмов «Терминатор».

Но и в реальном мире не все готовы приветствовать ИИ с распростертыми объятиями. В последние годы ученые расширили границы того, чего может достичь ИИ, и ведущие фигуры в области технологий и науки предупреждают о надвигающихся опасностях, которые искусственный интеллект может представлять для человечества, предполагая даже, что возможности ИИ могут обречь человечество.

Но почему люди так опасаются ИИ?

«Экзистенциальная угроза»

Илон Маск — один их известнейших изобретателей современности, считает опасным развитие ИИ. В июле 2017 года Маск заявил присутствующим на встрече Национальной ассоциации губернаторов: «У меня есть опыт работы с самыми передовыми ИИ, и я думаю, что люди должны быть действительно обеспокоены их развитием».

«Я буду продолжать озвучивать этот тревожный сигнал», — добавил Маск. «Но пока люди не видят, как роботы идут по улице, убивая прохожих, они не знают, как реагировать на мои предупреждения. Потому что пока им все это кажется несерьезным».

Ранее, в 2014 году, Маск назвал ИИ «нашей самой большой экзистенциальной угрозой», а в августе 2017 года он заявил, что человечество сталкивается с большим риском от ИИ, чем от Северной Кореи.

Физик Стивен Хокинг, который умер 14 марта, также выражал озабоченность по поводу возникновения злонамеренного ИИ, сообщив Би-би-си в 2014 году, что «развитие полноценного искусственного интеллекта может означать конец человеческой расы».

Также не обнадеживают результаты работ, выполняемых некоторыми программистами, особенно те, которые работают в MIT Media Lab в Кембридже, штат Массачусетс. По-видимому, они намерены доказать, что ИИ может быть чем то ужасным.

Нейронная сеть под названием «Кошмарная машина», созданная учеными MIT в 2016 году, превратила обычные фотографии в омерзительные, адски апокалиптические. Другой ИИ, созданный учеными MIT, получившая название «Шелли», выдумывала страшные истории и создала в итоге 140 000 рассказов на тему ужасов.

«Нам было интересно посмотреть, как ИИ провоцирует у людей эмоции, в этом конкретном случае — страх», — сказал Мануэль Себриан, менеджер по исследованиям в MIT Media Lab.

Страх и ненависть

Отрицательные чувства об ИИ обычно можно разделить на две категории: идею о том, что ИИ станет сознательным и попытаться уничтожить нас, а также мнение, что безнравственные люди будут использовать ИИ для совершения злых дел. Килиан Вайнбергер, доцент кафедры информатики в Корнельском университете, говорит:

«Основная мысль, которая беспокоит людей, заключается в том, что если суперумный ИИ — более умный, чем мы, — обретет сознание, он будет относиться к нам, как к низшим существам, так, как мы относимся, например, к обезьянам. Это, конечно, было бы не очень здорово».

Однако опасения, что ИИ будут продумывать планы по уничтожению человечества, основаны на неправильных представлениях о принципах их работы, отметил Вайнбергер. ИИ работает под очень специфическими ограничениями, определяемыми алгоритмами, определяющими его поведение. Некоторые типы решаемых ИИ проблем хорошо сопоставляются с наборами навыков машин, что делает некоторые задачи относительно легкими для ИИ. «Но большинство вещей не соответствуют этому, и они неприменимы», — сказал он.

Это означает, что, ИИ может быть способным к впечатляющим подвигам в тщательно определенных границах — например, может играть на шахматной игре на уровне гроссмейстера, или быстро идентифицировать объекты в образах, — но на этом его способности заканчиваются.

«Создание ИИ, достигнувшего состояния собственного осознания, не предвидится в ближайшем будущем, поскольку в исследованиях, проводимых этой области нет абсолютно никакого прогресса», — сказал Вайнбергер. «Я не думаю, что это произойдет в ближайшем будущем».

Гении и злодеи

Другая тревожащая людей мысль — что недобросовестный человек будет использовать ИИ для причинение вреда — к сожалению, это гораздо более вероятно, добавил Вайнбергер. В принципе любой тип машины или инструмента может использоваться как в хороших, так и в плохих целях, в зависимости от намерений пользователя, и перспектива использования оружия, имеющего искусственный интеллект безусловно пугает, и нуждается в строгом государственном регулировании, сказал Вайнбергер.
Возможно, если бы люди могли отбросить свои опасения по поводу враждебного ИИ, они были бы более открыты для признания его преимуществ, предположил Вайнбергер. Например, расширенные алгоритмы распознавания образов могут помочь дерматологам идентифицировать родинки, которые потенциально могут быть раковыми. А автомобили, оборудованные автопилотом, могут значительно уменьшить количество смертей в автокатастрофах, многие из которых вызваны человеческой ошибкой, заключил ученый.

Если вы нашли ошибку, пожалуйста, выделите фрагмент текста и нажмите Ctrl+Enter.

Комментировать

Войти с помощью: 

Этот сайт использует куки. Вы можете отказаться, если хотите Принять Прочитать больше

Сообщить об опечатке

Текст, который будет отправлен нашим редакторам: