«Три закона робототехники» легендарного писателя-фантаста Айзека Азимова знают все люди, которым интересна фантастика, роботы и всякие новые технологии. Они кажутся высеченными из камня, не подверженными воздействию времени и всегда актуальными. И даже заставляют задуматься о некоторых философских вещах. Эти законы используются при проектировании практически во всех позитронных роботов в произведениях Азимова. Они разработаны как механизм безопасности, позволяющий держать автономных дроидов под полным контролем. Вот они:
Три закона робототехники
Первый Закон
Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред.
Второй закон
Робот должен подчиняться приказам людей, за исключением случаев, когда такие приказы противоречат Первому закону.
Третий закон
Робот должен защищать свое существование до тех пор, пока такая защита не противоречит Первому или Второму закону.
Мы все очень уважаем Азимова. И как плодовитого автора художественной литературы, и как профессора биохимии. Однако часто возникает вопрос – а действительно ли эти законы могут быть использованы при разработке реального искусственного интеллекта? В наши дни?
И вы знаете, мнение специалистов таково – нет.
«Три закона робототехники Азимова изящны. Но одновременно это просто чушь собачья», – прямо заявил однажды СМИ робототехник и писатель-фантаст Дэниел Уилсон.
Когда Азимов писал свои законы, он не мог с большой точностью предвидеть, как именно люди будут использовать искусственный интеллект (ИИ). Сегодня машины побеждают нас при игре в шахматы или карты. Они водят наши машины и делают нам операции. Но вместо того чтобы обладать самосознанием, как предполагал Азимов, они просто работают по сложным алгоритмам, запрограммированным их человеческими создателями. Во вселенной Азимова все немного не так. Там машины, обладающие искусственным интеллектом, – наши слуги. То есть являются отдельными, самостоятельными существами. В реальном же мире они являются лишь продолжением нас самих. То есть просто расширяют наши возможности. Это означает, что любые законы, управляющие машинами с искусственным интеллектом, должны также распространяться и на людей, которые их создают.
Общие системы
Многие ученые, современные философы и даже целые организации рассматривали, какими могут быть эти законы. Исследователи из компании Gilead Amit, например, использовали законы Азимова в качестве отправной точки. И у них получилось примерно такая формулировка:
Робот не может причинить вред человеку. Или позволить одному человеку причинить вред другому. Робот не должен выдавать себя за человека, если только различие между человеком и машиной не будет размыто.
Исследователи из Google установили еще больше правил. Одно из них таково:
ИИ не должен без необходимости наносить ущерб другим ИИ, преследуя свои цели.
Идеальный ИИ
Cambridge Consultants, ведущая консалтинговая компания в области STEM, изложила свои критерии идеального ИИ в связке с человеком, то есть как единой системы, в отчете за 2018 год. Вот они:
Ответственность: должен существовать конкретный человек, ответственный за последствия поведения автономной системы. Это необходимо не только для осуществления правовой защиты, но и для предоставления обратной связи, отслеживания результатов и внедрения изменений.
Объяснимость: всегда должна быть возможность объяснить людям, которых это касается (часто непрофессионалам), почему поведение такое, какое оно есть. Это жизненно важно для обеспечения доверия.
Точность: источники ошибок необходимо идентифицировать, отслеживать, оценивать и, при необходимости, устранять.
Прозрачность: должна быть обеспечена возможность тестировать, анализировать (публично или в частном порядке), критиковать и оспаривать результаты, полученные от автономной системы. Результаты аудита и оценки должны быть доступны для общественности и объяснены.
Справедливость: способ использования данных должен быть разумным и уважать конфиденциальность. Это поможет устранить предубеждения и предотвратить укоренение других проблемных форм поведения.
Согласитесь, такой подход немного отличается от того, что предлагал Азимов. И поэтому, учитывая все, что мы узнали об искусственном интеллекте за многие десятилетия, прошедшие с тех пор, как знаменитый фантаст написал свои «Три закона робототехники», мы можем с уверенностью заключить, что они, конечно, устарели. Хотя и породили многие провокационные сюжеты в фантастике. Но лучше навсегда оставить их в книгах….
По крайней мере до тех пор, пока мы не начнем использовать роботов в качестве слуг😉.
Исаак Иудович – Всемирный классик. Его Законы переживут иного поколений и людей, и роботов. Вплоть до машиаха и до Второго Пришествия, и далее до Рая на Земле и во всём Мiроздании !