Искусственный интеллект нас не победит!
24 июля 2017 года, во время воскресного барбекью в Пало-Альто, основатель компании Facebook Марк Цукерберг дал ответ на заявление Элона Маска об угрозах искусственного интеллекта для человечества, назвав заявление Маска безответственным.
Очень интересный ответ нашего гуру о невозможной победе Искуственного Интеллекта над человеческим разумом. Не бесспорный.
Владимир Бронников
Открытый ответ Элону Маску, Марку Цукербергу и другим…
В последнее время СМИ заполнили интервью гуру современного технологического прогресса. Тема суперактуальна: что будет с человечеством, когда искусственный интеллект опередит в своем развитии мозг человека?
Однако сама постановка вопроса некорректна, если не определить, какие свойства мозга собирается победить искусственный интеллект. Уже сегодня ИИ выполняет эффективнее человека многие функции, каждая из которых является небольшой частью наших обычных операций, например, распознавание образов, ориентация в пространстве, движение, игра в шахматы и т. д.
С развитием самообучающихся алгоритмов и колоссальным расширением базы знаний, сетевых хранилищ многократно выросли вычислительные возможности ИИ. Занимаясь с 1972 года моделированием нейронных сетей и задач распознавания образов, я могу констатировать: принципы обработки данных практически не изменились! Вычислительная мощность и алгоритмы изменились, а принцип алгоритмического перебора вариантов сохранился, хотя и наполнился разными «обратными связями», «глубоким поиском», «ассоциативными и дедуктивными механизмами».
Пока еще никто не дал полной картины работы мозга как вычислительной модели – оказалось, что свести к алгоритмам процессы обработки информации мозгом не так просто. А открытия последних десятилетий (новая роль неокортекса по Джефу Хопкинсу или работы Джо Деспинозы о химическом стимулировании и привыкании) говорят о том, что мозг не просто машина. Самое главное заключается в том, что мозг – это система, которая формировалась миллионы лет путем эволюционного развития. В то время как ИИ – всего-навсего наше представление, которое базируется все еще на парадигме Алана Тьюринга и Джона фон Неймана. Мы, по сути, недалеко ушли от Фрэнка Розенблатта, создателя перцептрона, и Мак-Каллока и Питтса, которые открыли нам логику нейронной активности в середине прошлого века. Мы просто решили, что из нейронов можно собрать искусственный мозг. Тем, кто знаком с теорией эволюции, понятно, что такая сборка не может воссоздать искомый объект – мозг с его полной функциональностью.
И тут так хочется сказать, а кто вообще придумал, что ИИ будет работать по модели работы человеческого мозга? Может у него будет своя модель?
Но вернемся к нашим страхам по поводу развития ИИ. Опасения о порабощении нас роботами – миф, который, как и любой другой миф, призван решать вполне конкретную задачу сбора средств на новое направление исследований. Не проще ли внести во все алгоритмы ИИ (и средства разработки) некоторые ограничения, которые разработчики программ не могли бы преодолеть? Ведь точно так же автомобиль – угроза человечеству, если он без тормозов. Любое техническое новшество может быть полезным или вредным в зависимости от того, как его применять.
И тут тоже возникает вопрос. Автомобиль с торомзами, но злоумышленник эти тормоза может вывести из строя и машина понеслась. Злодеи ведь есть не только в фильмах, и нет ни какой гарантии, что какой-нибдуь злой гений в каком-нибудь ИИ эти блокирующие ограничения не отключит? И что тогда?
Один из ярких примеров, на что было потрачено время колоссальной армии ученых и разработчиков ИИ за последние 80 лет, – поиск алгоритмов игры в шахматы. Великий парадокс науки: простая игра, изобретенная более 1500 лет назад, стала основной задачей для ИИ ХХ века! И не надо обольщаться, что завтра мы не придумаем игру с немного другими правилами и не потратим еще 50 лет на то, чтобы машина обыграла чемпиона мира. Попутно будет решено много практических задач ИИ в области образования медицины, управления, финансов, потребления, энергетики и т. п. Не надо только забывать, что везде нужно ставить тормоза.
А тут мимо. С какими бы сложными и запутанными правилами мы сейчас не придумали бы игру, машина научиться в нее играть быстрее человека. Ведь и в шахматы-то человек учился играть все эти 1500 лет. а машина всего 50.
Мы не коснулись важнейших понятий в изучении процессов мышления, изложенных в теории психоанализа Карла Густава Юнга. А из нее следует существенная практическая парадигма: коллективное сознательное и коллективное бессознательное – это две формы мышления популяции Homo Sapience, к которым разработчики ИИ даже не приступали. Интересно, как будет выглядеть мир роботов, обладающих коллективным бессознательным? Теоретики ИИ, ваше слово.
А вот это интересный вопрос. И ответ наверно будет в том, будет ли заложено это коллективное сознательное и бессознательное в модель ИИ.
Владимир Бронников
www.bronnikov.ca
По материалам www.it-weekly.ru