Искусственный интеллект. Перспективы, опасность, будущее роботов.

Специалист в области компьютерных наук д-р Питер Бентли обрисовывает будущее разумных эмоциональных роботов. Прежде чем они появятся, нам предстоит решить массу проблем.

Как сделать компьютер более человечным?

Разум — хитрая штука. Перед его определением интуиция пасует. Компьютеру можно поручить поиски схожих слов и фраз среди миллиардов веб-страниц, и он легко решит эту задачу. Но отправьте робота, снабженного самым совершенным процессором, осваивать чужой мир с помощью телекамер — и он окажется в затруднении. В мире нет устройств, которые справляются с такой «простой» задачей лучше нас с вами. Разум, которым мы пользуемся тогда, когда моем посуду, превосходит возможности любого существующего компьютера. И это вовсе не проблема недостатка вычислительной мощи, ведь сверхбыстрые компьютеры остаются такими же «тупыми». Задачу можно решить, лишь меняя сам метод обработки информации.

Кто-то надеется, что в обозримом будущем мы поймем, как работает мозг, и напишем программное обеспечение, делающее нечто подобное, но функционирующее на иных принципах. Кто-то считает, что для воссоздания мозга в компьютере надо воспроизвести эволюцию этого органа — формирование нейронной сети. А кто-то верит, что решением станет аналитический подход: для всего в мире есть обозначения (стул, стол, подушка), и есть правила, объясняющие, как эти вещи взаимодействуют (подушка кладется на стул). Или можно хранить специальные смысловые значения для каждой «этикетки» (на стуле сидят, со стола едят) и тогда работать с обширной сетью из объектов и их смысловых значений. А может быть, нужно дать самому компьютеру изучить разницу между столом и стулом путем анализа эмпирических данных.

На самом деле все эти подходы ведут к созданию более интеллектуальных устройств и сейчас активно развиваются. Фотоаппарат распознаёт лица и убирает эффект красных глаз. Программное обеспечение вашего банка фиксирует необычный характер активности и выдает предупреждение службам безопасности. Автомобиль реагирует на угрозу аварии и включает тормоза.

Возможны ли эмоциональные компьютеры?

Исследователи считают эмоции важным аспектом разума. Когда случается хорошее, мы счастливы, испытываем радость или возбуждение, и это остается в памяти. Когда попадаем в неприятные ситуации, это сопровождается негативными эмоциями, душевной болью, разочарованием, страхом или гневом, и мы тоже всё помним. В следующий раз, когда нужно принять решение, мы руководствуемся воспоминаниями. Нам не нужно взвешивать сотни разных привходящих факторов, а достаточно помнить, что приносит счастье, а что расстраивает. То есть эмоции способствуют оптимизации процессов принятия решений. Они позволяют принимать решения быстро, вместо того чтобы оставаться парализованными нерешительностью.

Это дает нам ряд идей относительно того, как можно было бы сделать компьютеры эмоциональными. Например, им можно придать искусственные чувства, которые меняются в зависимости от того, насколько хороши были прежние решения. И роботы могли бы принимать решения, основываясь на том, как они повлияют на чувства.

Но для нас чувства — это не числа. В действительности наши эмоции представляют собой сложную последовательность химических реакций, влияющих на работу мозга. Даже справившись с моделированием на компьютерах работы сети нейронов, исследователи лишь задумываются о том, как искусственные гормоны могли бы влиять на работу искусственных нейронов, формируя эмоции.

Кто-то скажет, что эмоциональная сдержанность — не так плохо. Разве не опасен неуравновешенный робот, который решит что вы ему не нравитесь?! Нужно ли компьютеру бояться текстового редактора из-за того, что тот сбоит? Хотим ли мы столкнуться с этическими проблемами защиты компьютера от несовершенных программ или нежелательных пользователей? С другой стороны, разве не было бы полезно, чтобы компьютеры любили нас, как преданные домашние питомцы? На худой конец, может же у них появиться чувство самосохранения, помогающее следить за собой и работать дольше?

Не станут ли однажды наши компьютеры слишком умными?

Это одна из самых любимых страшилок фантастов. Компьютеры становятся умными и независимыми и решают, что человечество должно исчезнуть. Они создают огромную армию беспощадных боевых роботов, которые начинают охоту за людьми.

Чтобы появилась даже отдаленная возможность подобного сценария, в области искусственного интеллекта предстоит решить огромное количество проблем. Сейчас наши лучшие компьютеры не более разумны, чем садовая улитка (правда, эти «улитки» специализируются на перемалывании чисел, а не листьев салата). Компьютеры намного быстрее нас, но они всё равно остаются совсем тупыми. У них не больше шансов захватить мир, чем у садовой улитки — совершить революцию и выкинуть вас за забор.

Но если люди в конце концов создадут разумные компьютеры, наделенные эмоциями? В ближайшем будущем мы, скорее всего, получим верных помощников вроде любимых домашних животных. Это будут компьютеры, которые знают и любят нас. Да, они способны нагадить на странице в Facebook, но при правильной дрессировке помогут адаптироваться ко всё усложняющему миру и будут охранять нас от различных угроз. Компьютеры никогда не станут столь же комфортно чувствовать себя в физическом мире, как мы сами. Мы живем здесь миллиарды лет.

А что можно сказать про более отдаленную перспективу — скажем, несколько сотен лет? Могут ли компьютеры стать слишком умными? Попробуйте взглянуть на это иначе. Наши компьютеры — это наши творения. Может ребенок когда-нибудь стать слишком умным? Слишком успешным? Что вы станете делать, если ответите на эти вопросы утвердительно?