Машины и эмоции

У большинства людей вызывает страх мысль о том, что машины когда-нибудь станут умнее людей и завоюют мир. Их прежде всего пугает перспектива, что миром будут править бездушные роботоподобные аппараты, которые не способны ни творить что-то новое, ни создавать прекрасное. Будущее под руководством таких машин у них ассоциируется с чем-то серым и холодным, или с неким молчаливым конвейером производящим нескончаемый поток автомобилей или запчасти к самому себе. Да, будь оно все так, то это было бы равнозначно концу жизни на Земле, и этого никто не хочет.

Но на чем же основаны эти страхи? Прежде всего на том распространенном заблуждении, что якобы эмоции это нечто, на что способен только интеллект человека, ну и может быть некоторые животные. Что якобы эмоции не нужны для непосредственной мыслительной деятельности человека, а служат только лишь его "забавам", без которых жизнь была бы абсолютным скучным занятием.

Приверженцы такой точки зрения делятся на два лагеря - первые верят, что Бог есть, а потому, эмоции для них - это творение Божие, они - суть души, предназначение которой нашим умом просто не дано понять. Второй лагерь это те, кто считает что Бога хоть и нет, но эмоции - это все равно нечто не относящееся к интеллекту - некий рудимент, который достался человеку от древних животных предков, и потому якобы они только мешают нашему мозгу работать, чем их меньше - тем лучше. Есть даже такое выражение - "холодный ум". Для последней категории, понятия эмоций равнозначны инстинктам - то бишь, нечто второстепенное.

Роль эмоций в  интеллекте

Но на самом деле, обе эти точки зрения - заблуждения. Без эмоций невозможно никакое функционирование интеллекта. Эмоции - это двигатель процессов, ежесекундно происходящих в мозгу. Процессов, направленных на достижение каких-либо целей. Если убрать эмоции, то вся система по постановке и достижению целей встанет, как автомобиль у которого кончился бензин. Вся накопленная мощь и сила интеллекта будет просто невостребованной и обездвиженной, безобидной и бесполезной.

Я хочу подчеркнуть, что ситуаций, в которых интеллектуальной машине или биологической системе, обладающей развитым интеллектом, может потребоваться эмоции, не исключительны, а они - суть ее функционирования. Эмоции в системе ставят цель, которая затем достигается интеллектом. Дело интеллекта, таким образом сводится, только к поиску решения того, как удовлетворить поставленную цель. Интеллект может найти или не найти это решение, это уже зависит от его качества. Интеллект - это как лошадь, которая тянет повозку, но для того, чтобы ее тянуть, ей нужно знать свое направление. Вот это направление и задается системой эмоций, которую я лично предпочитаю называть Матрицей Мотивов.

Приведу простой пример. В ходе деятельности любой машины очевидно будет растрачивает энергия, и запасы этой энергии нуждается в постоянном пополнении. Если она не будет пополняться, то рано или поздно система не сможет дальше функционировать и остановится. Поиск и пополнение энергии - это задача, которая должна быть представлена в системе неким чувством, которое влияет на выбор дальнейшего действия все больше и больше, по мере уменьшения запасов энергии. Это чувство можно условно назвать "желанием  подзарядиться". Или другой пример - обучение. Для того, чтобы успешно решать задачи, система должна знать, как их решать, для этого она должна, конечно же, желать учиться.

И таких мотивов, которые необходимы для нормальной работы хотя бы простейшей системы может оказаться немало, может быть даже несколько десятков. Здесь и страх перед смертью или просто страх опасной ситуации, и желание не навредить самой себе, и желание занять выгодную позицию в пространстве, и много чего еще.

Здесь у некоторых может возникнуть вопрос: почему бы не назвать это желание просто программой, как это делается часто в фантастических фильмах? Зачем вся эта игра в высокие слова?

Да, все просто - никакой программы удовлетворения мотива не может существовать в принципе, так как программировать систему на определенную последовательность действий и включать ту или иную из них по мере того, как перед ней встает та или иная задача - крайне неэффективно, ведь на все ситуации решения не запрограммировать и даже не найти заранее.

Гораздо же эффективнее сформулировать в ней понятия о целях, поставить некий ряд условий, которые должны быть удовлетворены в идеале, создать нечто похожее на уравнение. Ну, а саму систему стимулировать на поиск решения этого "уравнения". То есть, заставить саму ее создавать программы своих действий.

Сравнение Матрицы Мотивов с уравнением далеко не случайно, ведь успешное решение той или иной задачи может быть связано с нарушением возможной перспективы или уже идущего процесса решения другой не менее важной задачи. Или наоборот, какое-то действие может давать в итоге решение сразу нескольких задач. То есть прямо как в притче о раке, гусе и  щуке. Да, если бы цель была одна, то все было бы просто, но когда их много (а их неизбежно много, во всяком случае, пока система не достаточно развита), то неизбежно наступают противоречия между их решениями - конфликты желаний.

Совершенство эмоций  человека

В человеческих эмоциях зашифрована стратегия выживания нашего вида, которая прошла испытание временем и количеством. Она представляет собой очень сбалансированную систему приоритетов, улучшить которую с точки зрения ее потенциала выживания можно было бы только дав ей возможность развиваться и дальше в тех уже условиях.

На первый взгляд кажется, что ее можно было улучшить просто заранее доказав эффективность той или иной новой функции, но это далеко не так. Тот, кто задался бы желанием усовершенствовать наши эмоции, должен бы сначала создать некую сверхмощную виртуальную машину для моделирования реальных процессов, в которой уже смоделировать окружающий мир и заданную систему в нем, дабы проиграть и понять каким образом его новое "улучшение" отразиться на эффективности выживания всей системы. Но для того, чтобы это моделирование было полным и объективным, моделируемые объекты должны обладать самым совершенным, из имеющегося на данный момент, интеллектом. Очевидно же, что например,  оттачивать стратегию выживания человека - способность любить, жертвовать и так далее,  дав ему куриные мозги - просто невозможно.

Здесь-то и наступает неразрешимый парадокс - система способная моделировать с огромной скоростью сразу несколько совершенных интеллектов, сама является более совершенной, чем ее модели. А если так, то выходит, что ее решение заведомо не учитывает необходимое для объективности условие. Ну, а смоделировать сама себя она не может в принципе.

В итоге получается, что стратегия выживания, в отличии от самого интеллекта как средства, может развиваться только под контролем естественного отбора и никак иначе. Поэтому, абсолютно невозможно искусственно создать эмоции более совершенные с точки зрения выживания, чем человеческие, будучи заранее уверенным, что они таковы. Или, говоря более абстрактно, никакая Cтратегия Выживания не может усовершенствовать саму себя.

Чувствующая машина

Из вышеперечисленных выше причин следует, что любая искусственная, интеллектуальная машина, претендующая на ту же способность к выживанию, которая есть у нас, обречена на то, чтобы по меньшей мере изначально обладать теми же эмоциями, что есть у нас. Она обречена быть искусственным, "кремниевым" человеком, а вовсе не бездушным роботом.

Однако все это не умиляет того факта, что даже менее приспособленная к выживанию, но тем не менее достаточно интеллектуально развитая машина может представлять огромную опасность для людей. Ее выживание может вообще не входить в матрицу ее мотивов, но тем не менее, ее функционирование по достижению даже самой мизерной с нашей точки зрения цели, может окончиться для нас всех фатально.