Лем Станислав - Душа В Машине
Станислав Лем
Душа в машине
Понятием "душа в машине" - the ghost in the machine - некоторые психологи
(английские) закрепляют убеждение в том, что человек якобы является существом
"двойственным", т.е. состоящим из "материи" и "души".
Сознание не является технологической проблемой, потому что конструктора не
интересует, чувствует ли машина, а только интересует, действует ли она. Таким
образом "технология сознания", как бы это сказать, может появиться только
мимоходом, когда окажется, что определенный класс кибернетических машин
обладает субъективным миром психических переживаний.
Но каким образом можно узнать о наличии сознания в машине? Эта проблема
имеет не только абстрактно-философское значение, ибо предположение, что
какая-то машина, которая отправляется на лом из-за того, что ремонт не
оплачивается, имеет сознание, превращает наше решение уничтожить материальный
предмет, типа граммофона, в акт уничтожения индивидуальности, осознанного
убийства. Кто-то мог бы оснастить граммофон пластинкой и выключателем таким
образом, что, если бы мы сдвинули его с места, то услышали бы крики: "Ах,
умоляю, подари мне жизнь!". Как можно отличить такой, без сомнения, бездушный
аппарат от мыслящей машины? Только вступая с ней в разговор. Английский
математик Аллан Тьюринг (Allan Turing) в своей работе "Может ли машина
мыслить?" предлагает в качестве решающего критерия "игру в имитацию", которая
основывается на том, что мы задаем Кому-то произвольные вопросы и на основании
ответов должны сделать заключение, является ли этот Кто-то человеком или
машиной. Если мы не сможем отличить машину от человека, то следует признать,
что машина ведет себя как человек, то есть что она обладает сознанием.
Отметим со своей стороны, что игру можно усложнить. Можно предположить два
вида машин. Первый вид является "обычной" цифровой машиной, которая устроена
как человеческий мозг; с ней можно играть в шахматы, разговаривать о книгах, о
мире и вообще на все темы. Если бы мы ее вскрыли, то увидели бы огромное
количество соединений элементов, подобно соединениям нейронов в мозгу, кроме
того - блоки ее памяти и т.д. и т.п.
Второй вид машины совсем другой. Это увеличенный до размера планеты (или
космоса) граммофон. Она имеет очень много, например, сто триллионов,
записанных ответов на всевозможные вопросы. Таким образом, когда мы
спрашиваем, машина ничего "не понимает", а только форма вопроса, т.е.
очередность вибраций нашего голоса, приводит в движение передатчик, который
запускает пластинку или ленту с записанным ответом. Не будем задумываться о
технической стороне вопроса. Понятно, что такая машина неэкономична, что ее
никто не создаст, потому что это невозможно и главное - неизвестно, зачем ее
создавать. Но нас интересует теоретическая сторона. Потому что, если вывод о
том, имеет ли машина сознание, делается на основе поведения, а не внутреннего
строения, не придем ли мы неосмотрительно к выводу, что "космический
граммофон" обладает им - и тем самым выскажем нонсенс? (А скорее неправду).
Можно ли, однако, запрограммировать все возможные вопросы? Без сомнения,
средний человек не отвечает в обычной жизни даже на один их биллион. Мы же на
всякий случай записали их во много раз больше. Что же делать? Мы должны вести
нашу игру по достаточно развитой стратегии. Мы задаем машине (то есть Кому-то,
потому что не знаем, с кем имеем дело; разговор ведется, например, по
телефону) вопрос, любит ли она анекдоты. Машина отвечает, скажем, что
