Может ли машина мыслить? – оценки Алана Тьюринга [окончание]

Середина »

 

 

6. Возражение леди Лавлейс. Наиболее подробные сведения, которыми мы располагаем об Аналитической  машине Бэббиджа, берутся из воспоминаний леди Лавлейс. В них она высказывает  такую мысль: «Аналитическая машина не претендует на то, чтобы создавать  что-то действительно новое. Машина может выполнить всё то, что мы умеем ей  предписать» (курсив леди Лавлейс). Это высказывание цитируется Хартри ,  который добавляет: «Отсюда не следует, что невозможно сконструировать  электронное устройство, которое «мыслит», или в котором, пользуясь  биологическими терминами, можно вырабатывать условные рефлексы, на основе  которых становится возможным «обучение». Увлекательный и будирующий вопрос,  подсказанный некоторыми из последних достижений, состоит в том, осуществимо  это принципиально или нет. Однако не видно, чтобы машины, построенные или  запроектированные до настоящего времени, обладали этим свойством».

Я полностью согласен с Хартри по этому вопросу. Следует отметить, что  он вовсе не утверждает в категорической форме, что машины, о которых идет  речь, не обладают этим свойством. Он лишь замечает, что данные, которыми  располагала госпожа Лавлейс, не позволяли ей допустить этого. Весьма  возможно, что машины, о которых шла речь, в некотором смысле обладали этим  свойством. Действительно, пусть некоторая машина с дискретными состояниями  обладает рассматриваемым свойством. Аналитическая машина Бэббиджа была  универсальной цифровой вычислительной машиной; это значит, что если бы она  обладала нужной ёмкостью памяти и необходимой скоростью работы, то, будь в  неё введена соответствующая программа, она могла бы подражать этой машине.  По-видимому, этот довод не приходил в голову ни Бэббиджу, ни графине  Лавлейс. Во всяком случае, от них нельзя требовать, чтобы они исчерпали все,  что можно сказать по этому вопросу. […]

 Один из вариантов аргумента госпожи Лавлейс - это утверждение,  гласящее, что машина «никогда не может создать ничего подлинно нового». На  секунду возразим поговоркой, что вообще «ничто не ново под Луной». Кто может  быть уверенным в том, что выполненная им «оригинальная работа» не была  ростком из зерна, посеянного образованием, или просто результатом применения  хорошо известных общих принципов. Более удачный вариант этого возражения  состоит в утверждении, что «машина никогда не может ничем поразить  человека». Это утверждение представляет собой прямой вызов, который, однако,  мы можем принять, не уклоняясь. Лично меня машины удивляют очень часто. В  основном это происходит потому, что я не могу точно рассчитать, чего можно,  а чего нельзя ожидать от них, или (это бывает чаще) потому, что, хотя я и  провожу необходимые расчеты, однако делаю это в спешке, неряшливо, рискуя  ошибиться. Вот я говорю себе: «По-видимому, электрическое напряжение здесь  должно быть таким же, как там: во всяком случае, будем исходить из этого  предположения». Само собой разумеется, что в таких случаях я часто ошибаюсь,  и получающийся результат оказывается для меня неожиданностью, так как к тому  времени, когда эксперимент заканчивается, сделанное допущение уже забыто  мною. Эти предположения и натяжки я оставляю открытыми до лекции на тему о  моих порочных методах работы. Однако я нисколько не сомневаюсь в том, что  действительно испытываю удивление перед машинами. […]

 Мнение о том, что машины не могут чем-либо удивить человека,  основывается, как я полагаю, на одном заблуждении, которому в особенности  подвержены математики и философы. Я имею в виду предположение о том, что  коль скоро какой-то факт стал достоянием разума, тотчас же достоянием разума  становятся все следствия из этого факта. Во многих случаях это предположение  может быть весьма полезно, но слишком часто забывают, что оно ложно.  Естественным следствием из него является взгляд, что якобы нет ничего  особенного в умении выводить следствия из имеющихся данных, руководствуясь  общими принципами.

7. Возражение, основанное на непрерывности действия нервной системы. Нет сомнения в том, что нервная система не является машиной с  дискретными состояниями. Небольшая ошибка в информации относительно силы  нервного импульса, действующего на нейрон, может привести к значительному  изменению импульса на выходе. Исходя из этого, можно было бы как будто  предполагать, что нельзя имитировать поведение нервной системы с помощью  машины с дискретными состояниями. […]      

8. Возражение с точки зрения неформальности поведения человека

Невозможно выработать правила, предписывающие, что именно должен  делать человек во всех случаях, при всевозможных обстоятельствах. Например,  пусть имеется правило, согласно которому человеку следует остановиться, если  включён красный свет светофора, и продолжать движение, если свет зелёный; но  как быть, если по ошибке оба световых сигнала появятся одновременно?  По-видимому, безопаснее всего остановиться. Однако это решение в дальнейшем  может быть источником каких-либо новых затруднений. Рассуждая так, мы  приходим к заключению, что любая попытка сформулировать правила действия,  предусматривающие любой возможный случай, обречена на провал, даже если  ограничиться областью транспортной сигнализации. Со всем этим я согласен.

Основываясь на сказанном, доказывают, что мы не можем быть машинами. Я  попытаюсь воспроизвести это доказательство, хотя боюсь, что вряд ли сумею  сделать это хорошо. Выглядит оно приблизительно так: «Если бы каждый человек  обладал определённой совокупностью правил действия, следуя которым он живёт,  он был бы не чем иным, как машиной. Однако таких правил не существует.

Следовательно, человек не может быть машиной». В этом рассуждении бросается  в глаза ошибка, связанная с распределённостью термина. Я не думаю, чтобы  когда-нибудь это возражение излагали именно в такой форме, однако я убеждён,  что рассуждение этого рода всё же находит применение. Однако оно основано на  смешении терминов «правила действия» [rules of conduct] и «законы поведения»  [laws of behaviour], что затемняет вопрос. Под «правилами действия» я  понимаю такие предписания, как «Остановитесь, если увидите красный свет»;  такие предписания могут определять наши действия и осознаваться нами. Под  «законами поведения» я понимаю управляющие человеком естественные законы,  например: «Если человека ущипнуть, он вскрикнет». Если в приведённом выше  рассуждении вместо «правил действия, которыми человек руководствуется в  своей жизни» подставить «законы поведения, управляющие жизнью человека», то  ошибка, связанная с нераспределённостью термина, оказывается вполне  устранимой».

Алан Тьюринг, Может ли машина мыслить?, в Сб.: Информационное общество, М., «Аст», 2004 г., с. 242-268.