Упомянутый мной на днях в одной из публикаций советский фантаст Север Гансовский в 1966 году написал эссе "Машина как личность", как раз на тему, которую сейчас обсуждают все чаще. Сможет ли машина, ну или ИИ, вытеснить людей. И вообще, как строить отношения человечеству и электронному разуму.
Фантасты довольно часто бывают визионерами.
"Будущее обилие предсказываемых многими учеными «мыслящих» машин вызывает к жизни вопрос: не придет ли такое время, когда необходимость демонтировать тот или другой «разумный» робот поставит перед человеком не только техническую, но и этическую проблему? Не будет ли, другими словами, разборка машины чем-то напоминать убийство или во всяком случае казнь по приговору некоего научно-технического суда?
Поскольку с этическими, моральными критериями мы подходим только к личности (или к обществу, состоящему в свою очередь из личностей), вопрос по существу сводится к следующему: «Может ли быть машина личностью?» Кроме того, здесь и множество других тем. Не станет ли в конечном счете эта «машинная личность» более высокой и содержательной, чем личность человеческая, не будут ли машины умнее нас и не следует ли нам рассматривать при этом допущении возможность замены цивилизации человеческой цивилизацией машинной как очередной естественный шаг эволюции? Не вытеснят ли машины, короче говоря, человечество из его колыбели — Земли?
По всей вероятности, этого можно все же не опасаться. Не вытеснят. И день, когда машину придется рассматривать в качестве личности, тоже не придет.
Почему?.. Для ответа на этот вопрос нам следует разобраться в том, что же такое человеческая личность.
Человеческая личность, кроме физиологического аспекта, имеет еще и социальный и социально-исторический: она всегда есть результат четырех биографий. Чтобы быть человеком, субъект должен, во-первых, повторить филогенез (историю развития и существования вида «человек разумный»), т. е. иметь человеческое устройство тела. Ему нужно затем осуществить свою собственную физиологическую биографию — вырасти; в-третьих, уметь говорить (т. е. общаться с людьми) и не быть оторванным от тысячелетней человеческой культуры или от
культуры, скажем, своего племени. Ему необходимо, в-четвертых, осуществить свою социальную биографию, чему-то научиться и участвовать в процессе социальной жизни.
В современном обществе все мы, примерно одинаковые в качестве представителей биологического вида, отличаемся друг от друга прежде всего своим общественным положением и общественным поведением. Каждый из нас как бы стоит на высокой горе, образованной тем, что придумано и сделано людьми до нас и при нас. При любом ответственном решении мы, не замечая этого сами, опираемся прежде всего на свой общественный и культурный опыт. Если отнять у человека его историю, если отделить людей друг от друга, человечество тотчас рухнет.
А что же есть у машины для того, чтобы сформировать личность?
Вот он стоит в лаборатории — огромный блок из миллиардов элементов (а может быть, и маленький, выполненный средствами микроминиатюризации). Допустим, что он равен по возможностям нашему мозгу. Но как же дать ему историческую и личную социальные биографии? Как обучить его?
Что ж, давайте пробовать. Введем в машину роман «Война и мир». Это можно сделать, и машина будет тогда действительно «знать» роман. Но лишь в чрезвычайно узком смысле. В том смысле, что на вопрос, какая строчка идет за словами: «...ведь это опять от немца. Он при нем состоит.— И Дени», она даст уверенный и быстрый ответ. Но будет ли это знанием романа?
Наташа Ростова влечет нас тоже в силу того, что нечто подобное ее мечтам мы переживали сами. А если нет этой созвучности, если читающему знаки и образы написанного чужды, то и прекраснейшая строчка из Лермонтова будет иметь для него не больше смысла и эмоционального значения, чем x + y=z при условии, что все три неизвестны.
Другими словами, как бы ни начинять машину, какие бы бесчисленные страницы научных и художественных публикаций ни вводить в нее, это ни на шаг не продвинет робота к тому, чтобы стать личностью.
А что продвинет?.. Социальная практика. Вступление в мир в качестве члена коллектива. Вот у нас лаборатория. Вместе с группой сотрудников там работает машина. Она видит, слышит, передвигается, манипулирует инструментами, она присутствует при всех разговорах и фиксирует их в своей памяти. Сравняется ли она при этих условиях с человеком и возникнут ли условия для формирования личности? Тоже нет.
Ибо, чтобы воспринять наш социальный опыт, заключенный в искусстве, науке и морали, нужно чувствовать, воспринимать мир и вообще жить, как человек. Потому что вторая сигнальная система возникает и существует у нас не сама по себе, а как производное от первой сигнальной системы, зависящей от физиологической специфики, от электрохимии именно человеческого, а не какого-нибудь другого организма.
Конечно, разум есть функция мозга, но эта функция в том ее значении, которое образует личность, зависит и от того, каковы наши руки, ноги, дыхательная и кровеносная системы. Чтобы включиться в социальную практику, машине необходимо с радостью дышать чистым воздухом, с отвращением — зловонным, нужно, чтобы ухо робота воспринимало тот же диапазон колебаний, а глаз — сопоставимую шкалу волн.
Личность, затем,— это то, что функционирует лишь в процессе постоянного созидания себя, в каждый данный момент умирая и возрождаясь, непрерывно представляя собой конец одного и начало другого этапа не только в собственном физиологическом и социальном росте, но и в развитии человеческого рода и общества в целом. Личность, далее, неисчерпаема, и ответ на вопрос: «Что такое я?»— никогда не может быть точным.
Личность к тому же неповторима, тогда как машины одной серии, получившие равную информацию, будут одинаковы и внешне и внутренне.
Но ведь мы могли бы дать машине такие же органы, как у homo sapiens. Снабдим ее желудком, предпочитающим кровяной бифштекс сухой корке, и кожей, умеющей воспринимать прохладу вечернего ветерка. Если мы с помощью должного генетического кода создадим биологического робота, во всем подобного человеку, что тогда?
Тогда наши отношения с таким существом выйдут за рамки обсуждаемой проблемы. Что же касается собственно машины в качестве чего-то отличного от человека, то без достаточно стабильного и развитого, достаточно единообразного общества себе подобных она не сможет стать личностью и быть объектом этического отношения с нашей стороны. Потому что личность немыслима без общества, «я» не существует без «мы», «он» и «они». Возможность же того, чтобы человечество создало такое независимое от себя общество, пока весьма гипотетична.
Остается еще один вопрос: а может ли машина превзойти человека по разуму? Приходится думать, что вообще нельзя смешивать понятия «разум человеческий» (который, видимо, не существует без личности) и «разум машинный».
Если вместе с профессором Уильямом Эшби считать разум способностью выполнять подходящий отбор на основе полученной информации, то при решении множества узких задач машина уже давно оставила нас позади.
Но если понимать его как способность связывать в одно целое, в некую систему элементарную частицу со Вселенной, то и другое с мелькнувшим на улице незнакомым лицом, с услышанным музыкальным аккордом, с положением дел в Юго-Восточной Азии, с поэзией Пушкина и еще бог знает с чем,— связывать да еще оценивать перечисленные и другие явления с точки зрения интересов общества, порождение которого ты сам есть, да еще, сознавая все эти связи, искать путей к улучшению жизни общества, то при таком определении и наиболее хитрая машина спасует в сравнении не только с лучшими умами человечества, но и с самыми непретенциозными его детьми. "
