возможности вычислительных машин и человеческий разум
Возможности вычислительных машин и человеческий разум
#Когнитивная психология/Искусственный интеллект
Читайте еще:
Заключительный пример с той же клиенткой. Ее последним значительным симптомом был «Синдром хронической усталости». Он диагностируется врачами как вирус Эпштейна-Барра и считается неизлечимым. Клиентка обычно очень устает, и проводит большую часть дня просто сидя без сил что-то сделать. Это.
Через шесть месяцев Сонора стала для меня чем-то вроде мифа. Не желая больше прятать все это в потаенные уголки памяти, я сопоставила воспоминания о двух моих поездках туда. Но как ни старалась, я не могла ничего вспомнить о потерянных одиннадцати днях: одном — при первом путешествии.
«Пром, роща 3. 3 мал 1a ал оукалм ма поррмми, М ove bean ureAbnoL ugbevabo narvnOvet AWD WHOA HELKOADD GueT.
Самой выразительной и глубокой особенностью этого яркого приключения Кухулина является тема единственного в своем роде, невидимого пути, который открывается перед героем, следующим за катящимся колесом или яблоком. Данный момент следует рассматривать как знаменательный и символизирующий чудо.
потомство, Гладко выбритое лицо в этом плане является идеальным условиям получения правдивой информации. Предполагается, что в условиях значительного избытка свободных мужчин, более уверенные в себе женщины будут предпочитать в качестве брачных партнеров мужчин с растительностью на лице (потому.
Господь призывает вас к действию. Только сотрудничество человека и Бога позволяет построить дорогу и двигаться по
Применительно к Желаемому Результату должны быть соблюдены еще некоторые требования: он должен быть РЕАЛЕН для вас и вашей фирмы и он должен быть ЦЕНЕН для вас и всей вашей команды. Возбужденно сообщив своим коллегам, что «наша фирма собирается поиметь всем составом Билла Гейтса, чтобы попасть в.
Часто истерические взрывы становятся основной жалобой и приводят истериков на терапию, хотя чаще всего недоволен не пациент, а его родственники, которые являются потерпевшими от истерического взрыва. Легко заметить, что, кроме коротких периодов.
Наши азиатские предки, уже завещавшие нам много недугов, до сих пор, однако, оставляли при себе странное пристрастие к опиуму и его вариантам.
Темы, может быть, и банальные, но с другой стороны – не часто про такое прочтешь. Например, страх, что тебе нахамят в общественном месте, или страх перед врачебной ошибкой, или страх лишиться кровно нажитых сбережений, или страх допустить ошибку, наконец, страх смерти и несчастного случая….
С точки же зрения структуры и, следовательно, эффективности между сенсомоторными координациями и координациями понятийными имеется ряд кардинальных различий, которые относятся как к природе самих координации, так и к расстояниям, которые проходит действие, т. е. к широте поля применения этого.
Возможности вычислительных машин и человеческий разум
Теперь, когда у нас есть вычислительные машины, стало легче замечать эту поразительную трансформацию, которой мы подвергли наш мир. Теперь мы можем использовать сами вычислительные машины (в этом заключается «идея» вычислительной машины) в качестве метафоры, чтобы помочь осознать то, что мы сделали и продолжаем делать.
В 1935 г. Майкл Поляни, тогда заведующий кафедрой физической химии в университете Виктория (Victoria University) в Манчестере (Великобритания), был потрясен, столкнувшись с философскими вопросами, под воздействием которых он находился всю дальнейшую жизнь. Причиной шока были слова одного общественного деятеля о том, что концепция «науки ради науки» исчезнет, поскольку интересы ученых самопроизвольно переключатся на задача текущего времени. Поляни тогда почувствовал, что «научное мировоззрение, по-видимому, породило механистическую концепцию человека и истории, в которой нет места для собственно науки». Более того, «эта концепция одновременно отрицает неотъемлемую силу, заключенную в мысли, и, таким образом; исключает любые основания для провозглашения свободы мысли.
Я не знаю, сколько времени Поляни предполагал посвятить обоснованию противоположной концепции человека и истории. Сильнейшее потрясение, испытанное им, свидетельствует о его глубоком несогласии с услышанным и, следовательно, о том, что у него уже было другое представление о человеке, хотя он и не смог бы сформулировать свою концепцию в явном виде. Возможно, Поляни решил
противопоставить этой концепции позицию, основанную исключительно на собственном опыте ученого. Как оказалось, борьба с такой концепцией с этого момента полностью поглотила внимание Поляни.
Работа выполнялась в 1964-1966 г., и сообщения о ней (в литературе по информатике) были опубликованы в январе 1966 г. и августе 1967 г. Говоря кратко, я написал программу для вычислительной машины, с которой можно «беседовать» на английском языке. Собеседник-человек печатает свою часть разговора на пишущей машинке, соединенной с вычислительной машиной, а машина, управляемая моей программой, анализирует сообщение, переданное ей таким образом, составляет ответ на английском языке и обеспечивает печать ответа с помощью печатающего устройства.
Дж.Вейценбаум. Возможности вычислительных машин и человеческий разум (от суждений к вычислениям).
(М. Радио и связь.1982.)
(стр. 34) В конце концов, необходимо провести линию, разделяющую интеллект человека и машины. Если такой линии нет, то адвокаты машинной психотерапии могут оказаться просто вестниками эпохи, в которой человек в конце концов будет признан ничем иным, как часовым механизмом.
(37). я постоянно сталкиваюсь со студентами, некоторые из которых уже отвергли все способы познания мира, кроме научного, и искали лишь более глубокого и более догматичного наставления в этой вере.
МОЕ. Это прямо про марксизм.
Читателю-неспециалисту можно простить его более, чем слегка скептическое отношение к тому, что кто-либо будет вынужден доказывать полную вычислимость человеческой мысли. Но уже сам этот скептицизм может свидетельствовать о том, как замечательно искусно и обманчиво современная наука влияет на образ реальности, создаваемый человеком.
(43) Неверно, снова вопреки общему убеждению, также и то, что представление единственного контрпримера, признание истинности которого явно опровергает научную теорию, всегда ведет к немедленному отказу от этой теории. Вероятно, все научные теории, признаваемые сейчас самими учеными (за исключением лишь тех сугубо формальных теорий, которые не претендуют на какие-либо связи с эмпирическим миром), сталкиваются сегодня с противоречащими им данными, имеющими не пренебрежимо малое значение, такого характера, что, если, как и выше, считать их абсолютно достоверными, они превратят эти теории в логически несостоятельные. Часто для того, чтобы объяснить (вернее, отмахнуться) появление подобных данных, их приписывают разного рода ошибкам, скажем, ошибкам наблюдения, либо они объявляются несущественными, либо высказывается Предположение (т. е. в ход идет ;вера) о существовании еще только предстоящего быть открытым способа, который в свое время позволит принять эти данные как достоверные и одновременно включить их в те научные теории, которые, как считалось первоначально, они опровергают. Таким образом, ученые продолжают полагаться на ущербные теории и выводить из них «научные факты»
МОЁ. Примеров тому множество. Есть еще один прием. Например, по Марксу, социалистическая революция должна была победить в самой развитой капиталистической стране. Однако она победила в одной из самых неразвитых и практически феодальной. Это объясняется так: дескать, есть свои особенности. Неслабая особенность: факт, полностью опровергающий выводы теории! Кстати, ни в одной развитой капиталистической стране до сих пор революцией не пахнет!
(44) Научные утверждения никогда не могут быть несомненными; они могут быть лишь более или менее правдоподобными. Термин же «правдоподобие» относится к психологии личности, т. е. он имеет значение только применительно к некоторому определенному наблюдателю. Сказать, что какое-то высказывание правдоподобно, значит, в конце концов, сказать, что его разделяет некто, свободный не делать этого, т. е. наблюдатель, который, применив рассуждения и (возможно) интуицию, решил рассматривать это высказывание заслуживающим того, чтобы считать его верным. Как же может тогда наука, твердо и бесповоротно опирающаяся на огромную совокупность человеческих оценок, продемонстрировать, что человеческие оценки иллюзорны? Это немыслимо без отказа науки от статуса единственного законного пути к пониманию человека и его мира.
(45) Мы умеем считать, но быстро забываем, как сказать, что мы считаем и зачем.
МОЁ. Вообще, все мысли этой главы весьма близки к воззрениям Л.Н. И тем более приятно, что высказывает их человек, в науке не последнее место занимающий! Очень хорошо!
МОЕ. (примечание из 1999 года). Далее идет глава про одержимого программиста. В конспекте я отметил, что она просто великолепна, но при вводе в интернет я использовал OCR, а не переписывание вручную, и потому не поленился поместить сюда эту главу почти целиком. Она того стоит!
(155) НАУКА И ОДЕРЖИМЫЙ ПРОГРАММИСТ
(161) Разложение, порождаемое всемогуществом программиста вычислительной машины, проявляется в форме, поучительной для сферы, значительно более обширной, чем мир вычислительной техники.
Как же отличить одержимого программиста от просто преданного своему делу трудолюбивого программиста-профессионала? В первую очередь, на основе того, что обычный профессиональный программист занимается задачей, требующей решения, а одержимый программист рассматривает задачу в основном в качестве предлога для обращения к вычислительной машине. Профессиональный программист, как правило, обсуждает с другими свои проблемы, связанные с содержанием задачи и техникой программирования. Обычно он проделывает обширную подготовительную работу (построение блок-схемы, написание программы) прежде, чем приступить к работе собственно с вычислительной машиной. Его сеансы работы с вычислительной машиной бывают сравнительно непродолжительными и он даже перепоручает кому-нибудь работу за пультом управления. Он создает свои программы неторопливо и систематически. Если что-то не получается, он значительную часть времени проводит не возле вычислительной машины, а тщательно продумывает гипотезы, объясняющие отказы, и планирует эксперименты, позволяющие эти гипотезы проверять. И снова сам процесс выполнения программы на машине он может доверить кому-то. Он способен, ожидая результатов от ЭВМ, заниматься другими аспектами своей работы, например документированием уже законченной части. Когда, наконец, он завершит программу, которую должен был разработать, программист в состоянии составить ее точное описание и перейти к другим проблемам. Профессионалы считают программирование средством достижения цели, а не целью как таковой. Они удовлетворены решением содержательной задачи, а не тем, что вычислительная машина подчиняется их воле.
Обычно системы, за создание которых он принимается и над которыми лихорадочно работает иногда месяц, два или три, имеют чрезвычайно претенциозные, но исключительно нечетко сформулированные цели. Вот несколько примеров таких честолюбивых замыслов: новые машинные языки, облегчающие связь человека с вычислительной машиной; универсальная система, поддающаяся обучению любой настольной игре; система, которая облегчает специалистам в области вычислительной техники создание сверхсистем (самая любимая задача.
Для многих таких проектов характерно, что программист может долго считать, будто для их выполнения достаточно лишь знаний в области вычислительных машин, программирования и тому подобных предметов. Такими знаниями он, конечно, обладает в изобилии. На самом деле работы такого рода часто прекращаются именно в тот момент, когда они теряют свой чисто «кровосмесительный» характер, т. е. программирование приходится прервать для того, чтобы получить информацию из мира вне пределов вычислительной техники.
В отличие от профессионала одержимый программист не может заниматься другими задачами, даже тесно связанными с его программой, в те периоды, когда он непосредственно не работает на машине. Он с трудом переносит разлуку с машиной. Если же волею обстоятельств ему приходится с ней расстаться, то по крайней мере с ним остаются его распечатки. Он штудирует их, рассказывает о них всякому, кто согласен его выслушивать, хотя, естественно, никто разобраться в них не в состоянии. Действительно, когда он охвачен своей манией, он не может говорить ни о чем, кроме своей программы. Но единственный момент, когда он счастлив, время, проведенное за пультом управления вычислительной машины. И тогда он не станет беседовать ни с кем, кроме машины. Скоро мы узнаем, о чем они беседуют.
(Следует отметить, что не все хакеры страдают патологией одержимого программиста. В самом деле, если бы не эта в высшей степени творческая работа людей, гордо называющих себя хакерами, немногие из сегодняшних изощренных вычислительных систем с разделением времени, трансляторов машинных языков, систем машинной графики и так далее вообще существовали бы.)
Психологическая ситуация, в которой оказывается предающийся подобным занятиям одержимый программист, в основном определяется следующими двумя явно противоположными обстоятельствами: 1) он считает, что может заставить ЭВМ делать все, что он хочет; 2) вычислительная машина, постоянно предоставляет ему неопровержимые свидетельства его неудач. И это-позор для него. Здесь нет выхода. Инженер может смириться с тем, что есть вещи, которые он не знает. Программист же действует в мире, созданном исключительно им самим. Вычислительная машина бросает вызов его могуществу, а не знаниям.
Возбуждение программиста достигает наивысшего, лихорадочного уровня тогда, когда он сталкивается с самой неясной ошибкой: все должно работать, но вычислительная машина тем не. менее ведет себя позорно, не так, как следует, причем в самых таинственных, явно не связанных между собой ‘проявлениях. Именно в таких ситуациях система, созданная самим программистом, показывает, что у нее есть своя собственная жизнь и она определенно выходит из-под его контроля. Это та самая ситуация, когда идея о том, что вычислительную машину можно «заставить делать все, что угодно», становится очень уместной и реальной. Дело в том, что в этих обстоятельствах артефакт неправильного функционирования порожден самим программистом. Ложное поведение может быть, как мы уже указывали, исключительно следствием того, что сделано самим программистом. А это он, вероятно, в состоянии понять, устранить и переделать таким образом, чтобы результат в большей степени соответствовал его целям. Соответственно он приходит в неистовство я развивает бешеную активность, когда ему кажется, что наконец он нашел источник неприятностей. Если в этот момент время его работы за пультом подходит к концу, то он подвергает свою программу ужасному риску, внося в нее одно за другим в течение минут или даже секунд серьезные изменения, не заботясь о таких «пустяках», как регистрация этих изменений, и умоляя дать ему еще минутку. В таких условиях он может очень быстро и фактически безвозвратно погубить результаты многих недель собственного труда. Если же ему удается обнаружить глубоко спрятанную ошибку, которая действительно отвечает за значительную долю неправильного функционирования, его радость неописуема. Он испытывает трепет, видя, как до того умиравшая программа неожиданно возвращается к жизни (по-другому это не назовешь). Когда обнаруживается и исправляется какая-то глубинная ошибка, многие отдельные части программы, не дававшие до тех пор ничего, кроме чего-то совершенно невразумительного, мгновенно становятся покладистыми и выдают предписанные результаты. У диагноста есть основания быть довольным и даже гордиться, если ошибка действительно коренилась где-то глубоко в системе.
Но гордость и воодушевление одержимого программиста очень быстротечны. Его успех заключается в том, что он продемонстрировал вычислительной машине, кто здесь хозяин. И показав, что он может заставить ее сделать то, что было ей предписано, он немедленно решает добиться от нее большего.
В результате весь цикл начинается сначала. Программист начинает «улучшать» свою систему, скажем, увеличивая ее быстродействие, вводя дополнительные «новые средства» или упрощая ввод данных в систему и вывод их из нее. Модификация работающей программы неизбежно приводит к выходу из строя ряда ее подструктур; в конечном счете они представляют аморфную совокупность процессов, взаимодействие которых имеет в сущности случайный характер. Его явные попытки улучшить и перевести на новый, более высокий уровень свое произведение представляют собой на самом деле подлинное нападение на него же, единственный результат которого-возобновление борьбы одержимого программиста с вычислительной машиной. Если же подрыв собственной работы программиста предотвращается, например, административным решением, то он впадает в депрессию, мрачнеет, перестает интересоваться чем бы то ни было вокруг. Лишь новая возможность поработать на машине может поднять его дух.
Следует подчеркнуть, что нарисованный мною портрет наверняка опознают в любой точке мира, где есть вычислительная машина. Он воплощает разновидность психопатологии, значительно менее расплывчатую, чем, например, слабо выраженные формы шизофрении или паранойи. В то же время это чрезвычайно сильно выраженная форма расстройства, поразившая большую часть нашего общества.
Как же следует относиться к этому наваждению? В первую очередь необходимо убедиться в том, что это действительно мания. Обычно стремление достичь удовлетворения вызывает поведение, для которого характерны пристрастность и самопроизвольность. Удовлетворение подобных желаний вызывает удовольствие. Поведение одержимого программиста вынужденное; в том, как он себя ведет, мало самопроизвольности, и удовлетворение его номинальных желаний не вызывает у него удовольствия. У вычислительной машины он ищет не удовольствия, а ободрения. Аналогией с психопатологией такого рода является неумолимая и неосознанная тяга к утешению, характерная для одержимого игрока.
Существуют также люди, играющие в азартные игры, но не являющиеся ни профессиональными, ни одержимыми игроками. Для одержимого игрока игра-это все. Даже выигрыш менее важен, чем сама игра. Он счастлив, так сказать, только тогда, когда находится за игорным столом.
Достоевский с тем же успехом мог бы описать и машинный зал.
Медицинская литература, посвященная маниакальному пристрастию к игре, в основном занимается психогенезом этой мании и, следовательно, рассматривает ее почти исключительно с психоаналитических позиций. В мои задачи не входят психоаналитические рассуждения. Достаточно лишь отметить, что все психоаналитики, начиная с Фрейда, считали манию величия и иллюзии всемогущества основными компонентами психической деятельности одержимого игрока. Не следует принимать либо отвергать психоаналитические объяснения источников подобных бредовых расстройств (например, что они коренятся в неразрешенных эдиповых конфликтах, порождающих стремление добиться превосходства над отцом, которое ведет в свою очередь к подсознательной мотивации уступать), чтобы присоединиться к психоаналитикам и таким писателям, как Достоевский, в признании ведущей роли мании величия, порождающей бред всемогущества, в одержимости игрой.
Игрок, согласно психоаналитику Эдмунду Берглеру, придерживается трех следующих основных принципов:
(172) Программист волен каждое очередное затруднение трактовать как некоторый специальный случай, для которого следует специально написать особую подпрограмму, и таким способом он включает этот случай в свою систему. Прибегая к подобному неограниченному наращиванию в своих системах эпициклов, и программисты, и игроки приобретают неисчерпаемый резерв объяснений, позволяющих им обходить даже самые серьезные трудности.
«Любое противоречие между определенным научным понятием и эмпирическими фактами можно объяснить с помощью других научных понятий; существует готовый запас приемлемых научных гипотез, которые используются для объяснения любого мыслимого события. в пределах собственно науки, устойчивость теорий по отношению к реальному опыту поддерживается эпициклическими резервами, подавляющими альтернативные концепции в зародыше»
МОЕ. Пример: материализм рассматривает взаимные отношения между материальными вещами, или же материализует такие вещи, как производственные отношения. При этом он абстрагируется от таких понятий, как совесть, или пытается вывести их опять же из своих построений.
(175) Олдос Хаксли достаточно ясно заметил по этому поводу:
МОЁ. Лучше и не скажешь!
(177) Одно из наиболее ясных описаний способа, при помощи которого наука преднамеренно и сознательно планирует искажение реальности, а затем рассматривает искаженную версию как «полное и исчерпывающее» представление, дан ученым-кибернетиком Гербертом А. Саймоном в связи с изложением им своих фундаментальных теоретических позиций:
«. я подробно остановлюсь на этой гипотезе, только слово «муравей» заменю на «человек».
(177) Конечно, мы имеем здесь дело не с «популярным» Weltanschauung, а с точкой зрения одного из наиболее уважаемых американских ученых. Кроме того, допущение Саймона о том, что несущественно для поведения человека в целом, не является «более или менее неявным»; наоборот, к его чести, он сделал его совершенно явным.
Саймон к тому же исключительно ясно и определенно показывает нам, каким образом и насколько тщательно ученый устраняет для себя возможность перехода через границу, разделяющую круг света, отбрасываемый его собственными исходными предпосылками, и окружающей его тьмой. Рассказывая, каким образом он проверял тезисы, лежащие в основе его гипотезы, т. е. что человек весьма прост и тому подобное, он пишет:
«Я собрал результаты некоторых опытов, касающихся познавательных возможностей человека, и особенно тех, которые проводились в психологических лабораториях.
Поведение людей при решении криптоарифметических задач, при формировании понятий, заучивании наизусть, хранении информации в кратковременной памяти, обработке зрительных стимулов и при выполнении заданий, требующих использования естественного языка, определенно свидетельствует в пользу справедливости рассмотренных тезисов. обобщения, относящиеся к законам мышления человека, получаем на основе экспериментальных данных. Они весьма просты, чего и следовало ожидать, учитывая исходные гипотезы. Более того, хотя общая картина будет постоянно расширяться и проясняться, не следует обкидать существенного ее усложнения. Только свойственное, человеку высокомерие вынуждает нас считать, что сложность выбираемого нами пути и причудливость траектории движения муравья объясняются различными причинами!»
(178) Гипотеза, проверяемая здесь, частично заключается в том, что внутренний мир человека в целом не связан с его поведением. Можно было бы предположить, что для его проверки будут отыскиваться экспериментальные данные, способные его опровергнуть. Можно было бы, например, изучать поведение человека, перенесшего горе или испытавшего глубокое религиозное переживание. Эти примеры, однако, нелегко совместить с методами изучения человека, развитыми в психологических лабораториях. Маловероятно также, что они приведут к получению тех простых результатов, к которым, как ожидается, должны привести экспериментатора его гипотезы. Они лежат в темноте, там, где теоретик на самом деле потерял свои ключи; но насколько же лучше освещение под фонарным столбом, который сам он, и воздвиг.
Следовательно, нет вообще никаких шансов за то, что гипотеза Саймона будет опровергнута в его глазах или в глазах его коллег. Круг света, определяющий и ограничивающий область, доступную его зрению, не освещает ни одну из областей, в которых могли бы возникать проблемы, скажем, ценностей или субъективности. Вопросы такого рода, находящиеся, как им и следует, полностью за пределами мира его рассуждений, могут, следовательно, не приводить его к отказу своей концептуальной схемы, имеющей (подобно всем иным магическим системам объяснения) наготове резерв приемлемых гипотез, пригодных для объяснения любого мыслимого события.
(265) Безрассудная антропоморфизация вычислительной машины, столь распространенная, особенно в среде «искусственной интеллигенции» [. ]
Я настаиваю на том, что невозможно измерять интеллект искусно сконструированными мерными рейками, располагаемыми вдоль одномерного континуума. Конструктивное обсуждение интеллекта возможно лишь применительно к определенным областям мышления и действия. На основании этого я делаю вывод о том, что не может принести никакой пользы организация серьезной работы на основе представлений о том, «сколько» интеллекта можно придать вычислительной машине. Полемика, базирующаяся на идеях такого рода (например, «превзойдут ли вычислительные машины когда-либо человека в области разума?»), бесплодна.
Я утверждаю, что человек как индивидуум, подобно любому другому живому организму, определяется теми задачами, с которыми он сталкивается. Уникальность человека связана с тем обстоятельством, что он, неизбежно сталкивается с задачами, порождаемыми его уникальными биологическими и эмоциональными потребностями. Человеческий индивидуум постоянно прерывает в состоянии становления. Поддержание этого состояния, формирование человеческой природы, в сущности, обеспечение самого выживания человека зависит от того, что он сам и другие люди относятся к нему как к человеческому существу. Никакой иной живой организм и тем более ни одну вычислительную машину невозможно заставить воспринимать сугубо человеческие проблемы в чисто человеческих категориях. И поскольку сфера действия интеллекта человека определяется его человеческой природой (за исключением небольшой группы формальных задач), то любой иной интеллект, сколь бы велик он ни был, неизбежно окажется чужд этой сфере.
МОЕ. Далее идет хорошее рассуждение о влиянии культуры на интеллект и сравнение в этом смысле японцев и американцев. Таким образом обуславливается такая штука: интеллект любого человека оказывается чужеродным для целого ряда сфер мышления и действия. «Во всякой культуре существуют обширные области сугубо человеческих проблем, для которых ни один человек, принадлежащий иной культуре, не в состоянии дать конструктивных решений».
И (вернемся к Вейценбауму) его вывод» «какого бы интеллектуального уровня вычислительная машина не смогла достигнуть, этот интеллект всегда и неизбежно должен быть чужеродным всем истинно человеческим проблемам вместе взятым и каждой по отдельности».
(291) Было множество споров на тему «Вычислительные машины и мозг». Я пришел к следующему выводу: проблемы, возникающие в рамках таких дебатов, не являются ни техническими, ни даже математическими: это этические проблемы. Их нельзя разрешать, ставя вопросы, начинающиеся с «можно ли. «. Пределы применимости вычислительных машин по существу поддаются формулировке только в терминах долженствования. Самое простое соображение, вытекающее изо всего этого, заключается в том, что поскольку сегодня мы не знаем способов сделать вычислительные машины мудрыми, то мы не должны возлагать на них задачи, разрешение которых требует мудрости.
МОЁ. Это просто великолепно.
Эта вера (а среди неспециалистов ее разделяют практически все) поддерживается одним лозунгом, который часто повторяют сами ученые в области информатики: «До тех пор пока некий процесс не определен абсолютно точно, его нельзя реализовать на вычислительной машине». Однако этот лозунг справедлив лишь при очень ограниченной и весьма необычной интерпретации значения понятия «определить процесс». Если в запоминающее устройство вычислительной машины ввести, например, случайную комбинацию битов и предложить вычислительной машине интерпретировать ее как некоторую программу, то при условии, что она вообще будет «работать», эта комбинация представит собой «определение» некоторого процесса. Обычно под определением программы понимается, что некий посредник (допустим, человек) работает над тем, что должно служить программой, прежде чем вводить ее в вычислительную машину. Неспециалист, услышав упомянутый лозунг, считает, что сам факт реализации некоторой программы на некоторой вычислительной машине служит гарантией предварительного определения неким программистом процесса, который эта программа воспроизводит, и понимания им этого процесса во всех подробностях.
«Программист сам устанавливает. «правовые» принципы, допускающие. «апелляции», он может лишь в очень ограниченной степени понимать, когда и где в ходе работы программы эти процедуры будут вызывать друг друга. Что касается некоторого конкретного «суда», то он располагает лишь поверхностным представлением о некоторых обстоятельствах, которые могут привести к обращению к нему. Короче говоря, перестав быть начинающими, программисты пишут не «последовательности» [команд], а административные инструкции для членов небольших обществ. При всем старании часто программист просто не в состоянии заранее полностью предвидеть все детали их взаимодействия. Поэтому, в конце концов, ему и нужна вычислительная машина».
Продолжая, Минский приводит следующие очень важные наблюдения:
«Когда мощь программы возрастает в результате ее «эволюции» ее отдельных фрагментов и режимов работы, понимаемых лишь частично, программист уже не может прослеживать «внутренние» детали ее работы, теряет способность предсказывать, что будет происходить в программе, не знает, а надеется, и ждет результатов работы программы так, как если бы она была неким индивидуумом, модусы поведения которого точно не известны».
Вернемся к одной из предыдущих тем. Непонятно, программа типа, описываемого Минским, скажем, создающая «великую» музыку, помогает нам понимать музыку, если саму программу мы не можем понять.
Еще важнее другое: если программа ускользает из сферы, доступной пониманию своих создателей, то какой смысл они вкладывают в оценки типа «рост эффективности» или, коли на то пошло, «ухудшение»?
(305) Мой отец, желая опереться на опереться на высший авторитет, обычно говорил: «Это напечатано!»
(306) «Хороший немец» мог в гитлеровские времена спать совершенно спокойно, потому что он «не знал» о Дахау. А не знал, как объяснил он позже, потому, что четко организованная нацистская система держала его в неведении [. ] Конечно, истинная причина в том, что «хороший немец» ничего не знал, заключалась в том, что он никогда не считал своим долгом выяснить[. ]
(327) Я выступаю за рациональное использование науки и техники, не за отказ от них и не за их мистификацию. Я настаиваю на переходе к этическому мышлению при планировании научного развития. Я веду бой с экспансионизмом инструментального мышления, а не с самим мышлением.
(328). Нам, как никому до нас, довелось узнать, что человек может творить с себе подобными. Германия осуществила «окончательное решение еврейского вопроса» как упражнение из учебника по инструментальному мышлению.
Человечество ненадолго приходит в ужас, когда больше не может закрывать глаза на то, что происходило, когда начинают распространяться фотографии, сделанные самими убийцами, и когда на свет божий снова появляются несчастные уцелевшие.
Но это ни к чему не приводит. Та же логика, то же холодное и безжалостное использование «вычислительного мышления» в последующие два десятилетия жестоко погубили, по меньшей мере, столько же людей, сколько пало жертвами специалистов тысячелетнего рейха. Мы ничему не научились. Сегодня цивилизация находится в такой же опасности, как и тогда.
(329) Глава «Против экспансионизма инструментального мышления»
Люди чувствуют это. Стаде Теркел в своем монументальном труде, посвященном изучению каждодневной работы в Америке, пишет:
Возможно, люди в своей массе считают, что хотя они бессильны, вообще могущество существует и им обладают их лидеры. Но мы уже убедились в том, что государственный секретарь США считает, что события просто «увлекают» нас за собой, а председатель объединенного комитета начальников штабов США признает себя рабом вычислительных машин. Наши лидеры тоже не обладают могуществом.
(330) Люди, с которыми беседовал Стаде Теркел, принимают решения ежегодно в течение всего дня. Они, по их собственному свидетельству, уподобляются роботу Винограда. Его спрашивают: «Почему ты это сделал?» И он отвечает: «Потому что такая-то или такая-то ветвь моей программы приводит к получению этого результата». Вы спрашиваете: «Почему ты выбрал эту ветвь?» И он отвечает таким же образом. Последний его ответ:
«Потому что вы мне так сказали».
Возможно, любое действие, совершаемое человеком, предполагает осуществление последовательности вычислений на элементах, которые системотехник назвал бы вершинами дерева решений. Но различие между действием механизма и подлинно человеческим состоит в том, что последнее имеет своей финальной точкой вершину, для которой «параметр решения» имеет вид «потому что я выбрал этот путь», а не «потому что вы мне так сказали». Именно здесь вычисления и объяснения заменяются истиной. И в этом снова проявляется слабость гипотезы Саймона, согласно которой «человек, как и муравей, рассматриваемый как поведенческая, система, весьма прост. Кажущаяся сложность его поведения во времени в основном отражает сложность окружающей его среды».
Для того чтобы эта гипотеза оказалась истинной, истиной следует считать следующее: способность человека выбирать должна быть ограничена так же, как и способность муравья; человеку целеустремленность и воля и (это, может быть, важнее всего) трансцендентное для него самого ощущение обязательств по отношению к себе как части природного континуума свойственны не в большей мере, чем муравью. И снова возникает неразрешимая тайна: почему кто-либо может хотеть верить в то, что для человека дела обстоят именно таким образом?
Лишь время от времени слабый свет пробивается сквозь густой туман, окутывающий истинные возможности человека. Например, недавно группа видных биологов «призвала своих коллег прекратить эксперименты, связанные с получением новых типов биологически функциональных бактериальных плазмид. Они выразили «серьезную озабоченность тем, что некоторые из этих искусственных рекомбинантных молекул ДНК могут оказаться опасными с биологической точки зрения». Их опасения, как они пишут, «относятся к возможным тяжелым последствиям неконтролируемого применения этих методов».
Простое объяснение этого явления, и, возможно, в нем есть доля истины, заключается в том, что «благие намерения» полностью вытеснили благородство. Существует и более тонкое объяснение. Наш век гордится тем, что он наконец добился свободы от цензуры, против которой боролись свободомыслящие люди всех времен. Сексуальные проблемы могут теперь обсуждаться так свободно, как никогда раньше, женщины начинают занимать принадлежащее им по праву положение в обществе и идеи, о которых еще десять или около десяти лет назад можно было говорить только шепотом, распространяются теперь безо всяких ограничений.
Честь этих великих достижений приписывается новому духу рационализма, рационализму, который, как утверждается, позволил, наконец, сорвать с глаз человека пелену, образованную мистическим мышлением, религией и такими мощными иллюзиями, как свобода и чувство собственного достоинства.
Если это так, то тот, кто подвергает цензуре их собственные высказывания, делает это, пользуясь старомодным выражением, ‘подвергая риску свою душу.
Публичный отказ биологов, как бы они его не обосновывали, это пример, которому всем ученым стоило бы последовать. Значит ли это, что ученые должны захлопнуть свои умы перед всякого рода «аморальными» гипотезами? Совсем нет. Научная гипотеза, по крайней мере с научной точки зрения, либо истинна, либо ложна. Это относится и к гипотезам Саймона о том, что человек «весьма прост» и полностью поддается машинной имитации, и к гипотезе Маккарти о существовании некоторого логического исчисления, с помощью которого можно формализовать все сущее. Было бы глупейшей логической ошибкой навешивать подобным гипотезам (или любым другим) ярлык моральности или аморальности, или, коли на то пошло, ответственности или безответственности.
Сама научная гипотеза может не иметь моральной или этической окраски. Но индивидуальное решение принять ее даже в качестве рабочей гипотезы, а тем более объявление своей приверженности ей широкой публике самым определенным образом включает ценностные оценки и, следовательно, неизбежно приобретает такую окраску. Как недавно писал экономист из Гарварда Марк Дж. Роберте:
«Рассмотрим крайний случай: точку зрения, согласно которой в умственной деятельности различных рас имеются различия. Допустим, общество должно было бы принять эту точку зрения, а она оказалась ложной. Я считают, что это было бы большим несчастьем. Допустим, с другой стороны, что общество приняло точку зрения, предполагающую отсутствие различий, но она оказалась бы ошибочной. От этой ситуации я ожидаю меньше вреда. Задавшись такими оценками стоимостей, я буду стремиться получать данные, делающие гипотезу о межрасовом различии очень маловероятной, в действительности, прежде, чем я ее отвергну.
Мой научный выбор базируется на моей системе ценностей, и это происходит не потому, что я некритичен или предпочел бы считать такие различия несуществующими, но потому, что сообразный выбор в условиях неопределенности можно делать, лишь ориентируясь на стоимость совершения альтернативных ошибок. И наоборот, «ученый, претендующий на независимость от системы ценностей», будет, вероятно, исходить из допущения о существовании подобных различий, как только какие-то данные будут свидетельствовать о хотя бы чуть более высокой ее вероятности, чем вероятность противоположного допущения».
«Эти проблемы не возникают в повседневной научной работе, поскольку традиционные статистические методы обычно относят их к проблемам выбора статистического критерия или конкретного метода оценивания какой-либо величины. В результате этот выбор производится на общепринятой или традиционной основе, обычно без всякого обсуждения, обоснования или даже признания, что был произведен выбор системы ценностей».
В первом же случае натянутость возникает из-за аналогичных соображений, поскольку этика в своей основе не уделяет так много внимания чему-нибудь еще, как отказу. Эта напряженность выдает страх перед тем, что будет сказано нечто о том, что наука, и, следовательно, ученые должны и не должны делать. И это есть признание того факта, что то, что могло бы быть сказано об этом, не относится исключительно к науке вообще или к некоторой абстрактной совокупности, именуемой учеными, но применимо к каждому из присутствующих.
Некоторые ученые (ни в коем случае не все) считают сферу науки универсальной и уверены в невозможности существования ничего такого, что в силу некоего «высшего» принципа не следовало бы изучать. Из этой предпосылки обычно делается вывод, что всякие разговоры об этических «долгах», относящиеся к науке, по своей природе имеют разрушительный характер и направлены против науки и даже против разума.
Какова бы ни была ценность этого довода в абстрактно-логическом отношении, он теряет смысл в конкретных ситуациях, поскольку предметом научного исследования могло бы стать бесконечное множество вопросов, но в распоряжении науки имеется лишь ограниченное количество ресурсов. Следовательно, человек должен выбирать, какими проблемами заниматься, а какие отложить. Нам неизвестно, например, имеется ли какая-нибудь корреляция между числом пор в коже человека и числом нейронов его мозга. Этот вопрос не вызывает интереса, поэтому нет споров о том, следует или нет науке его изучать. Китайцы использовали иглотерапию в течение многих веков, не привлекая интереса науки западных стран. Теперь западные ученые вдруг заинтересовались иглотерапией. Эти примеры показывают, что научный «прогресс» развивается не по какому-то пути, предопределенному самой природой, а является зеркалом интересов и забот человека.
К несчастью, новый конформизм, позволяющий нам говорить обо всем, за исключением нескольких простых истин, записанных в наших сердцах и в священных книгах любой из множества религий, исповедуемых человеком, считает все доводы, основанные на этих истинах (независимо от того, сколь тщательно они продуманы или красноречиво сформулированы), смехотворными для ученых и инженеров. Это само по себе, возможно, наиболее трагический пример того, как неправильное использование идеи обращает ее в ее противоположность.
Ученые, продолжающие болтать о «знании ради знания», чтобы использовать этот лозунг в своих собственных интересах, лишают науку и технику всяческих контактов с реальным миром. Центральная проблема знания, после того как оно «получено»,- это придание ему законной силы; но мы видим, что почти во всех сферах, особенно в обсуждавшихся нами разделах информатики, подтверждение достоверности научного знания свелось к демонстрации технических чудес. Объяснить это можно двояко: либо природа, с которой связана наука, состоит исключительно из сырья, которое необходимо переплавлять и обрабатывать как некий объект; либо знание, приобретаемое наукой для человека, не имеет совершенно никакого отношения к самому человеку. Наука не может согласиться с истинностью последнего, поскольку в противном случае она утратила бы свое разрешение «заниматься практикой». Это лишение, естественно, будет иметь практические последствия (в том числе утрата финансирования и т. д.), которым ученые стали бы сопротивляться изо всех сил. Если же верно первое, то сам человек превратится в некий объект. Есть много свидетельств, что на самом деле именно это и произошло. Но в таком случае и знание утратило свою чистоту, которой ученые так гордились; то знание превратилось в предприятие не более и не менее важное и не более по существу значительное, чем, скажем, знание о том, как расположить автосборочный конвейер. Кто станет интересоваться тем, что все это «ради знания»?
Этот процесс трагичен потому, что лишает науку самой возможности руководствоваться подлинными человеческими стандартами, не ограничивая в то же время никоим образом возможности науки передавать в руки человека все более и более могущественные силы. Здесь мы также обнаруживаем корни столь широко обсуждаемой дегуманизации человека. Человек дегуманизируется всегда, когда рассматривается как нечто меньшее, чем целостная личность.
МОЁ. Вот это точно. Особенно, если рассматривать человека только в сфере производства материальных ценностей.
(339) Различные формы инженерной психологии и социальной инженерии, рассматриваемые в книге, относятся к человеку постольку, поскольку они разрушают всю человеческую специфику, особенно ту, которая придает реальное значение языку человека.
То обстоятельство, что аргументы, взывающие к высшим принципам, например к обязательствам человека перед его детьми или к самой природе, не признаются имеющими законную силу, порождает серьезную дилемму для любого человека, стремящегося склонить своих коллег к сотрудничеству в наложении определенных ограничений на их исследования. Если он тем не менее использует подобные доводы, надеясь побудить своих коллег к своего рода обращению, то он рискует вообще не произвести никакого эффекта и даже подвергнуться отлучению, попав в положение смехотворного дурака. Если он настаивает на самоограничении, исходя из необратимости последствий, к которым могут привести неограниченные исследования, то он включается в узаконивание злоупотреблений инструментального мышления (скажем, под личиной анализа затрат и результатов) и способствует тому, против чего он собирался вести борьбу.
Разрешение описанной дилеммы состоит в отказе от правил игры, ее породивших. Это справедливо и для множества других дилемм. Для этой дилеммы имеется следующее правило: спасение мира (это именно то, о чем я толкую) зависит от обращения остальных к правильным идеям. Это ложное правило.
МОЁ. Именно так. Это, в сущности, религиозный взгляд на вещи. И покорность как раз у материалистов, так как они признают силу и законы, властвующие над ними, в то время как религиозный человек свободен, так как он поступает так, как считает нужным, и никаких законов не знает (заповеди не закон, так как человек волен их принять или не принять).
Это не довод в пользу солипсизма, но и не призыв к тому, чтобы каждый человек жил исключительно для себя. Но он предполагает, что всякий человек должен в первую очередь жить для себя. Дело в том, что, только подвергнув испытанию свои собственные внутренние ценности, абсолютно не зависящие от «использования» его в качестве некоторого инструмента, он может установить те трансцендентные для него цели, которые в конечном итоге сообщают ему его подлинность и единственно служат окончательным подтверждением подлинности человеческого знания.
МОЁ. Это прямо из Экклезиаста. «И сказал я себе в сердце своем. «. Хорошо.
(340) Однако то обстоятельство, что каждый человек несет ответственность за весь мир и выполнение им этой обязанности предусматривает в первую очередь ответственность каждого человека перед самим собой, отнюдь не противоречит тому, что у каждого из нас есть обязанности по отношению друг к другу. Главная из них заключается в обучении друг друга наилучшим доступным нам образом. Основной же и наиболее эффективной формой обучения, которую мы можем использовать, является пример нашего собственного поведения, даваемый тем, кого оно затрагивает. Учителя и писатели несут особенно тяжелую ответственность именно потому, что они занимают положение, благодаря которому их пример доступен значительно более широкому кругу людей, чем их непосредственное окружение.
Такой подход предполагает, что я сам должен продемонстрировать несколько своих собственных решений относительно того, что могу и чего не могу делать в информатике. Я сделаю это, несмотря на дурные предчувствия; я убедился в том, что люди постоянно спрашивают друг друга, что им следует делать, в то время как единственный истинно важный вопрос заключается в том, какими они должны быть.
МОЁ. Браво! Это мог бы сказать и Л.Н. Точнее, именно это он и говорил. Жму руку, Дж.Вейценбаум.
(348) Я говорю здесь о том, что следует и чего не следует делать, что неприемлемо с моральной точки зрения, что опасно. Я, естественно, прекрасно сознаю то обстоятельство, что эти мои моральные оценки не имеют сами по себе моральной силы ни для кого; кроме меня самого. И, как я уже указывал, я совершенно не намерен учить других, какими задачами они должны заниматься, а какими не должны. Я лишь призываю всех оценивать последствия того, что они действительно делают, причем сейчас я имею в виду не только очевидные, прямые последствия, оказываемые их деятельностью на окружающий мир. Я говорю, скорее, о последствиях, сказывающихся на них самих, на том, как конструируют свои разумные объяснения, как подавляют истину, побуждающую их следовать иным курсом, и как шаг за шагом отказываются от собственной независимости. Тот факт, что так много людей столь часто спрашивают, что им делать, служит признаком того, что понятия «быть» и «делать» поменялись местами. Тем, кому известно, кто они и что собой представляют, нет нужды спрашивать, что им следует делать. Те же, кто вынужден спрашивать, не смогут покончить с вопросами до тех пор, пока не начнут вглядываться в себя. Задача же каждого показывать с помощью собственного примера, какие вопросы можно задавать себе, и демонстрировать, что человек может жить, пользуясь теми немногими ответами, которые у него имеются.
Когда видишь особенно противную телевизионную рекламу, трудно себе представить, что взрослые люди когда-то и где-то усаживались вокруг стола и решали сделать именно эту рекламу и передавать ее сотни раз. Но именно так все и происходит. Все это результат деятельности не безымянных сил, а групп людей, пришедших к соглашению, что подобное загрязнение сознания людей отвечает их интересам.
(352) И, наконец, имеет значение, само действие. Когда оно определяется исключительно инструментальным мышлением, поступки, совершаемые на его основе, лишаются их истинного значения и существуют в этическом вакууме. Я слышал недавно, как официальный представитель крупного университета публично защищал принятое им важное политическое решение, против которого по моральным соображениям выступали многие студенты, профессора и преподаватели университета. Он сказал: «Мы могли бы занять моральную позицию, но что хорошего это принесло бы?» Но благо морального поступка заключено в самом поступке. Именно поэтому поступок сам по себе может облагородить или развратить человека, совершающего его. Одержав в наше время победу, инструментальное мышление послужило причиной фактического исчезновения понимания этого обстоятельства и, таким образом, предопределило объявление вне закона самой идеи благородства.
Я, естественно, сознаю, что вряд ли кто-нибудь, читая эти строки, сочтет их адресованными себе,-так глубоко убеждение в нашей общей подчиненности действию безымянных сил, находящихся вне нашего контроля, проникло в современное общественное сознание. Сопровождается же это убеждение инфляцией идеи гражданского мужества.
Широко распространено, но глубоко ошибочно убеждение в том, что гражданское мужество подвергается испытаниям лишь во время событий, потрясающих весь мир. Как раз наоборот, наиболее трудные испытания ожидают его в тех локальных ситуациях, когда необходимо преодолеть страхи, связанные с мелочными заботами о карьере, об отношениях с теми, кто кажется обладающим властью над ними, обо всем том, что может нарушить ваше спокойное мирское существование.
Если эту книгу необходимо рассматривать, как защиту чего-то, пусть она будет призывом к этой простой форме гражданского мужества. И поскольку эта книга в основном посвящена вычислительным машинам, пусть этот призыв в первую очередь будет услышан преподавателями информатики.
Программированию обучиться довольно легко. Почти любой человек, обладающий достаточно упорядоченным умом, может стать довольно неплохим программистом после совсем незначительного обучения и практики. И поскольку программирование вознаграждается почти немедленно, так как вычислительная машина очень быстро и почти точно начинает выполнять указания программиста, оно очень соблазнительно, особенно для начинающих. Более того, особенно сильно программирование привлекает людей недостаточно зрелых в том смысле, что они могут спокойно относиться к длительным промежуткам времени между затратой усилий и получением конкретного результата. Поэтому юные студенты легко впадают в заблуждение, считая, что они действительно овладели мастерством, обеспечивающим им необычайное могущество и имеющим колоссальное значение, хотя, на самом деле, они изучили лишь его зачатки и ничего существенного, вообще говоря. Быстрое восхождение студента от состояния абсолютной неосведомленности о вычислительных машинах к тому, что представляется ему вершинами программирования, в действительности является лишь невысокой возвышенностью, может породить у него победную эйфорию и вызвать убеждение в том, что он обрел свое подлинное призвание.
Заслуживают внимания моменты:
1. О том, что наука (точнее, научный подход) отнюдь не может решить все, так как основана на абстрагировании.
6. Инструментальное мышление. Это вообще самое главное и самое опасное. Заняться этим плотнее. Это очень важно для меня и не только.