Проблема "искусственного интеллекта": технические и социально-этические аспекты

Из этого кибернетического,  или нейромодельного, подхода к машинному  разуму скоро сформировался так называемый “восходящий метод” - движение от простых аналогов нервной системы примитивных существ,  обладающих малым числом нейронов,  к сложнейшей нервной системе человека и даже выше. Конечная цель виделась в создании “адаптивной сети”, “самоорганизующейся  системы” или “обучающейся машины” - все эти названия разные исследователи использовали для обозначения устройств, способных следить  за окружающей обстановкой и с помощью обратной связи изменять свое поведение в полном соответствии с господствовавшей в  те  времена бихевиористской  школой психологии,  т.е.  вести себя так же как живые организмы. Однако отнюдь не во всех случаях возможна аналогия с живыми организмами.  Как  однажды  заметили  У. Маккаллох и его сотрудник М. Арбиб,  “если по весне вам захотелось обзавестись  возлюбленной, не стоит брать амебу и ждать пока она эволюционирует”.

Разумеется, исследователи того времени не могли не задумываться и над морально-этическими аспектами искусственного интеллекта. Если разумная машина, к созданию которой они стремились, была бы все-таки создана, то обладая интеллектом, как и любой человек, она “захотела бы” влиться в общество людей, либо создать свое общество, таких же, как она сама, машин. Эту мысль как-то высказал
Н. Винер на научном симпозиуме. Однако поскольку разумная машина так и не была создана, то и морально-этическая проблема существования искусственного интеллекта в то время всерьез не рассматривалась.

Следует отметить, что основной трудностью, с которой  столкнулся “восходящий метод” на заре своего существования,  была высокая стоимость электронных элементов.  Слишком дорогой  оказывалась даже модель нервной системы муравья, состоящая из 20 тыс. нейронов, не говоря уже о нервной системе человека, включающей около 100 млрд. нейронов. Даже  самые  совершенные кибернетические модели содержали лишь несколько сотен нейронов. Столь ограниченные возможности  обескуражили многих исследователей того периода.

Одним из тех, кого ничуть не испугали трудности был Ф. Розенблат, труды которого казалось отвечали самым заметным устремлениям кибернетиков. В 1958 г.  им была предложена модель электронного устройства, названного им перцептроном, которое должно было бы имитировать процессы человеческого мышления. Перцептрон должен был передавать сигналы от “глаза”, составленного из фотоэлементов, в блоки электромеханических ячеек памяти,  которые оценивали относительную величину электрических сигналов. Эти ячейки соединялись между собой случайным образом в соответствии с господствующей тогда теорией, согласно которой мозг  воспринимает новую информацию и реагирует на нее через систему случайных связей между нейронами. Перцептрон Ф. Розенблата оказался наивысшим достижением “восходящего”, или нейромодельного метода создания  искусственного  интеллекта.  Чтобы  научить перцептрон способности строить догадки на основе исходных предпосылок, в нем предусматривалась некая  элементарная разновидность автономной работы или “самопрограммирования”. При распознании той или  иной  буквы  одни  ее элементы или  группы элементов оказываются гораздо более существенными, чем другие.  Перцептрон мог обучаться выделять такие характерные  особенности буквы  полуавтоматически,  своего рода методом проб и ошибок, напоминающим процесс обучения. Однако возможности перцептрона были ограниченными: машина не могла надежно распознавать частично закрытые буквы, а также буквы иного размера или рисунка, нежели те, которые использовались на этапе ее обучения.

     Ведущие представители так называемого “нисходящего метода” специализировались,  в отличие от представителей  “восходящего  метода”,  в составлении  для цифровых компьютеров общего назначения программ решения задач,  требующих от людей значительного интеллекта,  например для игры в шахматы или поиска математических доказательств. К числу защитников “нисходящего метода” относились М. Минский и С. Пейперт, профессора  Массачусетского технологического института.  М. Минский начал свою карьеру исследователя ИИ сторонником  “восходящего  метода”  и  в 1951г. построил обучающуюся сеть на вакуумных электронных лампах. Однако вскоре к моменту создания перцептрона он перешел в противоположный лагерь.  В соавторстве с математиком С. Пейпертом, с которым его познакомил У. Маккаллох, он написал книгу “Перцептроны” [7], где математически доказывалось, что перцептроны, подобные розенблатовским,  принципиально не в состоянии выполнять  многие  из  тех функций, которые предсказывал им Ф.Розенблат[7, 212-304]. М. Минский утверждал, что, не говоря о роли работающих под диктовку  машинисток,  подвижных  роботов или машин,  способных читать, слушать и понимать прочитанное или услышанное,  перцептроны никогда не обретут даже умения распознавать предмет частично заслоненный другим. Однако нельзя сказать, что появившаяся в 1969 г. эта критическая работа покончила с  кибернетикой.  Она  лишь переместила интерес аспирантов  на другое направление исследований - “нисходящий метод”.

Интерес к кибернетике в последнее время возродился,  так как сторонники “нисходящего метода” столкнулись со столь же неодолимыми трудностями. Сам
М. Минский публично выразил сожаление, что его выступление нанесло урон концепции перцептронов, заявив, что, согласно его теперешним представлениям,  для реального прорыва вперед в создании разумных машин потребуется устройство, во многом похожее на перцептрон. Но в основном ИИ стал синонимом нисходящего подхода,  который выражался в составлении все более сложных программ для компьютеров, моделирующих сложную деятельность человеческого мозга. При этом эти программы имели склонности к обучению, которое состояло в том, что верно принятые решения и способы их достижения записывались в память вычислительной машины, а неверные решения или решения, приводящие к явной ошибке, наоборот, исключались из памяти машины. Таким образом, машина постепенно превращалась в обыкновенное хранилище правильно принятых решений, которые в дальнейшем, могли быть повторно использованы. Такие машины в последствии получили название “экспертные системы”. К настоящему времени существует несколько десятков крупнейших “экспертных систем”, которые способны достаточно хорошо принимать решения, но только в определенной области; той самой области, для которой они и были разработаны.

2.     Проблема СОЗДАНИЯ “искусственного интеллекта”,
ТЕХНИЧЕСКИЕ И МЕТОДОЛОГИЧЕСКИЕ АСпекты ПРОБЛЕМЫ МОДЕЛИРОВАНИя ЧЕЛОВЕЧЕСКОГО мозга.

Основной проблемой, возникающей при попытках создания “электронного разума”, по всей видимости, является проблема конструктивного решения подобной машины. Ведущими исследователями в области ИИ было предложено несколько подходов, каждый из которых содержит разумное зерно конструкции машины. Однако какую лучше использовать конструкцию – этого, как свидетельствует практика, точно никто не знает и по сей день, поскольку “разумная машина” так и не была создана. Возможно проблема создания “разумной машины” кроется в недостаточности знаний высших функций деятельности головного мозга? Ведь на настоящий момент времени никто не может точно сказать, например, что такое сознание в понимании мозга и когда оно зарождается у человека. Ведущие специалисты в области искусственного интеллекта и известные философы ведут дискуссии по этому поводу. Скорее всего, для того, чтобы пытаться построить “разумную машину”, которая, несомненно, по конструкции, должна быть схожа с “конструкцией” головного мозга человека, необходимо вначале досконально изучить работу последнего, а также определить  своеобразную грань между разумным и неразумным и условия перехода через эту грань, другими словами, условие зарождения сознания.

Многие исследователи полагают, что сознание является не столько продуктом развития природы, сколько продуктом общественной жизни человека, общественного труда предыдущих поколений людей. Оно является существенной частью деятельности человека, посредством которой создается человеческая природа и не может быть принято вне этой природы.

Если в машинах и вообще в неорганической природе отражение есть пассивный, мертвый физико-химический, механический акт без обобщения и проникновения в сущность обобщаемого явления, то отражение в форме сознания есть, по мнению Ф.Энгельса “познание высокоорганизованной материей самой себя, проникновение в сущность, закон развития природы, предметов и явлений объективного
мира” [8, 156-178].

В машине же отражение не осознанно, так как оно осуществляется без образования  идеальных образов и понятий, а происходит в виде электрических импульсов, сигналов и т.п. Поскольку машина не мыслит, это не есть та форма отражения, которая имеет место в процессе познания человеком окружающего  мира. Закономерности процесса отражения в машине определяются, прежде всего, закономерностями отражения действительности в сознании человека, так как машину создает человек в целях более точного отражения действительности, и не машина сама по себе отражает действительность, а человек отражает ее с помощью машины. Поэтому отражение действительности машиной  является  составным элементом отражения действительности человеком. Появление кибернетических устройств приводит к возникновению не новой формы отражения, а нового звена, опосредующего отражение природы человеком.

Общность мышления со способностью отражения служит объективной основой моделирования процессов мышления. Мышление связано с  созданием, передачей и преобразованием  информации, а эти процессы  могут происходить не только в мозгу, а и в других системах, например ЭВМ. Кибернетика, устанавливая родство между отражением, ощущением и даже мышлением, делает определенный шаг вперед в решении  поставленной проблемы. Это родство  между мышлением и другими свойствами материи вытекает из двух фундаментальных принципов материалистической диалектики: принципа материального единства мира и принципа развития.

“Мышление – человеческое качество и отличается от кибернетического” [9, 25].

Несмотря на качественное различие машины и мозга, в их функциях есть общие закономерности (в области связи, управления и контроля), которые и изучает кибернетика. Но эта аналогия между деятельностью автоматической и нервной системы, даже в плане переработки информации, относительно условна и ее нельзя абсолютизировать.

Многие исследователи полагают, что создание искусственного интеллекта стирает грань между познающим субъектом и объектом материального мира. Коль скоро современные ЭВМ универсальны и способны выполнять целый ряд логических  функций, то они утверждают, что нет никаких  оснований не признавать эту деятельность интеллектуальной. Если допустить создание искусственного интеллекта или машины, которая будет “умнее” человека, то необходимо ответить на ряд вытекающих из этого утверждения вопросов. Сможет ли машина полностью, во всех отношениях заменить человека? Существуют ли вообще какие-либо пределы развития искусственного разума?  Конечно эти  вопросы  не утратили актуальность. Было бы преждевременно списывать их в архив нестрого поставленных вопросов, ибо через них проходит линия конфликта между различными философскими школами,  материализмом  и  идеализмом,  по  поводу основного вопроса философии.

Иначе говоря, речь идет об одном из аспектов современной исторической формы основного вопроса: о сущности человеческого  сознания и его отношения к функционированию кибернетических устройств. В настоящее время происходит обсуждение вопроса о перспективах  развития кибернетических машин  и их взаимоотношений с человеческим разумом.

Рассматривая возможность создания  разума искусственным путем, на основе  моделирования, необходимо остановиться на двух аспектах этой проблемы.

Во-первых, кибернетика моделирует не все функции мозга, а только те, которые связаны с получением, обработкой и выдачей информации, т.е. функции, которые поддаются логической обработке. Все же другие, бесконечно разнообразные функции человеческого мозга остаются вне поля зрения кибернетики.

Во-вторых, с точки зрения теории моделирования вообще не имеет смысла говорить о полном тождестве модели и оригинала.

Отождествление человеческого и “машинного” разума происходит тогда, когда субъект мышления подменяется какой-либо материальной системой, способной отражать. Единственным же субъектом мышления является человек, вооруженный всеми средствами, которыми он располагает на данном уровне своего развития. В эти средства входят и кибернетические машины, в которых материализованы результаты человеческого труда. И, как всякое орудие производства, кибернетика продолжает и усиливает возможности  человеческого  мозга.

До сих пор диалектико-материалистиеское понимание мышления опиралось главным образом на обобщенные данные психологии, физиологии и языкознания. Данные кибернетики позволяют поставить вопрос о более конкретном понимании мышления.

Кибернетика не ставит целью “замену” человека или “подмену” его мышления. Она лишь дает новые аргументы в пользу диалектическо-материалистического представление о машине - помощнице человека.

Кибернетика приводит к выводу о том, что при решении реальных вопросов  машинного моделирования процессов мышления следует, прежде  всего, запастись багажом знаний о деятельности человеческого мозга.

В настоящее время, однако, обнаружилось, что как научные так и технические поиски этих знаний столкнулись с несоизмеримо более серьезными трудностями, чем представлялось первым энтузиастам. На первых порах  многие верили, что через какой-нибудь десяток лет машины обретут высочайшие человеческие таланты. Предполагалось, что преодолев период “электронного  детства” и обучившись в библиотеках всего мира, хитроумные компьютеры, благодаря быстродействию, точности и безотказной памяти постепенно превзойдут своих создателей-людей.  Сейчас мало кто говорит об этом,  а если и говорит, то отнюдь не считает, что подобные чудеса не за горами.

На протяжении всей своей короткой истории исследователи в области искусственного интеллекта всегда находились на переднем крае информатики. Многие ныне обычные разработки,  в том числе  усовершенствованные системы программирования, текстовые редакторы и программы распознавания образов,  в значительной мере рассматриваются на работах по искусственному интеллекту.  Короче говоря,  теории,  новые идеи, и разработки искусственного интеллекта неизменно привлекают внимание тех, кто стремится расширить области применения и возможности компьютеров, сделать их более “дружелюбными”, более похожими на разумных помощников и активных советчиков,  чем на обычные вычислительные машины.

Следует отметить, что с момента создания реальных машин и алгоритмов, способных к самообучению, перед человечеством постает очень важная морально – этическая проблема, а именно не достигнет ли к определенному моменту времени прогресс искусственного интеллекта такой высоты, что окажется несоизмеримо выше современного уровня развития человеческого мозга? И, если возникнет, как этот самый интеллект отнесется в дальнейшем к человеку? Как управлять подобным искусственным сознанием? Не будет ли человечество вскоре вытеснено новым, более мощным, искусственным разумом? Не означает ли это крах человечества, как предсказывают писатели-фантасты?

Все эти вопросы имеют вполне реальные основы. Но они имеют реальный смысл и опасения только в случае успешного создания разумной машины, другими словами, решения вопроса о принципиальной возможности искусственного воспроизведения человеческого мозга и процессов, протекающих в нем. Однако ученые, создающие элементы искусственного интеллекта уже сейчас должны задумываться о морально-этическом аспекте этого круга проблем. Ибо с тех пор, как машина обретет сознание, она выйдет из под контроля человека и начнет самостоятельное существование, если только человек при создании первого экземпляра такой машины не заложит в нее неизменяющиеся постулаты, о том, что человек “всегда главнее, умнее” и т.п. Эти постулаты в дальнейшем и будут служить элементами управления подобной системой.

Вопрос о принципиальной возможности искусственного воспроизведения человеческого мозга и процессов, протекающих в нем, лежит в основе проблемы искусственного интеллекта. Воспроизведение каких-либо объектов, процессов  возможно, естественно, лишь  после изучения этих объектов. Таким  образом, вопрос о принципиальной возможности искусственного воспроизведения человеческого мозга можно разбить на два подвопроса:

1)     вопрос о познаваемости человеческого мозга и законов его функционирования;

2)     вопрос о возможности воспроизведения процессов, протекающих в мозге на искусственной основе.

Положительный ответ на вопрос о познаваемости объективной реальности лежит в фундаменте диалектического материализма. Ответ на этот вопрос, который является второй  стороной основного вопроса философии, - та лакмусова бумажка, которая позволяет сразу определить, материализм или идеализм лежит в основе той  или иной философской концепции. Если поставить вопрос, что же такое мышление и сознание, откуда они берутся, то мы  увидим, что  они - продукты человеческого мозга и что сам человек продукт природы, развившийся в определенной среде и вместе с ней. Само собой  разумеется в силу того, что “продукты человеческого мозга, являющиеся в конечном счете тоже продуктами природы, не  противоречат остальной связи природы, а соответствуют ей” [1, 230-235]. В этом высказывании Ф. Энгельс не только материалистически отвечает на вопрос о познаваемости мира, но и показывает, что человеческий мозг, хотя он и является самой сложной из известных систем, обладающих интеллектуальными возможностями и созданных природой относится к объективной реальности и, следовательно, может быть познан наряду с другими продуктами природы.

Совсем по-другому решается вопрос о необходимой  глубине познания человеческого мышления для его дальнейшего воспроизведения. Здесь возникает противоречие между характером человеческого мышления, представляющимся нам в силу необходимости абсолютным, и осуществлением его в отдельных людях, мыслящих только ограниченно[18, 24-28]. В силу  этого противоречия человек "не может охватить, отразить, отобразить природы  всей, полностью, ее непосредственной цельности", он может лишь вечно приближаться к этому, создавая абстракции, понятия, законы, научную картину мира и так далее и тому подобное[8, 45-67].

Человеку никогда не удасться полностью познать ни всей природы, ни отдельных продуктов природы. Но означает ли это, что воспроизведение человеческого мышления невозможно? Ответ на этот вопрос зависит от того, конечно или бесконечно число тех свойств, сторон, взаимосвязей предмета или явления, которое необходимо знать для воспроизведения данного предмета или  явления. Следовательно, могут быть две точки зрения. Первая, оптимистическая точка зрения основывается на том, что человек  уже  неоднократно воссоздавал естественные материалы искусственным путем. При этом искусственное воспроизведение вовсе не предполагает, что человеком были полностью познаны, исчерпаны все стороны, связи воспроизводимого объекта или явления. Например, тот факт, что человек научился  добывать ализарин из каменноугольного дегтя, еще  не  означает,что все свойства этого  вещества были им познаны.

Вторая, пессимистическая точка зрения основывается на том, что человеческий мозг и процессы мышления, происходящие в нем, являются самым сложным продуктом природы, и человеческие знания никогда не будут столь полными, чтобы стало возможным  искусственное воспроизведение  этого  продукта. Необходимо отметить, что эта  точка  зрения  резко отличается от точки зрения, признающей принципиальные трудности, существующие независимо от уровня развития науки и техники. Таких трудностей  просто  нет, так как нет и не может быть препятствия, в которое могло бы упереться  человеческое познание. Признание таких трудностей является разновидностью ограниченного агностицизма. Всякие трудности имеют конкретно-исторический характер и преодолеваются дальнейшим развитием познания. Все сказанное относится к человеческому познанию вообще, а не к какому-либо конкретному научному направлению, которое может сталкиваться с неразрешимыми трудностями (достаточно вспомнить попытки открыть “философский  камень”, разработать “вечный  двигатель”).

Несмотря на многообещающие перспективы, ни одну из разработанных до  сих  пор программ искусственного интеллекта нельзя назвать “разумной” в обычном понимании этого слова.  Это объясняется тем,  что все они узко специализированы; самые сложные экспертные системы по своим возможностям скорее напоминают дрессированных или механических кукол, нежели человека с его гибким  умом  и  широким кругозором.  Даже среди исследователей искусственного интеллекта теперь многие сомневаются, что большинство подобных изделий принесет существенную пользу. Немало критиков искусственного интеллекта считают, что такого рода ограничения вообще непреодолимы.

К числу таких критиков относится и  Х. Дрейфус,  профессор философии Калифорнийского  университета в Беркли.  С его точки зрения, истинный разум невозможно отделить от его человеческой основы,  заключенной в человеческом организме.  “Цифровой компьютер – не человек,  - говорит Х. Дрейфус.  - У компьютера нет ни тела, ни эмоций, ни потребностей. Он  лишен  социальной ориентации,  которая приобретается жизнью в обществе, а именно она делает поведение разумным.  Я не хочу  сказать, что компьютеры не могут быть разумными. Но цифровые компьютеры, запрограммированные фактами и правилами из  нашей, человеческой, жизни, действительно не могут стать разумными.  Поэтому искусственный интеллект в том виде, как мы его представляем,  невозможен” [1, 131-135].

Страницы: 1, 2, 3