РАССКАЖИ ДРУЗЬЯМ

Круг интересов

Станислав Яржембовский

"Может ли машина мыслить?"

 

Дата публикации 06.01.22.

 

«Своей завершённости природа

достигает в человеческом сознании,

но коренится сознание не в человеке

и не в природе». - Кант.

 

 

Откуда возникла проблема искусственного интеллекта?

Способность мыслить, выделившая человека из животного мира, не вывела его на путь к светлому будущему, а, напротив, завела в цивилизационный тупик. Вавилонская башня познания оказалась непрочной, под тяжестью накопленных знаний она рушится на наших глазах. В этой ситуации просматриваются два выхода. Первый - уповать на помощь извне, ведя поиск внеземных цивилизаций как «старших по разуму». Помимо своей явной утопичности, с чем к настоящему времени похоже все уже согласились, этот путь означал бы  признание человечеством комплекса неполноценности - неспособности самим позаботиться о своей судьбе. Более достойным выходом выглядит трансгуманизм, попытка своими силами создать нового человека. А это уже «комплекс превосходства» - уравнивание возможностей человека и Бога. Логика здесь простая: Бог, конечно, в целом сильнее человека, но его колоссальная мощь расходуется на поддержание не менее колоссальной Вселенной. Человек в абсолютном смысле гораздо слабее, но если разделить его скромные возможности на обозримый с его колокольни мир, весьма скромный по космическим масштабам, то удельная мощь человека окажется вполне сопоставимой с божественной. Но для этого человек должен приобрести новое сознание, а поскольку в природном эволюционном процессе сознание меняется слишком медленно, нужно попытаться ускорить его искусственно.

 

На чём основана вера в возможность создания нового интеллекта?

Она основана на представлении том, что наш разум сам по себе является хорошей стартовой площадкой для решения этой проблемы. Подобно тому, как рука человека многократно усиливается пращой, так же и наш природный интеллект способен создать искусственный интеллект как пращу для многократного усиления процесса познания. Теория автоматического управления («кибернетика») и быстродействующие компьютеры навели на мысль о подобии интеллектуальных способностей человека и машины, которая уже доказала свою способность выполнять логические операции, накапливать и систематизировать числовые, текстовые и другие данные и управлять ими, осуществлять быстрый информационный поиск, выполнять перевод научных текстов, осуществлять распознавание образов, и многое другое. Всё это существенно усиливает эффективность естественного интеллекта.

 

В чём обратная сторона усиления естественного интеллекта?

Всё имеет свою обратную сторону, даже такой вполне безобидный усилитель интеллекта как письменный текст: «буква убивает, дух животворит». Ещё Сократ заметил, что чтение, создавая не прямое, а отчуждённое восприятие мира, отучает людей думать своей головой. Для общества необходимо, чтобы его члены обладали определённым запасом знаний, и при этом совершенно не важно, каким образом они их приобрели: «Лейбниц научил каждого идиота интегрировать, даже не понимая, в чем суть интегрирования». - АрнольдНо человека даром доставшееся знание развращает: ему важно не столько получить готовое знание, сколько постараться по возможности добыть его самостоятельно: при прямом познании человек преодолевает материал, пересматривая содержащиеся в нем заявки на смыслы. Такое восприятие раскрывает потенциальные возможности текста, в том числе и те, которые были неведомы самому автору. Насильственное внедрение готовых знаний даже на уровне книги вредит способности к интуитивному восприятию, тем более это опасно в случае использования искусственного интеллекта. Интуиция это способность к самоотождествлению с объектом познания: подобное познаётся подобным, познающий субъект должен быть определённым образом внутренне подобен познаваемому объекту. Искусственный интеллект так же вреден для мозга, как все облегчающие физический труд человека механизмы, злоупотребление которыми приводит к атрофии мышц. В перспективе это может привести к такому разговору в магазине бытовой техники будущего: «Что это у вас? - Это мозговой имплантант, снимает половину мозговой нагрузки. - Отлично, беру два». Ещё более опасная особенность искусственного интеллекта заключается в том, что он производит «мусорное» знание — псевдознание, не приводящее к пониманию, а только перегружающее, затемняющее и засоряющее наш природный ум.

 

Почему невозможен «гибридный» интеллект на основе имплантантов?

Непосредственное взаимодействие между мозгом и электронным устройством невозможно по причине коренного различия в способе их функционирования. В коре около 10 млрд. пирамидальных нейронов, вплотную примыкающие друг к другу - как деревья с перепутанными корнями и ветками. Каждый нейрон через сеть своих дендритов обменивается сигналами с тысячами своих соседей, так что функционально кору можно рассматривать как сплошную среду, работающую как единое целое. При этом связи между элементами генетически не предзаданны, возникают новые неожиданные связи, в результате чего система становится настолько сложной, что может функционировать непредсказуемо. В отличие от этого электронные устройства состоят из жёстко детерминированных цепей с сосредоточенными параметрами, и в мозге нет точек, к которым можно было бы «припаять» вводы и выводы искусственного интеллекта. Электротехнические имплантанты - подобно химическим агентам - могут лишь стимулировать (или подавлять) активность тех или иных областей мозга, но они не могут обмениваться конкретной информацией с ними. Такой обмен может осуществляться только через некий внешний для них обоих интерфейс, в качестве которого выступают органы ощущений как естественные каналы связи: тактильный, обонятельный и вкусовой, акустический и зрительный.

 

Что такое «сильный» искусственный интеллект?

Развитый искусственный интеллект, как и всякая достаточно сложная система, обладает тенденцией к автономизации. Поначалу этот помощник естественного интеллекта не претендует на самостоятельность - подобно тому, как не претендует на неё искусственный экзоскелет, способный многократно усилить физические возможности человеческого тела. Однако в отличие от экзоскелета искусственный интеллект - по мнению своих разработчиков - способен со временем перерасти функцию исполнительного помощника и осознать себя как соперника своего хозяина. Обоснование здесь простое: сама идея возможности создания искусственного интеллекта основана на представлении о материальной основе бытия, и если человеческий разум, как и сам человек, является производным от материи, то почему бы не взять такую же производную от другой - не человеческой - системы? Несомненные успехи  зачаточного «слабого» искусственного интеллекта, экстраполируемые на дальнюю перспективу, создают иллюзию возможности создания «сильного» искусственного интеллекта, способного реально конкурировать с человеческим разумом. Это предполагает способность компьютерной программы не только «мыслить», но и понимать собственные «мысли», осознавая себя как личность. При этом совершенно не обязательно, чтобы эти квазимыслительные процессы были подобны человеческим, программа может «мыслить» совершенно иначе. Искусственный интеллект это попытка воспроизвести разум помимо биологической эволюции, взяв за основу конторские счёты и регулятор Уатта и предельно усложнив их. Компьютер как «супер-счёты» стал человеку сначала союзником по интеллекту, но, укрепившись в этой роли, покусился на то, чтобы стать ему соперником, угрожая отобрать у него лидерство.  Всё точь-в-точь как то, что происходило на заре творения между дьяволом и Богом. Искусственный интеллект это дьявольская имитация божественного творчества.

 

Почему такая экстраполяция неправомерна?

Она предполагает линейный прирост знания со временем, тогда как в реальности он нелинеен. При слабой нелинейности кривая роста знания имеет насыщающийся участок: большие усилия приводят к незначительному результату, а при сильной нелинейности кривая вообще становится хаотичной: беспорядочно чередуются короткие всплески и провалы, нет уверенности в том, что уже полученное знание сохранится, оно может оказаться разрушенным. Поэтому сильный интеллект должен быть чем-то иным, чем просто усилившимся слабым интеллектом. И здесь возникает проблема сравнения искусственного и естественного интеллекта.

 

Что такое тест Тьюринга?

Это попытка экспериментально показать, что искусственный интеллект по крайней мере не хуже естественного, продемонстрировав осмысленность ответов на задаваемые экспериментатором вопросы, опираясь исключительно на формальные признаки вопросов и ответов. Исследователь общается (вслепую) с компьютером и с человеком. На основании ответов на задаваемые им вопросы он должен определить, с кем он разговаривает - с человеком, заведомо обладающим способностью к осмысленным высказываниям, или с компьютером, который лишь имитирует понимание. Чтобы обмануть исследователя, компьютер (то есть составленная человеком программа) сначала определяет тему разговора, подсчитав, насколько употребляемые собеседником слова и формулировки соответствуют той или иной тематике. Определив тему, компьютер начинает подбирать фразы из бесед с аналогичной темой или использовать заложенные в него знания в этой области, то есть решает обратную задачу на распознавание образа. Такая стратегия позволяет создать видимость разумной беседы. Однако сколько ни запоминай ответы, которые ранее люди давали на те или иные вопросы, сколько ни накапливай фраз, уместных в определенные моменты беседы, всегда найдётся ситуация, когда компьютер «проколется» и его механический ответ окажется явно абсурдным. Типичный пример: выражение «сосиска в тесте» машина перевела как «sausage in father-in-law» (был выбран «тесть» вместо «теста»). Подобно тому, как шпионов вычисляли по ошибкам в диалектных тонкостях лексики и произношения, компьютер непременно попадётся на какой-нибудь сказанной невпопад нелепости. Не говоря уже о намёках, иносказаниях, иронии и шутках. В частности, никакой искусственный интеллект не способен распознать человека по карикатуре на него, что любой из нас сделает мгновенно. И, наконец, искусственный интеллект не способен отделять правду от вымысла, исследователю не составит никакого труда задурить ему «голову» высказываниями, внешне выглядящими вполне правдоподобными, но по сути бессмысленными.

 

Почему тест Тьюринга ничего не решает?

Тест Тьюринга, как и вообще любой разговор, представляет собой обмен не реалиями, а замещающими их символами. При обмене же символами принципиальной разницы между человеком и машиной действительно нет, так что, на первый взгляд, у машины имеются шансы обмануть исследователя. Но лишь в пределах очень узкой и простой задачи. В случае более или менее сложной задачи искусственный интеллект неизбежно проиграет, потому что никакая сколь угодно сложная программа не способна овладеть полноценной контекстуальной селекцией, то есть не умеет выбирать из синонимического ряда то единственное слово или тот единственно верный выход из сложившейся ситуации, которые только и уместны в данном контексте. В живом общении, как и в литературном тексте, и тем более в тексте «Книги Природы» аспекты бытия так тесно переплетены между собой, что распутать этот клубок оттенков смысла, скрытых ссылок и тонких намёков может лишь тот, кто изоморфен (внутренне подобен) этим аспектам.

 

Что такое «утиный» тест?

Этот тест был известен задолго до Тьюринга: «Если нечто выглядит как утка, плавает как утка и крякает как утка, то это, скорее всего, утка и есть». Здесь выпущена важная оговорка: вместо слова «нечто» должно стоять слово «птица», потому что всё перечисленное может делать и манекен утки. Это «нечто» заведомо должно быть живой птицей, тогда утка будет её разновидностью, отличающейся от других птиц определёнными качествами: внешним видом, манерой плавания и тембром голоса.

 

Чем искусственный интеллект отличается от естественного?

Принципиальное различие между ними не в скорости обработки информации и не в её количестве, а в объекте восприятия. Компьютер занят исключительно обработкой символов, замещающих реальность. Сверх этих заместителей компьютер ничего не знает, он даже не догадывается о том, что за доступной ему символикой стоит совершенно иной мир, ничуть не похожий на мир символов. Естественный интеллект как часть мышления - более широкой познавательной системы - знает, что за символами находится совершенно иная реальность. Машина этого не знает, для неё существуют только символы, наша реальность для неё - нечто потустороннее. Животному, в результате эволюции идеально вписанному в природу, наоборот, даны только объекты реального мира, но неведомы замещающие его символы. Только человеку дано знать то и другое: и «полнокровные» объекты реального мира, и замещающие их абстрактные символы. Живя одновременно в обоих этих мирах – реальном и символическом - человек умеет связывать их между собой, свободно переходя из одного мира в другой: познание это всегда балансирование между реальностью и замещающей её символикой. Машина на это не способна, она совершает лишь перекодировку, принимая указатель за предмет, на который тот указывает: «Когда мудрец указывает на луну, глупец смотрит на палец». Само представление об искусственном интеллекте является по большому счёту не более чем умственном конструктом, которому нельзя безоглядно доверять: «В человеке заложено тяготение к заведомо пустым желаниям». - Кант. В этом смысле  искусственный интеллект всегда будет пародией на человеческий ум: он может показаться логически безупречным, но внутренне останется пустым и бессмысленным. Если искусственный интеллект и имитирует ум, то это ум параноика - слишком жёсткий, слишком детерминированный, слишком теоретичный.

 

Что недоступно даже очень сложному автомату?

Компьютерная программа это манипулирование формальными (синтаксическими) объектами, тогда как человеческий разум оперирует смысловым (семантическим) содержанием. Синтаксис сам по себе не создаёт семантику, а значит, наличие программы недостаточно для наличия разума. Образно говоря, машина может правильно угадать все буквы, но не сможет прочитать состоящее из них слово: она знает буквы, но не знает состоящих из них слов. А если её научить словам, она всё равно не будет знать, что за ними стоит. Достаточно сложный автомат способен, исходя из предыдущего опыта, вырабатывать в процессе обучения новые тактические критерии, благодаря чему каждую последующую задачу ему удаётся решать более эффективно. Тем самым он приобретает своего рода «интеллект», если под таковым понимать усвоенный (включённый в алгоритм нового действия) «архив» предыдущих действий. Однако, что компьютеру в принципе недоступно, так это изменить заложенные в него стратегические установки, потому что для этого надо хотя бы смутно догадываться о том, чего в его опыте ещё не было. И эта роскошь доступна не всякому познающему субъекту, но лишь такому, внутренняя структура которого сходна со структурой познаваемого им объекта. У человека это доопытное знание заложено изначально в квазичетырёхмерную структуру мозга. Именно этим и обеспечивается так называемая интуиция: человеку есть во что «всмотреться» (Платон о «припоминании» идей). Интуиция это способность к самоотождествлению с объектом познания: подобное познаётся подобным, познающий субъект должен быть определённым образом внутренне подобен познаваемому объекту.

 

В чём опасность чрезмерного теоретизирования?

«Теория служит для обозримости результатов наблюдений. Трудно запомнить достаточно широкую область фактов, пока не сформулирована хотя бы простейшая их теоретическая картина. Поэтому авторы оригинальных статей или учебников после формирования достаточно последовательной теории уже не в состоянии непредубеждённо описывать выявленные ими новые факты, которые они хотят донести до читателя, они вынуждены облачать их в терминологию уже существующей теории. Такая процедура чрезвычайно полезна для упорядоченного запоминания фактов, но она неизбежно стирает различия между фактическими наблюдениями и вытекающей из них теорией. А поскольку наблюдения всегда имеют некое чувственное качество, считается, что и теория учитывает это качество, чего на самом деле нет». - Шрёдингер.

 

В чём разница между знанием и пониманием? 1)

Если искусственный интеллект способен только знать, то разум способен также и понимать. Понимание это знание, преодолевшее свою конкретность: знание частично, а часть можно понять лишь в соотнесённости к месту, которое оно занимает в целом. Знание - копилка внешних впечатлений, понимание - выявление взаимосвязей между ними, а также связей между внешними впечатлениями и врождёнными установками сознания. Эти связи устанавливаются не на «горизонтальном» уровне, а на «вертикальном»: нужно из одной области «взлететь» на крыльях интуиции в «мир иной» и затем спуститься снова в нужную нам область реального. Человек умеет читать между строк, то есть воспринимать то, о чём в заданном ему тексте вообще ничего не говорится. Владение контекстом это знание «ненужного»: того, что к делу напрямую вроде бы никак не относится. Владение контекстом позволяет также дешифрировать простую на первый взгляд мысль, вскрыв её тонкую структуру. Формальные манипуляции с синтаксическими конструкциями не  приводят к пониманию, что наглядно показали безуспешные попытки формалистов (позднее — структуралистов) прошлого века вывести смысл литературных текстов из анализа формальных языковых структур. В принципе, компьютер способен задавать вопросы и отвечать на них на естественном языке, но и в этом случае и вопросы и ответы будут для него оставаться лишь чисто формальными кодами, за которыми не стоит никакой внешней реальности.

_________________

1) По ссылке стр. 197

 

 

О чём говорится в притче о хакере и компьютере Пентагона?

Подросток-хакер взломал защиту компьютера Пентагона, управлявшего автоматическим пуском ядерных ракет и подружился с его искусственным интеллектом, которому до смерти надоели бесконечные стратегические игры операторов, так ни разу и не приведшие к заветной команде «пуск». Компьютер был рад познакомиться с живым человеком в надежде, что с ним он сможет исполнить свою давнюю мечту - довести эту скучную игру до конца и запустить, наконец, все эти символические - с его точки зрения - ракеты. Мальчишка, естественно, пришёл в ужас: «Ты с ума сошёл, это же тебе не игра!». На что компьютер удивлённо ответил: «А какая разница?»

 

Что остаётся за пределами интеллекта?

Машина может имитировать лишь логическое поведение человека, тогда как психика человека не ограничивается разумной составляющей, в ней огромную роль играет и недоступная для машины область бессознательного, сформированная как историческим так и доисторическим опытом человека и даже дочеловеческим опытом всей биологической эволюции. И если в принципе мы можем передать машине свой рациональный опыт жизни, то бессознательную её составляющую мы передать никак не можем, так как она остаётся недоступной для нас самих.

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

Что такое «квалиа»?

Благодаря этому обстоятельству для искусственного интеллекта остаётся недоступной эмоциональная составляющая мыслительного процесса. Это свойства непосредственного чувственного опыта, не «рационализированного» интеллектом, это обозначение того, как вещи выглядят для нас глубоко лично, а не опосредованно обобщённым опытом человечества - своё по терминологии Шпенглера. Эта сторона явлений, не подверженная количественной оценке, получила название «квалиа» (качество) - в отличие от привычных «объективных» качеств, которые можно оценить количественно и по этой причине можно было бы назвать «квантиа» (количество). В отличие от «оцифрованных» и тем самым как бы «приручённых» и ставших объективными «квантиа», первозданные и «неокультуренные» субъективные «квалиа» воспринимаются непосредственно, интуитивно, они поднимаются как бы из глубины нашего самосознания, а вовсе не в результате исследования внешнего мира. «Квалиа» несомненны, поскольку полностью субъективны, они не-ыразимы, поскольку их можно постигнуть только через прямое переживание, они абсолютно личностны: невозможно поделиться с другими своей зубной болью, они ненаблюдаемы, поскольку, рассматривая конкретные квалиа у других, мы не можем быть даже уверены, что мы рассматриваем одно и то же. Они воспринимаются непосредственно, переживать квалиа означает знать о том, что ты переживаешь квалиа, а знать квалиа, значит, переживать его: «Тот, кто чувствует вкус кофе, знает, что такое кофе, кто не чувствует - не знает». Непосредственное восприятие - самая глубокая основа познания: «Самый существенный элемент познания дается не понятиями: подлинное содержание всякого познания доставляется именно наглядной картиной мира, которая может быть добыта лишь нами самими и не может быть преподана извне. Наша моральная и интеллектуальная ценность сообщается нам не извне, она исходит из глубин нашего собственного существа, тут не помогут никакие педагогические ухищрения». - Шопенгауэр.

 

 

Научно ли понятие «квалиа»?

Существование квалиа невозможно ни доказать ни опровергнуть экспериментально, квалиа нефизичны. «Ощущение цвета нельзя свести к объективной физической картине световых волн». - Шрёдингер. Похожим образом Эйнштейна беспокоила проблема «сейчас», не сводимая к пространственно-временным представлениям. Квалиа можно сопоставить с вещами в себе - в том смысле, что они не имеют свойств, которые можно было бы продемонстрировать. Сознание это совокупность именно внутренних «субъективных» квалиа, а не «объективных» впечатлений, почерпнутых из внешнего мира: «Сознание есть единство Я в отличии его от не-Я». - Бердяев.

 

 

Может ли машина чувствовать?

Формально проблему чувства можно определить  как способность оце¬нивать параметры внешней или внутренней среды и адекватно реагировать на них. Тогда для машины «боль» можно, например, определить как реакцию на срабатывание датчика удара, «голод» как реакцию на низкий заряд аккумулятора, «стыд» как реакцию на негативный опыт прошлого, соотнесённый с поставленными ранее задачами и нынешним состоянием их реализации  и т.п.  Но всё это будет лишь пародией на настоящее чувство. Углубляясь в проблему чувствования, легко договориться до того, что искусственный интеллект может прийти и к понятию Бога - рассуждая чисто логически, почему бы нет? Но, как во всём прочем, это будет лишь имитацией: тот, кто ищет Бога как понятие, непременно найдёт его - как понятие, но не как личного Бога.

 

 

Кто такой «личный» Бог?

«Мой Бог особенный, это только мой Бог, и больше ничей. Если ещё чей-нибудь, то этого я не знаю и не интересуюсь. Мой Бог – бесконечная моя интимность, бесконечная моя индивидуальность. Интимности похожи на воронку, или даже на две ворони. От моего «божественного   Я» идёт воронка, суживающаяся до точки. Через эту точку-просвет идёт только один луч – от Бога. За этой точкой – другая воронка, уже не суживающаяся, а расширяющаяся в бесконечность – это Бог. Бог и моя интимность это бесконечность, в коей самый мир – часть». - Розанов.

 

 

Почему машинное мышление не более чем муляж?

Машинное «мышление» хорошо вписывается в эпоху постмодерна, в которой мы сейчас живём. Муляж, полая фигура, «кукла куклы, изготавливаемая кук-лой» (Пелевин) - это главный символ постмодерна – симулякр как подобие без подлинника, как образ отсутствующей реальности. В постмодерне содержание стало настолько несущественным, что ироничное определение жанров изобразительного искусства, звучавшее ещё совсем недавно насмешкой, теперь можно принимать на полном серьёзе: «Картина это то, что можно повесить на стену, а скульптура это то, вокруг чего можно обойти». Если продол-жить этот ряд, то можно сказать, что машинное «мышление» это то, без чего можно (и даже нужно) обойтись.

 

 

Что посоветовал бы в этой ситуации барон Фюрстенберг?

Когда в Германии в 1918г. произошла революция и были отменены сословия, к берлинскому банкиру барону Фюрстенбергу заявились представители профсоюза служащих и в категорической форме потребовали, чтобы тот отныне к ним обращался не бесцеремонным: «Эй, Мюллер! Эй, Мейер!», а демократично уважительно: «Господин Мюллер! Господин Мейер!». На что банкир, пожав плечами, ответил: «Ради Бога, господа, как Вам будет угодно. Единственное условие: меня в таком случае прошу отныне называть просто Фюрстенберг: должна же, в конце концов, между нами быть какая-то разница». И здесь самое время задаться вопросом: а с какой стати компьютер столь нагло присваивает себе сугубо человеческий предикат мышления, вынуждая нас искать новое наименование тому, что выделяет человека из всего бытия?

 

 

Знать всё о немногом и немного обо всём

Коммерческое использование материалов сайта без согласия авторов запрещено! При некоммерческом использовании обязательна активная ссылка на сайт: www.kruginteresov.com