Александр Болдачев. Черный ящик интеллекта

логический и методологический анализ эффективности формализма «черного ящика» при моделирования интеллекта
Информация
Год написания: 
2004
Логический и методологический анализа эффективности формализма «черного ящика» при моделировании интеллекта // Философия искусственного интеллекта. Материалы Всероссийской междисциплинарной конференции, г. Москва, МИЭМ, 17 – 19 января 2005 г. – М.: ИФ РАН, 2005. — 400 с. — C. 263-266.
Систематизация и связи
Философия науки и техники

В основе наиболее распространенных на сегодняшний день подходов к разработке искусственного интеллекта (ИИ) лежит предположение, что существует некая рациональная связь между ограниченным числом данных, получаемых человеком, и производимым им интеллектуальным продуктом. То есть, что проблема ИИ разрешима в рамках формализма «черного ящика»: входные данные – нечто, их обрабатывающее – выходные данные.

 

Попробуем проанализировать эту схему. Начнем с выходных данных, то есть с результата функционирования «черного ящика». Поставим вопрос: что мы должны получать на выходе «черного ящика», чтобы по этому можно было бы однозначно заключить, что в нем находится нечто обладающее интеллектом? Безусловно, проблема описания (определения) результата интеллектуальной деятельности сугубо терминологическая: представление о сущности выходных данных «черного ящика» абсолютно зависит от определения того, что находится внутри. Наиболее часто встречается расширительная трактовка понятия «интеллект», согласно которой в качестве главного его свойства (характеристики, признака) признается адаптивное поведение организма (устройства), им обладающего. Интеллект определяется как нечто позволяющее организму адекватно реагировать на внешние условия с целью сохранения своей целостности. При таком подходе неизбежно следует вывод, что интеллектом обладают все живые существа (или, по крайней мере, все животные). А разница между интеллектами плоского червя и человека лишь количественная – у первого поменьше, у второго побольше. Если немного сузить понятие интеллектуальности и свести ее к адекватному («осмысленному») реагированию лишь на нетипичные изменения среды, то число претендентов на звание «интеллектуалов» ограничится лишь высшими животными (включая человека, конечно). В противоположность расширенной возможна и принципиально узкая трактовка понятия «интеллект», согласно которой результатом его деятельности являются лишь принципиально новые формальные высказывания - идеи, гипотезы, законы, теории и т.д. Понятно, что при принятии такого ограниченного определения интеллекта, его обладателями можно признать лишь представителей вида Homo sapiens (да и то далеко не всех).

Как уже отмечалось, выбор того или иного определения интеллекта – проблема сугубо терминологическая. Однако можно указать и на существенный методологический аспект этой проблемы. Распространяя понятие интеллекта на все биологические объекты (или, по крайней мере, на высшие их классы – млекопитающих и птиц), мы неизбежно теряем специфичность предмета исследования. При таком подходе мы вынуждены описывать нервную деятельность человека исключительно в терминах адаптивного поведения. Это могло бы быть оправдано при наличии схемы (методики, теории), рационально описывающей переход от адаптивной деятельности к высшим творческим проявлениям человека. Однако в качестве эмпирического факта следует признать, что функционирование существенной части психики человека (к которой, безусловно, относится и интеллектуальная деятельность) не имеет непосредственного отношения к адаптации организма – не сводима к ней и не мотивирована ею.

В результате мы неизбежно приходим к заключению: если нас интересует специфически человеческий интеллект, а не обобщенное адаптивное поведение биологических организмов, то в качестве выходных данных нашего «черного ящика» мы должны признать продукт исключительно человеческой деятельности. Более того, сугубо интеллектуальной деятельности – новые идеи, гипотезы, теории. Для устранения всякой неоднозначности возможно еще больше сузить предмет исследования, разграничив два практически независимых процесса: (1) генерацию идеи (мысли) и (2) ее вербализацию – представление в виде формальных высказываний (системы высказываний). Безусловно, оба процесса являются составляющими интеллектуальной деятельности, но исключительной интеллектуальной специфичностью обладает лишь первый из них, без которого второй теряет всякий смысл. Итак, то, что осталось в ходе выделения чистого результата интеллектуальной деятельности, то есть то, что можно рассматривать в качестве выходных данных интеллектуального «черного ящика» - это новые идеи, гипотезы, мысли, которые можно обозначить термином «интеллектуальные новации».

Теперь обратимся к «входным данным». Понятно, что в качестве таковых следует рассматривать некую совокупность внешних воздействий на человека. Возможно ли из всего комплекса разнообразнейших воспитательных, образовательных и прочих закономерных и случайных воздействий выделить ограниченный набор «данных», из которых рационально (детерминировано) можно было бы получить выходные данные – конкретные интеллектуальные новации? То есть, возможно ли однозначно заключить, что спонтанный акт появления новой идеи есть закономерное следствие некоторого формального, ограниченного набора факторов? При ответе на эти вопросы следует обратить внимание на множество примеров из истории науки, когда одна и та же идея практически одновременно приходила в голову разным людям с разными судьбами, стилями мышления, психологическими и эмоциональными характеристиками. Учитывая это, можно выдвинуть два тезиса: (1) интеллектуальная новация по своему содержанию абсолютно не зависит от частных историй ее авторов; (2) а если в появлении новой идеи и есть некий рациональный момент, то он лежит вне индивидуального интеллекта. Ретроспективно анализируя весь ход развития социальных знаний, мы вполне можем проследить последовательную закономерность формирования новых идей, время и сам факт появления которых никак не зависит от конкретных имен. Можно сказать, что индивидуальные интеллекты лишь реализуют это поступательное движение, но никак не являются его источником.

Следовательно, выделив в качестве выходных данных нашего единичного «черного ящика» интеллектуальные новации, мы приходим к выводу, что практически невозможно проследить рациональную связь между их появлением и каким-либо ограниченным набором исходных данных, поступающих на его вход. Следует признать, что формирование новой идеи в индивидуальной голове - процесс сугубо случайный. Более того, необходимым условием появления новации является наличие множества таких случайных по своей природе интеллектов. Формирование и функционирование знаний возможно лишь в стохастическом интеллектуальном бульоне, в котором лишь один из множества элементов, случайно срезонировав с наметившимся движением социального познания, выражает его направление в виде новой идеи. Случайность как индивидуального интеллекта, так и распределения свойств (способностей) между многими интеллектами – это необходимая основа появления очередной интеллектуальной новации, условие развития социального познания.

И, конечно, не следует забывать, что индивидуальный интеллект стохастичен не только по принципу своего функционирования, но и по принципу формирования – он всегда является лишь случайным продуктом системы знаний социума. Ведь никакая методика обучения не гарантирует формирование интеллектуалов.

К утверждению необходимости случайных формирования, функционирования и распределения множества частных интеллектов следует добавить, что и факт выделение интеллектуальной новации как результата их деятельности не столь однозначен, как представлялось в начале обсуждения. В истории науки известно множество примеров, когда успешно работающие идеи, теории ранее не признавались в качестве достоверных или, наоборот, гипотезы, впоследствии полностью опровергнутые изначально принимались с восторгом. Учитывая этот исторический опыт, можно утверждать, что никакие эксперты не могут сделать однозначное заключение о значении и «качестве» интеллектуальной новации, не зависимо от того, произведена она человеческим интеллектом или неким устройством (ИИ). Единственным критерием достоверности новации может являться ее однозначная встроенность в общий поток развития социального знания.

Выводы: интеллектуальные новации – это продукты сложного эволюционного движения системы социального знания. При этом индивидуальные интеллекты могут рассматриваться лишь как стохастические элементы этой системы, а она сама – как результат деятельности множества случайных индивидуальных интеллектов. Интеллектуальная новация, конечно, привязана к конкретному интеллекту, но не является закономерным (рационально реконструируемым) следствием его индивидуального функционирования и не может быть признана достоверной на основе индивидуальных оценок. Следовательно, моделирование интеллекта, то есть создание ИИ, не сводимо к решению технической (кибернетической) задачи алгоритмической связи выходных данных некоего единичного «черного ящика» с его входными данными, а требует (ни много, ни мало) воссоздания общего процесса развития социального познания. То есть для получения интеллектуальной новации бессмысленно моделировать случайные, недетерминированные процессы в человеческом индивидуальном «черном ящике», имеющем на входе неконечный, стохастичный поток данных, а на выходе - заведомо неоднозначный результат. Рациональное обоснование появления новой идеи можно получить лишь при изучении и экстраполяции закономерностей движения человеческого знания как целого.

Хотя, опять же, следует подчеркнуть, что полученные выводы достоверны лишь в рамках принятой узкой трактовки термина «интеллект». При понимании интеллекта как механизма адаптивного поведения, безусловно, возможно (и необходимо) проектирование локальных устройств, адекватно реагирующих на изменения среды. Однако, наверное, не следует тешить себя надеждой, что в результате такого адаптивного реагирования на внешние воздействия на выходе подобного «интеллектуального черного ящика» закономерно (или хотя бы случайно) появится какая-либо новая идея.

2004, ноябрь