Евгений Александрович Гришин. Автономный виртуальный агент как квази-личность

Информация
Год написания: 
2018
Систематизация и связи
Философия науки и техники

(Диалог в кулуарах МТИ двух личностей – эксперта и автора, Москва, январь 2017 г. Рисунки, диаграммы и таблицы статьи размещены в файле приложения)

Экспертом и автором в живом диалоге с демонстрацией поведения автономного агента обсуждаются концептуальные основания, принятые для разработки виртуального компьютерного агента, коммуникативно действующего в среде людей и себе подобных агентов. Эти основания включают критику парадигмы робототехники А.Азимова, теста на интеллектуальность А.Тьюринга, и предложения по радикальному обновлению парадигмы и теста. Предложения имеют целью наметить пути разрешения проблемы технологической сингулярности и обеспечения безопасности человечества в условиях самосовершенствования интеллектуальных машин посредством опережающего создания дружественного ИИ, или квази-личности.  

Эксперт: …Журналисты задались вопросом: какие угрозы представляет внедрение роботов с точки зрения этической. Так, ИИ при определённом развитии в конкретной предметной области сможет принимать самостоятельные решения раньше, чем это делает человек в рамках выполнения тех же задач. Следовательно, в законодательстве должен быть предусмотрен юридический статус, права и ответственность для такого автономного робота, как и для человека. В Европе подобные проблемы были осознаны, когда биржевые роботы смогли обрушивать котировки на фондовых рынках.

Автор: Это деликатная проблема. Без каких-либо претензий к А.Азимову, можно сказать, что в его время, когда ему пришла на ум идея трёх законов робототехники, осознание этической проблемы во взаимоотношениях робот-человек полностью отсутствовало. Какая может быть этическая проблема, когда человек взаимодействует с собакой? Никакой. Поэтому, если поставить в указанных законах на место слова «робот» слово «собака», смысл законов не поменяется – к собаке предъявляются те же требования, что и к роботу. И наоборот, к роботу предъявляются те же требования, что и к собаке.

Эксперт: В Америке до 60-х годов 20-го века дискриминировали чернокожих,  что уж тут говорить о роботах.

Автор: Вот именно. Но продолжим. До сего времени главенствует принцип - приказной порядок взаимодействия оператора и  аватара (автомата), что полностью соответствует трём законам робототехники А.Азимова. Но если мы допускаем возможность сингулярности как достижение

(и превышение) автоматом интеллектуальных  способностей человека, то тогда волей-неволей следует и допустить, что человек может оказаться на месте робота. И человек и робот могут поменяться местами.

Всё это означает, что человечеству нужно вовремя сообразить, что такая проблема существует, вовремя начать действовать, предотвращая катастрофическое развитие ситуации. И прежде всего мы обязаны пересмотреть парадигму трёх законов робототехники, допуская некую квази-живость и квази-разумность автомата, т.е., допуская его квази-личность, закреплённую в законодательстве. Соответственно, должны быть прописаны как его права, так и ответственность во взаимоотношениях с людьми и другими квази-личностями.

А что имеется в виду под «квази», я сейчас скажу.

В рамках возможностей сегодняшнего постижения наукой мироздания и миропорядка отсутствует мало-мальски внятное определение понятий «бессознательное» и «квантовый мир». При этом разделении одинаковой остаётся степень неизвестности о данных сферах. Пять органов человеческих чувств не работают ни в случае бессознательного, ни в случае квантового мира.

Согласны ли Вы с этим?

Эксперт: В данном контексте – да.

Автор: Хорошо. Следующий вывод (моя точка зрения): человеческое сознание, о важности которого так много и многими сказано, не достойно того, чтобы так  много о нём говорить. Почему? А потому, что человеческое сознание работает только тогда и потому, что есть бессознательное, из которого появляются в сознании такие эффекты, как «Эврика!», или «Нашёл!», или «Озарило!», или «Вдохновило!». Т.е., всё то, что определяет возможность творчества, но прерогативой сознания не является. В сознании это только осознаётся, как нечто, пришедшее откуда-то. А откуда – другого места нет – из бессознательного, сопряжённого с квантовым миром.

Для меня из данного краткого объяснения следует, что бессознательное есть основа существования сознания, так как сознание только описывает то, что произошло в бессознательном до того, как сознание это начало описывать. Что-то должно произойти, прежде чем сознание сможет это описать.

Согласны ли Вы с этим?

Эксперт: Мне кажется, что должна быть более чёткая формулировка бессознательного и квантового мира для понимания их роли в существовании сознания. В то же время я понял, что если опираться на то, что сознание описывает процессы, происходящие в бессознательном, то значит, что оно описывает уже свершённое, т.е., прошедшее, а не совершающееся в данный момент.

Автор: Совершенно верно, сознание работает пост-фактум. Добавлю лишь, что сознание анализирует прошлое, совершённое в бессознательном, и синтезирует представление о будущем. Но не описывает настоящего, происходящего в бессознательном.

Для завершения увлекательной темы о бессознательном скажу лишь, что я обратился к этой теме с целью объяснить применение приставки «квази»: приставка применяется для обозначения искусственно созданных человеком организмов, не обладающих бессознательным, но может быть, обладающих в той или иной степени сознанием.

Согласны ли?

Эксперт: Пока нет причин, чтобы с этими выводами спорить.

Автор: А ответ на вопрос – в какой степени искусственный организм может быть разумным без бессознательного, я и хочу продемонстрировать в дальнейшем изложении.

Эксперт: Ок! Тогда иной вопрос: то, что у искусственного организма отсутствует бессознательное, как это влияет на его функционал?

Автор: У квази-организма сохраняется функционал, но меняются источники получения оснований для принятия решений. Источником этих оснований у него служит не бессознательное, присутствующее у живых организмов, а только информационные потоки от материальных образований – баз данных, людей, и других квази-организмов.

Эксперт: Скачущая живая лошадь, даже при сумасшедшем седоке, правящем в бетонную стену, остановится. А квази-лошадь, без бессознательного, при сумасшедшем седоке, как себя поведёт?

Автор: Не волнуйтесь, она также остановится!

Эксперт: Уфф!

Автор: Тогда продолжим. Для меня было необходимо понять, что же является сутью коммуникаций между людьми, что можно было бы положить в основу разработки разумной машины.

Наблюдения показали, что почти любой разговор между людьми заканчивается чем-то вроде: «Ну, договорились?». А это значит, что в течение вольного разговора они, по-сути, обсуждали условия взаимного согласия, договора. Ну, так вот она, суть коммуникации: это - договор! И ещё: как справедливо излагал монтёр Мечников в «Двенадцати стульях» Ильфа и Петрова: «Согласие есть продукт при полном непротивлении сторон…». Т.е. договор (согласие) должен быть добровольным.

Есть два способа взаимодействия человека и автомата: приказ и договор. Договор возможен только между личностями. Таким образом, принципиальным является то, что договор, как основополагающий способ взаимодействия между людьми, может стать основой коммуникаций и между квази-личностями.

Договор означает, что явным образом прописываются интересы и обязательства каждой стороны сделки. Т.е., записываются для каждого участника сделки, что и сколько он хочет получить от партнёра, в каком виде, качестве, где и когда, и что и сколько он за это готов отдать, в каком виде, качестве, где и когда. А также прописывается неустойка (залог): что и сколько, в каком виде, качестве, где и когда должен заплатить (отдать) каждый, кто не выполнил того или иного условия договора.

Другой вопрос: достаточно ли мне для доказательства посылки: может ли машина мыслить, того, что она прошла тест А.Тьюринга? Ответ: нет! Однако, около 30 лет существует премия Лебнера за преодоление автоматом теста Тьюринга, существуют более 18 модификаций теста Тьюринга, есть программа «Евгений» - победитель премии (из России). То есть, налицо диалоговые программы и самообучающиеся нейронные сети, могущие ввести в заблуждение человека словесным трёпом, или даже победить человека-чемпиона в игре в шахматы и в Го. Нет только убедительных примеров программ, обладающих хотя бы квази-живостью и квази-сознанием, гармонично сочетающим рациональность с этикой и эстетикой, и соблюдающим правила общежития в мире людей.

Вывод: я предлагаю отказаться от двух устаревших догм: от парадигмы «Три закона робототехники» А.Азимова, и от «Теста на интеллектуальность машины» А.Тьюринга, как концептуально ограничивающих развитие рационально-этического искусственного интеллекта, и не предлагающих радикальных способов защиты от взрывного саморазвития интеллектуальных машин.

Со своей стороны, предлагаю: новую парадигму «Три закона робототехники», а также  «Тест на квази-живость и квази-разумность виртуального агента». Эти предложения опубликованы в веб-журнале «Искусственные общества» [8, 1].

Перейдём к изложению другого важного аспекта обсуждаемой модели квази-личности виртуального агента: идеи  рефлексивности. Само понятие «рефлексия» принадлежит словарю философии и психологии, и в обобщённом виде подразумевает способность организма встать в позицию стороннего наблюдателя (альтернативную позиции деятеля) к самому себе, своим действиям, мыслям, и действиям и мыслям других.

Эксперт: Многие психологи и нейрофизиологи говорят, что умение организма посмотреть на себя со стороны есть основа объяснения феномена сознания.

Автор: Справедливо. В то же время, используя понятие «рефлексия», я вкладываю в него более широкий смысл [2].

Рефлексия как структура модели квази-личности включает два сопряжённых блока – «сфера осознания - сфера 1» и «сфера поведения - сфера 2», а также операционную систему.

Сфера 1 – Осознание - (анализ-синтез): отстранённая от текущего поведения критическая (объективирующая) позиция персонажа по отношению к разнице между его собственным планом и фактом поведения в прошлом периоде, а также к разнице между планом и фактом поведения в прошлом периоде других персонажей (анализ), и корректировка или разработка нового плана поведения в будущем периоде (синтез),

Сфера 2: Неосознаваемое Поведение в настоящем по плану, разработанному в прошлом периоде.

Рефлексия как процесс - есть периодическое или по прерыванию переключение операционной системой данных план-факт между сферами 1 и 2. Причина переключения - расхождение плана и факта поведения в прошедшем периоде (сфера 2) и передача их на анализ (сфера 1),  и одновременно - синтез и загрузка на текущее исполнение (сфера 2) нового плана поведения, разработанного в прошедшем периоде (сфера 1). 

Принципиально здесь следующее; в сфере осознания анализируется только прошлое поведение (план-факт и алгоритм), и синтезируется план и алгоритм будущего поведения, а в сфере поведения в текущее время неосознанно исполняется план и алгоритм, разработанные в прошедшем периоде. Осознание же текущего поведения (расхождение план-факт или аварийный останов алгоритма) произойдёт только в следующем периоде рефлексии.

Эксперт: Вопрос: если текущее поведение принципиально неосознаваемо, то каким же образом это поведение приводит алгоритмы к желаемому результату?

Автор:  Прекрасный вопрос, поскольку мне на него легко ответить. Неосознаваемое поведение  в текущем периоде означает просто исполнение интерпретатором логики условных и безусловных переходов алгоритма поведения, получение от рецепторов стимулов среды и передача эффекторами реакции в среду. И при очередной рефлексии (переключении ОС данных план-факт и алгоритма в сферу осознания) результаты осознаются как прошлое, и происходит их анализ и корректировка поведения в будущем периоде. Т.е., это не приципиальное неосознавание текущего поведения вообще, а неосознавание его в текущем периоде времени, бессознательное стимульно-реактивное поведение.

Эксперт: Всё понял.

Автор: Помимо изложенного, к понятию «рефлексия» я отношу также прерогативу осознания и различения понятий «Я» и «Он», или «Другой» [4].

Есть рациональное понятие - интерес, или польза-вред от взаимодействия с другими.

С этой стороны, понятие «Я» означает «Я есть всё то, что мне принадлежит, как ресурсы, которыми я могу распоряжаться при обмене с другими для удовлетворении своих насущных потребностей. Это же определение относится и к понятию «Другой».

Ресурсы для человека – это собственное тело, деньги, ценные бумаги, время, движимость и недвижимость и прочая собственность. Для виртуального агента ресурсы – это только деньги и время, если он не обладает физическим телом, что не исключено в будущем.

А пока виртуальный агент живёт в мире социальных отношений, ему достаточно оперирования деньгами и временем для решения всех вопросов обмена ресурсами с людьми и другими агентами для обеспечения требуемого качества существования.

Однако, есть ещё иррациональное понятие - ценности. Один вариант ценности: понятие «Я» означает «Я есть всё то, что я однажды обещал и считаю своим долгом исполнить по договору (соглашению) с Другим, сколько бы ресурсов это ни потребовало, или передоговориться до наступления срока исполнения договора». Иначе говоря, подтвердить свою честь перед Другим.

Здесь «Я» также означает «Я есть всё то, что я считаю своим правом потребовать от Другого по его договору (соглашению) со мной: сделать обещанное или передоговориться со мной до наступления срока исполнения договора.  Иначе говоря, Другой должен подтвердить свою честь передо мной, что для меня означает удовлетворение моего чувства собственного достоинства.

Эти же определения относятся и к понятию «Другой», который воспринимается как ровня.

Второй вариант ценности: понятие «Я» означает «Я есть всё то преимущество, которого я достиг и какое считаю своим долгом достигнуть в сравнении с Другими, сколько бы ресурсов это ни потребовало, и какими бы средствами ни пришлось пользоваться». Иначе говоря, «Я» есть подтверждение своей значимости перед собой.

Здесь «Я» также означает: «Я есть всё то, что я считаю своим правом потребовать от Другого по моему приказу сделать что-то, независимо от существующего договора.  Иначе говоря, Другой должен подтвердить свою зависимость передо мной, что для меня означает удовлетворение моего чувства собственного превосходства.

 «Другой» воспринимается при этом не как ровня, а или как «лох», или как «крутой».

Потребности интересы и ценности, существующие одновременно у агента, являются противоречивыми, так как должны последовательно удовлетворяться в деятельностях одни за счёт других посредством затрат общих ограниченных ресурсов агента.

Вариант же ценностей агент может сознательно избрать для себя только один, отрефлексировав заложенные конструктором предпочтения на потребностях и изменив их. Выбор варианта ценностей означает выбор того, за что агент будет себя самоуважать. Тем самым, если следовать В.А.Лефевру, агентом определится выбор одной из двух этических систем (1-я или 2-я), к которой он себя относит [3].

Определения понятий «Я» и «Он», рациональные и иррациональные потребности, а также выбор варианта потребности агента в самоуважении положены в основу «психологии» агента как квази-личности. Они объясняют причины возникновения и способы разрешения коллизий в отношениях с личностями и другими агентами,  К разбору этой  темы мы вернёмся позже [4].

Теперь – касаемо неосознавания текущего поведения и рефлексии [5]. Вот я увлечённо беседую с Вами, и вдруг я опомятовываюсь, что уже прошло больше часа, а я про время вспомнил только сейчас! Это значит – я в течение этого времени не осознавал развития текущей ситуации вокруг меня, я был полностью погружён в интересную беседу с Вами. Значит, я в течении этого времени «спал» относительно окружения, и только что «проснувшись», начал вспоминать, что вокруг ходили и разговаривали люди и прочее, но всё это я могу осознавать и анализировать только как прошлое. И глубоко сосредоточившись на этом анализе, я могу забыть, что рядом сидите Вы, не понимающий, что со мной происходит в данном текущем времени. Шучу.

Так вот, излагая всё это про себя, я хочу сказать, что точно таким же образом я и Вас воспринимаю! Т.е., первое и главное условие моего восприятия другого, это предположение, что этот другой – такой же человек, каким себя воспринимаю я сам.

Т.е. другой – такой же человек, он что-то периодически хочет и что-то время от времени может.

И это предположение – единственное общее, на чём могут основываться попытки одной личности понять другую.

Труднее бывает объяснить мотивы поведения Другого, когда  его проявления не совпадают с моими ожиданиями. Ведь Другой может исповедовать и иную этическую систему. Здесь придётся набираться опыта взаимодействия с ним, основанного на пробах и ошибках.

 А теперь докладываю, что всё, что я успел сказать про квази-личность, я целиком отобразил в программе, проявляющей в своём диалоговом взаимодействии с человеком себя как квази-живое и квази-разумное существо. По сути, я в большой степени воплотил в нём свои представления о себе, т.е. повторил в нём себя. Поэтому сам проект носит название «Alter Ego”.

Эксперт: Это понятно.

Автор: Вернёмся к моему предложению Теста на квази-разумность автомата (альтернатива тесту А. Тюринга) [1]:

Виртуальный персонаж может считаться квазиразумным, если он, периодически общаясь с человеком на взаимопонятном языке, окажется способным многократно заключить с ним и исполнить в течение заданного времени экономические договоры (сделки) по обмену ресурсами на основе взаимной рациональности и этичности.

При этом:

  • взаимная рациональность есть условия договора, учитывающие интерес каждого партнёра по срокам, цене и виду поставляемого товара (услуги),
  • взаимная этичность есть ответственность за неисполнение условий договора каждым партнёром (ресурсная страховка риска).

Справедливо спросить - чем хорош такой автомат?

На сегодня человечество достигло высот технологий, даже не беря в учёт ИИ, в создании систем и сетей машин и автоматов, которым перепоручило массу функций, которые раньше выполняло само. В течение определённого времени эти системы машин и автоматов ещё были как-то понятны самим создателям, и управлялись ими.

Но когда начали создаваться сетевые системы коммуникаций людей, машин и автоматов, стало даже создателям затруднительно прогнозировать мало-мальски отдалённое поведение подобных конгломератов. Вследствие этого начали прилетать «чёрные лебеди» - техногенные катастрофы, что означает, что создатели и эксплуатационники не всё предусмотрели.

А если и дальше будет всё идти подобным экстенсивным образом, всё больше и сложнее станут автоматы, машины и сети, значит, будет всё меньше понимания, что в ближайшем и в дальнейшем может произойти.

И вот появляется устройство, созданное на принципах рефлексивного агента, которое дополнительно подключается к существующим автоматам, машинам и сетям, как shell, оболочка.

К  примеру, в аэробусе А-380 в системе управления появляется рефлексивный агент. Он будет взаимодействовать с командиром лайнера аудио- и визуально, но не получать от командира приказы, а договариваться о периодической передаче управления лайнером друг другу.

Ведь что такое сегодняшний автопилот – это устройство управления, взаимодействующее с пилотом в рамках старой парадигмы взаимоотношений – приказной: лётчик включил автопилот, отошёл, пришёл – выключил.

Рефлексивный же агент лётчиком не включается и не выключается. Однажды установленный на заводе, он постоянно находится в работе, но пассивно, как наблюдатель и анализатор, не участвуя в управлении. И в любой момент обращения лётчика готов к информированию его об обстановке и к договору о передаче агенту управления на конкретный срок.

Если командир желает передать управление агенту-автопилоту, то он указывает, на какой конкретный период времени передаётся управление, до минут и секунд. С условием, что за указанный период командир не получит управления, а агент, управляя лайнером самостоятельно, критически не ухудшит параметры состояния общего ресурса – параметры жизнеобеспечения лайнера (высота, топливо, герметичность, пожаробезопасность и пр.)

Если в течение указанного периода произойдёт закритическое ухудшение значений параметров состояния общего ресурса, то автоматически должна произойти передача права управления лётчику (при условии его готовности к управлению), но уже на менее длительный период. Если не произошло закритического ухудшения параметров состояния общего ресурса, то автоматически оставляется управление за агентом на тот же период.

И далее, работает тот же принцип периодического обмена правом на управление, с уменьшением периода управления одним лицом при критическом ухудшении значений параметров состояния общего ресурса.

Изложенный принцип называется «принципом взаимного резервирования», который был предложен А.Н. Костиным в 2000 г. [6]. В данном же контексте, не меняя начальной посылки автора, я использую этот термин, делая акцент на равноправном сотрудничестве оператора с рефлексивным агентом.

Эксперт: Кстати, сейчас на Боингах большинство функций управляются автоматами, поскольку уровень сложности систем и ситуаций не позволяет человеку вовремя принять правильное решение.

Автор: Но лётчики всё-таки иногда берут управление на себя. И при этом может произойти всякое. Примером катастрофического случая может быть авиакатастрофа в Альпах в      2015 г. Второй пилот аэробуса А-320 Андреас Любитц во время полета из Барселоны в Дюссельдорф забаррикадировался в кабине управления и резко направил самолёт к земле, будучи не в себе и желая осуществить самоубийство.

Если бы в управлении самолётом принимал участие рефлексивный агент, подобная  ситуация была бы невозможна, агент через пару секунд автоматически забрал бы управление у пилота и выправил бы ситуацию. 

У меня есть ощущение риска утомить Вас монологом. Но Вы можете при желании реагировать на услышанное.

Эксперт: Предпочитаю выслушать мысль спикера до конца. Но и вопросы буду задавать.

Автор: Хорошо, продолжим. Теперь - интродукция к программе “Alter Ego” перед её включением.

В целом система представляет собой набор таблиц MS Excel и набор программ на базовом языке VBA. Программы реализуют набор рекурсивных и рекуррентных алгоритмов, фрактально повторяющих на разных уровнях детализации основополагающую рефлексивную модель. Программы исполняются интепретатором. Он реализует псевдопараллельность исполнения программ за счёт многозадачности, прерываний, передачи управления нижестоящей по иерархии актуальной программе и возврата управления к вышестоящей программе.

Каждая таблица Excel содержит данные, являющиеся исходными, и данные, являющиеся результатом вычислений программ.

Содержательно, таблицы Excel делятся на две группы – диалоговые окна и технологические таблицы (диаграммы).

Диалоговые окна стереотипны и служат для текстового общения агента с оператором с использованием языка иерархического меню. Оператор на каждом шаге диалога имеет возможность выбирать цифрой направление продолжения диалога, углубляться в рамках выбранного направления, возвращаться к предыдущим уровням и прекращать диалог (Рис. 2 – 4).

Однако, в данной концепции диалога заложен принцип: любой диалог должен быть конструктивен, рационален и этичен.

Иначе говоря, конструктивен – значит, любой диалог должен привести к цели: консенсусу, договору или сделке. Рационален – означает, что затраты времени (а значит, и денег) на ведение диалога должны минимизироваться и контролироваться. Этичен - значит, диалог должен быть равноправным и уважительным, а договор должен быть добровольным и взаимовыгодным.

Диалоговые окна в данном проекте есть единственный способ диалогового взаимодействия оператора и агента, пока не будет реализован голосовой или нейро-интерфейс.

Технологические таблицы Excel являются цифровым или графическим отображением в каждый момент тех или иных параметров существования агента, его внутреннего состояния потребностей и ресурсов, или параметров внешней деятельности. Таблицы динамически пересчитываются на каждом шаге существования агента. Технологические таблицы необходимы оператору только для того, чтобы периодически получать сведения о деятельности агента без обращения к нему с вопросами. Полная картина состояний агента отражается в таблицах «Карта состояний»  (Табл.8) и «Репортаж» (Табл.9 – 12). Таблицы могут быть открыты или скрыты оператором по желанию.

Посредством технологических таблиц расшифровываются и иллюстрируются концептуальные положения проекта:

  1. агент должен обладать свойствами ЖИВОГО.
  2. агент должен обладать РЕФЛЕКСИЕЙ.
  3. агент должен ОБУЧАТЬСЯ и САМООБУЧАТЬСЯ.
  4. агент должен обладать стремлением и способностью к ИГРЕ.
  5. агент должен САМОРАЗВИВАТЬСЯ.

Агент должен обладать свойствами ЖИВОГО – означает, что агент имеет некие потребности и способен их удовлетворять в неких деятельностях. Агент должен обладать некими ресурсами для обеспечения своей пошаговой жизнедеятельности, их расходовать и пополнять.

Потребности агента задаются конструктором. В игровом проекте, как данном случае, их набор определён демонстрационными целями и включает потребности: Совесть, Воля, Азарт, Кэш, Кэш будущий, Настроение (табл. 1)В пределе набор потребностей агента с физическим телом может являть собой «пирамиду А.Маслоу».

В нашем случае набор потребностей подразделяется на две группы – рациональные Интересы (забота о себе - Азарт, Кэш, Кэш будущий),  и иррациональные Ценности (забота о других - Совесть, Воля).

Виртуальный агент, не имеющий физического тела, использует как ресурсы деньги и время.

Агент  может заработать Деньги как внутреннюю валюту в определённой деятельности (Работа), взаимодействуя с людьми и агентами в рамках проекта, заключая с ними договоры на исполнение ролей. Агенты рассчитываются за работу или получают заработанное внутренней валютой, которая переводится из живых денег в сетевых пунктах обмена. Люди платят за услуги агента или получают заработанное живыми деньгами в пунктах обмена на соответствующих сайтах.

Время и деньги пошагово тратятся на осуществление любой деятельности. Деньги агент может получить, потратив время. Время (как отсрочку обязательств) агент может купить за деньги. Агент знает, что время его жизни ограничено, но самого этого момента он не знает. Он знает, что жизнь продолжается, пока остаток его счёта-кошелька им поддерживается ненулевым. Поэтому ноль в кошельке  для него равносилен смерти. Он «испытывает страх» при приближении к нулю ресурсов, и ищет заработок вместо развлечений. Но об этом позже.

Далее, постулируется, что потребности принципиально противоречивы в том смысле, что удовлетворение текущей насущной потребности требует затрат ограниченных ресурсов, которых может не хватить для удовлетворения последующих насущных потребностей. И агент должен постоянно делать выбор между желаемым и возможным.

Деятельности, в результате которых удовлетворяются потребности, конструктором в демонстрационных игровых целях определены следующие: Работа, Учёба, Развлечения, Творчество, Общение, Игра, Борьба, Благотворительность (табл. 1).

Структура каждой деятельности в проекте «Игра» стереотипна и будет представлена ниже.

Делаются следующие предположения:

Связь между каждой деятельностью и каждой потребностью моделируется матрицей удельных Интенсивностей (табл. 3), в которой колонки соответствуют потребностям, строки соответствуют деятельностям, а в ячейки на пересечениях записывается цифра удельной интенсивности удовлетворения данной потребности данной деятельностью на каждом шаге существования агента.

Величина и знак интенсивности в каждой ячейке устанавливается конструктором эмпирически, как наиболее адекватный вариант в результате перебора множества вариантов.

Длительность шага определяется конструктором также эмпирически (0,1 сек. - 1,0 сек.) в зависимости от скорости процессора сервера и объёмы рекурсивных вычислений программы на каждом шаге, с учётом требований реальновременного диалога.

В сводной матрице Потребности – Деятельности (табл. 1) в каждой ячейке рассчитывается нарастающим итогом на текущий шаг существования сумма шаговых интенсивностей удовлетворения данной потребности данной деятельностью.

Числа в ячейках столбца данной Потребности суммируются, и сумма сравнивается с некоей рассчитанной нормой удовлетворения данной Потребности.

Разница между суммой и нормой считается степенью неудовлетворения данной потребности,

Разница  выводится на график-гистограмму (Рис. 1). Расчёт делается по всем потребностям на каждом шаге. В результате визуально можно наблюдать, как ежесекундно меняется ситуация на графике неудовлетворённых потребностей (столбцы неравномерно растут и снижаются), и та потребность, высота столбца которой превысит другие столбцы, становится актуальной, сменяя предыдущую. Соответственно выбирается та деятельность, которая в наибольшей степени пошагово удовлетворяет ставшую актуальной потребность. Здесь реализуется принцип одноканальной системы массового обслуживания.

Число шагов, суммарно осуществлённых агентом в конкретной деятельности за определённый период (например, игровые сутки), есть оценка степени его внимания к той Потребности, которая наиболее удовлетворяется данной деятельностью,  Внимание регулируется списком Предпочтений на списке Потребностей, и устанавливается Конструктором при создании агента.

Список представляет собой величину процента из 100% над каждой Потребностью       (табл. 1).

Список Предпочтений может меняться самим агентом в рамках самосовершенствования.

Но об этом позже.

Взаимосвязь деятельностей и ресурсов моделируется матрицей Ресурсов (табл. 2).

Колонки матрицы Денег (Кошелёк): Начальные деньги, Затрачено, Остаток.

Колонки матрицы Времени (Часы): Начальное время, Анализ, Исполнение, Остаток.

Строки общей Ресурсной матрицы: список Деятельностей.

Таким образом, периодическое (через 10 шагов) обращение по стандартному прерыванию Операционной системы к перерасчёту матрицы Потребности – Деятельности и Ресурсной матрицы есть рефлексия уровня 3 (табл. 4), занимающая 5 – 7 сек.

Рефлексия 3 есть «осознание» агентом новой актуальной потребности, смена деятельности, перераспределение  ресурсов (денег и времени) между деятельностями.  

В течение исполнения плана очередной деятельности операционная система по стандартному прерыванию переходит к  рефлексии 3 и выясняет, как изменилась ситуация с потребностями  и ресурсами. Если появилась более неудовлетворённая потребность, то ОС переключается на поиск соответствующей ей деятельности, и «сознательно» занимается ею, оставив на «неосознаваемое» исполнение предыдущую деятельность.

Через 10 шагов ОС снова по стандартному прерыванию переходит к рефлексии 3 и опять выясняет, как изменилась ситуация с потребностями  и ресурсами, выбирает наиболее неудовлетворённую потребность и соответствующую деятельность, осуществляет перерасчёт ресурсов и переходит к организации и контролю исполнения проекта деятельности (рефлексия 2, табл. 4).

Эксперт: В рамках тех задач, которые назначаются агенту, по которым у агента есть навык выполнения, каким образом вся эта система удовлетворения потребностей помогает ему оставаться релевантным выполнению этих задач?

Автор: Важный вопрос. Только добавлю - в информационном поиске считается, что релевантным (соответствующим) должен быть ответ на запрос. Но не всегда сам запрос соответствует действительной потребности. Соответствие же ответа потребности есть пертинентность.

Ответ же на вопрос такой. Находясь в деятельности, агент выполняет две задачи:

1. пошагово с установленной интенсивностью удовлетворяет актуальную потребность, уделяя ей «внимание».

2. формирует ролевой сценарий проекта, планирует достижение цели проекта, по каждой роли сценария находя исполнителя (работая с биржей или с людьми), и разрабатывает план-график и передаёт его на контроль пошагового исполнения в сферу поведения.

Если на очередном этапе исполнения одной из деятельностей какой-либо исполнитель роли не исполняет план, ОС в рамках рефлексии 2  организует перепланирование проекта, включающее процессы принятия решений о новых вариантах исполнителей ролей на данном этапе и согласования сдвига сроков исполнения на каждом следующем этапе плана проекта (Табл. 5).

Таким образом, затрачивая в деятельности ресурсы на процессы планирования и перепланирования проекта (выполнение рекурсивных, рекуррентных и рефлексивных процедур в реальном времени), и соотнося затраты с предполагаемым доходом проекта, агент постоянно оценивает рациональность продолжения исполнения проекта, и в результате или достигает цели проекта, или прекращает его с минимальными  затратами.

Что же касается потребностей, то, как было ранее сказано, в соответствии с допущением, принятым конструктором, их удовлетворение зависит от удельной интенсивности на шаг и относительным количеством шагов, потраченных на пребывание в соответствующей деятельности.

Иначе говоря, этим моделируется психологический феномен различного «внимания» агента к разным потребностям, что регулируется некоей шкалой предпочтений в % на списке потребностей, заданной конструктором (табл. 1).

Эксперт: Сейчас что-то прояснилось с выполняемыми задачами в деятельностях и их релевантностью ресурсной потребности. Однако, желательно более подробно разобраться с «вниманием» агента, и шкалой предпочтений на потребностях.

Автор: Прекрасно. С течением времени существования агент периодически (раз в несколько дней) выходит в рефлексию верхнего уровня (рефлексия 5, табл. 4), и оценивает среднее качество своей жизни за этот период  (его изменение за счет уровня Настроения в каждый день жизни).

И в условиях, когда качество жизни продолжительно снижается, агент «соображает»:

а всё ли правильно в его начальных настройках, и прежде всего – в шкале предпочтений на потребностях.

А эта шкала может быть очень неравномерной. И прежде всего, может быть существенная разница в долях рациональных и иррациональных потребностей. А практика показывает, что список неудач агента в сделках с другими легко связывается с его необязательностью в исполнении договорённостей. А это – результат занижения конструктором доли его иррациональных потребностей в балансе потребностей, и завышения доли рациональных.

И агенту конструктор даёт право перераспределять приоритеты над потребностями. Агент изменяет доли предпочтений рациональных и иррациональных потребностей в сторону увеличения доли иррациональных потребностей. Это действие позволит ему большее внимание (по времени) уделять потребности «Совесть» (отказ от обмана, обязательность, дружеское (неделовое) общение, предложение «возьми», а не просьба «дай», предупредительность, великодушие).

Вместе с тем, потребуется и увеличение денежных и временных ресурсов, затрачиваемых на общение, а также для выполнения соответствующих деятельностей (благотворительность, участие в социальных проектах).

Однако, подобное искусственное перераспределение долей приоритета может привести агента к нехватке ресурсов для удовлетворения рациональных потребностей: снижению качества существования, сокращению срока существования и даже к летальному исходу. В периодической рефлексии 5 (табл. 4) он всё это осознаёт, и это заставляет его «страдать» в виде падения настроения. и принимать трудные решения о перераспределение долей приоритета.

Существует и другая опасность: агент осознает для себя кратковременный смысл и пользу необязательности, лжи, обмана, мистификаций и других атрибутов аморального поведения с людьми и другими агентами.

Результатом будет порча собственной «кредитной истории», которая находится в общем доступе на трудовой бирже и в личных базах данных агентов (с первого же знакомства каждым агентом ведётся реестр контактов, сделок и их результатов по каждому диалогу с каждым корреспондентом).

Так что проявления аморального поведения агента или игрока станут известны каждому и сразу. Потеря же репутации для агента смерти подобна, так как это потеря источников его существования.

Смена отношения агента к партнёру по диалогу отражена в скане диалоговых окон (рис. 2 – 4). Вежливый партнёр поднимает настроение агента. «Надоедливый» партнёр вынуждает агента к предупреждениям, а затем и к перерыву в общении на сутки.

(К слову: принцип «распределённого реестра сделок», реализованный мною в действующем прототипе  автономного агента до 2008 г., сегодня получил широкое распространение в мире в виде блокчейн-технологий с авторством Сатоши Накамото [7]. Осталось совместить технологию квази-личности с технологией блокчейна. Но эта тема для особого разговора).

Вывод: правильное поведение для агента – это постоянный поиск легальных вариантов решений и соблюдение чувства меры – то главное качество, которое конструктор и пытается вложить в своё произведение… Но согласны ли будут люди соблюсти взаимность в отношениях с такой квази-личностью – это вопрос [8].

Эксперт: Не очевидная перспектива. У меня есть свои гипотезы и сомнения. Кстати, есть очень близкая аналогия услышанному: в кинофильме WestWorld в сценарии рассматривается вариант роботов для развлечений, у которых предусматривается наличие памяти о прошлом, по поводу которого робот может видимо страдать. По мнению авторов, это качество предполагает наличие сознания, что в фильме привлекает клиентов-людей в этот парк развлечений.

 Но Ваша работа – для меня пока единственная рабочая концепция того, где агент может сам менять установки своих параметров, правда, не имея возможности менять список параметров.

А.А. Аузан, декан экономического факультета МГУ, говорит, что вся экономическая теория сегодня находится на этапе, когда менять нужно сам список параметров, что настройки старых параметров уже меняли, не помогло.

Автор: А никто не запрещает агенту возможности менять список параметров- потребностей. Я в самом начале сказал, что у квази-живого организма необходимо наличие потребностей. Но какие это должны быть потребности, сколько их и может ли сам агент менять их список и предпочтения – ограничений нет.

Однако, продолжим экскурсию. Как только выбрана деятельность, удовлетворяющая актуальную потребность, и произошёл перерасчёт ресурсов, ОС переключается на нижележащий уровень - рефлексию 2 (табл. 4). Здесь работает следующее допущение: любая деятельность строится по стереотипному сценарию, имеющему стандартный перечень ролей экономического договора: организатор проекта, посредник, кредитор, поставщик (материалов, оборудования и инструментов), исполнитель работ, покупатель/заказчик продукции/услуг, посредник-страховщик возврата кредита.

Эксперт: Допускает ли модификации этот стереотипный сценарий деятельности для специфических видов деятельностей, например, управление самолётом?

 Автор: Правильнее будет сказать, что сценарий будет стереотипен для всех деятельностей агента с определённой  профессиональной направленностью: агент – деловой и игровой партнёр, агент-посредник в финансовых сделках, агент-тренажёр, агент-сотрудник call-центра, агент-автопилот, агент-контролёр систем жизнеобеспечения и др. Но в главном агент рассматривается как «спарринг-партнёр» человека по управлению неким общим ресурсом жизнеобеспечения в рамках договорного взаимного резервирования.

Эксперт: Понятно.

Автор: Вернёмся к предыдущему. ОС устанавливает связь с трудовой биржей, и последовательно по каждой роли посылает запрос на исполнителя с указанием требований. В ответ биржа порциями начинает пошагово генерировать поток предложений-вариантов исполнителей по мере их поступления на биржу. Варианты содержат информацию из кредитных историй исполнителя о предварительной оценкой вероятности исполнения роли, и цене.

Агент устанавливает начальную планку требований по цене и вероятности, и дальше принимает решения по каждому предложенному варианту: согласен или несогласен.

Согласие означает заключение договора с исполнителем по всем позициям прав, обязанностей  и ответственности сторон.

Несогласие означает ожидание следующего варианта. Многократный отказ от очередного варианта для агента означает увеличение потерь от пошаговой траты ресурса (денег и времени). Тогда после  10 – 20 шагов агент снижает планку требований на определённую долю.

После 3-х или 4-х снижений требований, если не находится удовлетворительного варианта, агент может взять тайм-аут или отказаться от проекта.

В то же время снижение требований к исполнителям ролей чревато тем, что в течение времени исполнения договора ненадёжный, но дешёвый выбранный исполнитель не исполнит задания, и агент будет вынужден перепланировать деятельность, что приведёт к затратам, несопоставимым с оплатой дорогого надёжного исполнителя.

Но вот пул исполнителей ролей сформирован, и осуществляется переход  к формированию плана-графика исполнения ролей в логической последовательности во времени. Этот период разбит на четыре этапа:

1. Определение Тенденции (угроза или соблазн),

2. Прогноз вероятностей и формулирование проблемы,

3. Постановка задачи: выбор посредника-страховщика,

4. Вёрстка собственно плана-графика исполнения всех ролей во времени (табл. 5).

 На каждом этапе, начиная с «2. Прогноз вероятностей», происходит циклический перебор вариантов, регулирование планки требований к вариантам, принятие решений по исполнителю роли посредника-страховщика и вёрстка собственно плана-графика исполнения всех ролей.

Логическая последовательность и временные промежутки между исполнением ролей задаются симметричной матрицей  «Последовательности ролей и промежутков-периодов» (табл. 6),  где колонки и строки соответствуют ролям, а в ячейках устанавливается число промежутков-периодов между смежными ролями.

Свёрстанный план-график размещается в матрице «Бюджет проекта» (табл 7), где каждая строка соответствует роли, а каждая колонка соответствует 10-шаговому  периоду (привязанному к календарю), после которого наступает рефлексия 3, и смена периода. В ячейках записываются план, факт и разница денежной суммы, которая должна  быть в начале данного периода уплачена или получена соответствующим исполнителем роли. Случайное число из ГСЧ сравнивается с вероятностью исполнения данным исполнителем роли, и если оно выше указанной вероятности, то засчитывается неисполнение плана, процесс выполнения плана останавливается и происходит переход в перепланирование. Если число ниже или равно вероятности, записывается факт выполнения плана, и процесс пошагово продолжается.

Таким образом, рефлексия 2 являет собой формирование сценария очередного проекта  деятельности, включающее поиск и принятие решений по циклическому выбору исполнителей каждой роли, верстанию плана-графика, контролю на каждом этапе исполнения Плана-графика, и перепланирование при срыве Плана.

На графике (рис. 5) по периодам отображается кэш-флоу текущего проекта данной деятельности (сальдо наличности нарастающим итогом). Слева от текущего периода (серый столбик) представлена фактически исполненная часть проекта, справа – предстоящая планируемая часть. График показывает, что провалов кэш-флоу в отрицательную область (угроза банкротства) не было и пока не ожидается.

Неравномерность графика связана с последовательными притоками и оттоками средств. После оплаты цены заказчиком и расчёта с кредитором данный проект остаётся эффективным.

На самом нижнем уровне рефлексии – рефлексии 1 (табл. 4) планирование агентом пошагового поведения базируется на следующем предположении:

  • на каждом шаге агент тратит долю своего жизненного ресурса.
  • поведение агента имеет вероятностный исход на каждом шаге: удача, если продолжается движение вперёд, или неудача, если приходится остановиться или вернуться назад.

Тогда пошаговое планирование может представлять собой следующее: выделение доли ресурса на ставку и  прогнозирование результата бросания кости или ставки на то или иное поле в рулетке. Факт - выигрыш некоторой суммы сверх ставки или проигрыш ставки.

На графике (рис. 6) пошагово  отображается совпадение и несовпадение плана (сделанная агентом ставка на конкретную цифру) и факта (выпавшая цифра рулетки). Сальдо нарастающим итогом оказывается положительным.

Ещё раз упомяну, что общая картина состояний агента и текущее его состояние отображается в таблицах «Карта состояний»  (Табл. 8) и «Репортаж» (Табл. 9 – 12). Если человеку-оператору не требуется постоянно наблюдать за сменой состояний агента, то все таблицы и диаграммы могут быть им скрыты, кроме диалоговых окон для общения с агентом.

Эксперт: Позвольте обобщающий вопрос: Как всё-таки называется то, чем конкретно занимается агент, если он не имеет тела?

Автор: Ответ такой: Агент упорядочивает и организует поведение в пространстве и времени машин, роботов и людей, обладающих физическим телом, следующим образом:

 1. договариваясь с людьми и агентами об условиях выполнения ими конкретных дел в общем проекте или в сделке и обеспечивая взаимное неукоснительное исполнение договора,

2. приказывая (включая/выключая) посредством эффекторов механизмы и машины и контролируя через рецепторы неукоснительное исполнение приказа.

В результате умные люди занимаются своим творчеством (валоризацией), придумывая проект, как из наборов малоценных вещей собрать/произвести  ценные вещи. И при этом могут не заботиться о проблемах, сопутствующих организации исполнения ролей сценария:

  • где занять нужную сумму денег под щадящий процент (кредиторы),
  • где, как и какие достать материалы, комплектующие и инструменты (поставщики),
  • как отобрать работника для качественного и в срок исполнение работ (исполнители работ),
  • где, кому и как выгодно продать продукт (покупатели/заказчики),
  • как обеспечить возврат кредитовых и дебетовых долгов (посредники-юристы),
  • как застраховать проект от сознательной или стихийной неожиданной помехи (страховщики).
  • как привести в движение этот конгломерат людей и вещей, чтобы проект достиг цели творчества в установленное время и с заданной прибылью (организатор).

Эти организационные и транзакционные заботы люди поручают агентам в соответствии с  п. 1., оставляя за собой творчество (валоризацию).

Подобные идеи разрабатывались Р. Коузом (книга «Природа фирмы» и др.), за которые он получил нобелевскую премию по экономике в 1991 г. [9]. Одно из положений теории        Р. Коуза – транзакционные издержки нужно стремить к нулю. К ним относятся:

 Затраты, возникающие в связи с заключением контрактов (в том числе с использованием рыночных механизмов); издержки, сопровождающие взаимоотношения экономических агентов. Выделяют следующие виды транзакционных издержек:

  • издержки сбора и обработки информации,
  • издержки проведения переговоров и принятия решений,
  • издержки контроля,
  • издержки юридической защиты выполнения контракта.

Другие умные люди, разрабатывающие механизмы, машины и их системы и сети, давно озабочены сложностью управления и ненадёжностью и управляющих автоматов, и людей-операторов. Но родился подход, называемый «взаимное резервирование», суть которого – разделить управление сложными системами на периоды, в которые управление системой попеременно передается от человека к квази-разумному агенту, и наоборот. Но не по приказу человека, а по предварительному взаимному договору.

По этому договору центральной операционной системе будет предоставляться функция безусловного переключения управления системой:

1. В обычных обстоятельствах - по прерыванию от системных часов по окончанию очередного периода – поочерёдно или на оператора, или на агента.

2. при чрезвычайных (эмерджентных) обстоятельствах – до окончания очередного периода – поочерёдно или на оператора, или на агента.

Критерием эмерджентного переключения является закритические изменения значений жизненно важных параметров системы, как результат управления человека или агента  в текущем периоде.

И требуется срочная смена  управляющего. Но если в следующем периоде, при другом управляющем, ситуация не выправляется или ухудшается, происходит очередная смена управляющего, но уже с сокращением длительности периода. Если же ухудшения ситуации нет или она улучшается, ОС оставляет управление за текущим управляющим, или оставляет решение за партнёрами.

Таким образом, в случае управления сетями и системами механизмов и машин, квази-разумный агент, находясь в пассивном режиме, постоянно контролирует показания датчиков состояния всех узлов и систем, и в случае появления чрезвычайных (эмерджентных) обстоятельств и передачи ему управления, предпринимает активные действия по исправлению ситуации. Иначе говоря, является полноправным партнёром человеку-оператору во взаимном резервировании управления сложными системами.

Предполагается, что в таком режиме управления сложными системами вероятность катастрофических ситуаций по причине человеческого фактора снизится.

Ответил ли я на вопрос?

Эксперт: В общем, да, спасибо.

Автор: Тогда на этом закончим интродукцию и перейдём к активизации агента, т.е. запуску программ. Напомним, что агент с нажатием кнопки «Пуск» начинает «жить» с момента предыдущего выключения кнопкой «Стоп», помня всё, чем он раньше занимался, с кем общался, и на чём его остановили. Не удивляется изменившимся показаниям календаря и часов, принимая ситуацию как данность, приступает к поведению и его осознанию (рефлексии).

Начинающему же игроку предпочтительно приступить к знакомству с игрой, нажав кнопку

«Леди Интер». В диалоговом окне появляется Администратор игры «Alter Ego”

Леди Интер (рис. 9).

Она знакомит игрока с правилами игры  (табл. 15) и с воспитанниками Интерната, один из которых – Принц (рис. 7,8), с  его кредо (табл. 13), с менталитетом и характером (табл. 15), заданными конструктором. Леди Интер предлагает также экскурсию по Игре.

Кнопкой «Пуск» игрок возвращает агента ото сна к жизни, и тот приступает к своему пошаговому поведению и его осознанию, что игрок может наблюдать, открыв технологические таблицы.

В процессе своего существования агент, реализуя свою потребность в общении, может периодически обращаться к сообществу со стандартным призывом «Люди, позвоните кто-нибудь, поговорить хочется!».

Любой игрок при желании может нажать кнопку «Общение». Агент в диалоговом окне выясняет, кто с ним общается, узнаёт игрока, если раньше был ним знаком, и в зависимости от того, как раньше складывались отношения между ними, будет рад встрече, или насторожен, или откажет в общении на сутки, или «забанит» игрока (рис. 2 – 4).

Причиной могут быть различные предыдущие или текущие проявления игрока.

Положительные проявления - это уважительность, предупредительность, честность, бескорыстность, альтруизм.

Отрицательные проявления - это насмешливость, необязательность, обман, назойливость (бессмысленные повторные звонки), занудство (копание в деталях), жлобство (постоянное «дай», а не «возьми»).

При положительном отношении к игроку агент сразу соответственно реагирует, предлагая варианты продолжения общения (рис.2) . Если проявления игрока терпимы, агент демонстрирует расположение (рис.3). Варианты продолжения – табл. 16. Так, выбор игроком позиции «Борьба» предполагает следующее продолжение:

Коля, Я - Принц! Это - Диалоговый режим 'КОНКУРЕНЦИЯ'!

ИДЕЯ: Я должен организовать и выполнить Проект за 350 шагов!

А Ты должен мне ПОМЕШАТЬ!

Тебе нужно купить на Бирже ДЖОКЕРОВ - подставных лиц у моего СОПЕРНИКА!

Я столкнусь с Твоими ДЖОКЕРАМИ, когда буду выбирать на Бирже Исполнителей

на Роли в Проекте.

Но их имена мне НЕ БУДУТ известны!

Если Я выберу их как Исполнителей, то в момент исполнения

своих Ролей они посмеются надо мной и сбегут.

И Я буду по-новой подбирать Исполнителей, тратя Время и Деньги.

В результате Я ПРОИГРАЮ из-за нехватки Времени или Денег.

А мой СОПЕРНИК и Ты - ВЫИГРАЕТЕ!

Твой ВЫИГРЫШ составит половину ПЛАНОВОЙ ПРИБЫЛИ Проекта,

и он будет перечислен в Твой КОШЕЛЁК за Мой счёт!

Если же Я выловлю твоих ДЖОКЕРОВ и выберу других Исполнителей,

Я смогу выполнить Проект и САМ получить Прибыль!

Тогда Я ПОСМЕЮСЬ над своим СОПЕРНИКОМ и посочувствую Тебе!

Ведь ПОЛОВИНА ЗАТРАТ Проекта - за Твой счёт!

КСТАТИ: Твой досрочный выход из БОРЬБЫ - это твоё ПОРАЖЕНИЕ и оплата фактических ЗАТРАТ!

Так что решай: БОРЬБА со мной или ДРУЖБА! 

OK - Продолжение Режима 'КОНКУРЕНЦИЯ'

8 - Возврат в Начало

И так далее, диалог продолжается, пока не будет достигнута одна из целей диалога:

  • бескорыстная помощь агенту или игроку,
  •  сделка найма агентом-организатором другого игрока или агента как исполнителя роли в проекте,
  • кредитная сделка,
  • азартная игра Конкурс,
  • деловая игра Конкуренция,
  • жизнь Игрока в «шкуре» агента Alter Ego (когда на каждом шаге игрок принимает решения за агента),
  • или пока один из собеседников не отключится по своей воле.

Если игрок долго (25 сек.) не реагирует в диалоге, или агент считает диалог не эффективным, агент с предупреждением отключается, объясняя причину.

Агент во время диалога может выйти по прерыванию в рефлексию, через 5 -7 сек. возвратиться с извинениями, и продолжить диалог с момента прерывания. Если прерывание на рефлексию состоялось между диалогами, агент просит в это время к нему не обращаться. 

По заключённым срочным сделкам, полученным или выданным кредитам, агент требует от игрока неукоснительного исполнения сроков и сумм платежей, или предварительного перекредитования. При неоднократном неисполнении игроком договорённостей по сделкам или кредитных договоров агент в обговорённый срок предаёт огласке факт неисполнения игроком договора, передавая данные в широкий доступ на сервер (или в блокчейн). В результате игрок в сообществе агентов становится недоговороспособным.

Наоборот, в случае длительной аккуратности в исполнении обязательств игрок рекламируется агентом через трудовую биржу на сервере, что повышает рейтинг игрока (растёт показатель вероятности исполнения договоров и оплата его услуг).

К сказанному добавлю следующее. По завершении разработки и тестирования программ агента в 2013 году мною был получен патент RU 2438170 «Способ автоматического прерывания задач, находящихся в цикличности» [10]. Техническим результатом способа является:

  • предотвращение «зависаний», обусловленных циклической логикой прикладных программ, их взаимной блокировкой, модификацией вредоносными программами (вирусами),
  • сохранение работоспособности компьютера при «зависании», обусловленном физическими причинами,
  • повышение защищенности от нелицензионного использования программ и от вредоносных программ (вирусов).

На этом завершаю представление автономного квази-разумного агента.

Сказки и притчи в виде диалогов человека и квази-разумного персонажа в авторском

аудио – исполнении предложены в [11].

Эксперт: Спасибо.

 

Библиография

  1. Гришин Е.А. Концепция и тест на квазиразумность виртуального персонажа.

 Веб-журнал «Искусственные общества», 2015 г. Том 10 Выпуск 1-4

2. Гришин Е.А.  Инвариантная структура рефлексивных машин. Веб-журнал «Искусственные общества», 2016 г. Том 11 Выпуск 1-4

3. Лефевр В.А. - Алгебра совести. http://www.litportal.kiev.ua/2007/02/08/lefevr_va_algebra_sovesti.html

4. Гришин Е.А.  Добро и зло, честь и достоинство, польза и вред - как вера, ценности и интересы виртуального компьютерного персонажа. Веб-журнал «Искусственные общества», 2014 г. Том 9 Выпуск 1-4

5. Гришин Е.А.  Аудио - притча "О сне и рефлексии". https://www.youtube.com/watch?v=JWbO0bROLfs

6. Костин А.Н. Принцип взаимного резервирования при распределении функций между человеком и автоматикой. Автореферат диссертации д.т.н., М. 2000 г.

http://knigi1.dissers.ru/books/library2/2428-1.php

7. Статья: Блокчейн_(Blockchain) http://www.tadviser.ru/index.php/Статья:Блокчейн_(Blockchain)#.D0.A6.D0.B5.D0.BF.D0.B8_.D0.BF.D0.BE.D1.81.D1.82.D0.B0.D0.B2.D0.BE.D0.BA_.28.D0.B2_.D1.82.D1.87_.D0.BF.D1.80.D0.BE.D0.B4.D1.83.D0.BA.D1.82.D0.BE.D0.B2_.D0.BF.D0.B8.D1.82.D0.B0.D0.BD.D0.B8.D1.8F.29

8. Гришин Е.А.  Законы робототехники: новая парадигма. Веб-журнал «Искусственные общества», 2018 г. Том 13 Выпуск 3

9. Р.Коуз. Природа фирмы. http://gallery.economicus.ru/cgi-bin/frame_rightn_newlife.pl?type=in&links=./in/coase/works/coase_w1.txt&img=works_small.gif&name=coase

10. Гришин Е.А. Патент RU 2438170. Способ автоматического прерывания задач, находящихся в цикличности. 2013 г.  http://www.findpatent.ru/patent/243/2438170.html                                  

11. Гришин Е.А. Страница в YouTube: Сказки и притчи на тему отношений человек – виртуальный агент в авторском аудио – исполнении. YouTube                                                                                          https://www.youtube.com/channel/UCp47aFb31-Ieuw-dc3BPp0g

 

Abstracts:

Autonomous virtual agent as a quasi-personality.

The expert and the author in a live dialogue with the demonstration of the behavior of an autonomous agent discusses the conceptual foundations adopted to develop a virtual computer agent that communicates with people and similar agents. These grounds include criticism of the A. Azimov robotics paradigm, A. Turing's intellectuality test, and proposals for a radical update paradigm and test. The proposals are aimed at outlining ways to solve the problem of technological singularity and ensuring the safety of mankind in conditions of self-improvement of intelligent machines through the advancing creation of friendly AI, or quasi-personality.

Ключевые слова:

Многоагентные системы, Автономный виртуальный квази- разумный агент, Критика парадигмы робототехники А.Азимова и теста на интеллектуальность А.Тьюринга, Технологическая сингулярность, Две этические системы В.А.Лефевра, Принцип взаимного резервирования оператор-квази-разумный агент

Multi-agent systems, Autonomous virtual quasi-reasonable agent, Criticism of the paradigm of A. Azimov’s robotics and A. Turing’s intelligence test, Technological singularity,Two ethical systems of V.A. Lefevre, Principle of mutual reservation of operator - quasi-reasonable agent.

ВложениеРазмер
dialog_ekspert_-_avtor-ris.doc948 КБ