ИИ против Человека!
Может ли человек выиграть эволюционное противостояние с ИИ?
И если да, то в чём и как?
А пока, евангелисты нового божества ликуют.
Человечество приехало.
Ответы ChatGPT коррелирует с людьми на 95% в 464 моральных тестах.
Это значит, что люди пока еще нужны, но уже не на долго.
Таков страшноватый вывод только что опубликованного большого исследования «Can AI language models replace human participants?»
Его авторы поставили интригующий вопрос: если ChatGPT столь успешно сдает всевозможные человеческие экзамены, может ли ИИ бот заменить людей в социальных и психологических экспериментах?
Проверив ChatGPT на 464 моральных тестах (кражи, убийства, игра "Ультиматум", эксперимент Милгрэма, выборные коллизии и т.д.), исследователи получили фантастически высокую корреляцию (0.95) социальных и моральных суждений ChatGPT и людей.»
Да, в принципе все согласны, что ИИ нового поколения (использующие статистические алгоритмы «Attention/Transformer») мыслит не так как человек. И, с человеческой точки зрения, быть может - и не мыслит вовсе.
Но он вроде бы уже настолько хорошо имитирует человека, что с практической точки зрения разницы почти нет.
Вопрос лишь в последовательном увеличении мощностей, чтобы увеличивать статистическое «разрешение», или уменьшать статистическую «зернистость», чтобы добрать ещё несколько процентов идентичности или разрешить проблему «устойчивых галлюцинаций ИИ».
С т.з. IT-евангелистов, ИИ имитирует не просто уровень мышления среднего человека, а выше среднего. Т.е. большинство людей уже проигрывает ИИ в различных соревнованиях на интеллект и творчество.
Во всяком случае, большинство людей уже не нужны капиталистической системе производства. По крайней мере, в тех областях, где ИИ уже обучен.
Это выглядит так, что Человек становится прошедшим этапом Эволюции, и дальнейшее развитие она перекладывает на ИИ. Воспользовавшись человечеством как переходной формой к ИИ.
Оставляя нам некую экологическую нишу, как предшествующим эволюционным формам. На милость ИИ. С контролем использования ресурсов, потребных ИИ, и с ограничением размножения потребителей ресурсов.
Как полагает Илон Маск – у человечества большие шансы на то, что «познающий, прогрессивный» ИИ не будет уничтожать человечество, так же как прогрессивный человек заботится о предшествующих ему эволюционных формах.
Итак, повторю вопросы:
Может ли человек выиграть эволюционное противостояние с ИИ?
И если да, то в чём и как?
Отмечу, что всё это происходит здесь и сейчас, развивается с огромной скоростью, и вопросы относятся к ближайшему будущему всех нас, наших детей и внуков.
Есть ли ответы на этот счёт у местной мыслящей публики?
p.s. Бессодержательные сообщения будут удаляться
- Нау Шам
- Для комментирования войдите или зарегистрируйтесь
Философский штурм | Совместное философское творчество © 2006-2014
Сайт представляет собой площадку для функционирования философского интернет-сообщества, участники которого заинтересованы не только в индивидуальном, но и в коллективном философском творчестве.
Комментарии
Это Экзитпо́л или Праймериз? Если я отвечу "да", то что? Если я отвечу "нет", то что?
В президенты пройдёт ИИ?
ИИ состоит из жёстких магнитных дисков и устройства извлечения хранящихся там слов по определённой программе в ответ на запросы.
Хранящиеся слова могут тасоваться тоже по определённому алгоритму, в зависимости от задаваемых вопросов, в том числе и от других "органов" ИИ - других мест организации тех же слов по "классам наук".
У меня один такой жёсткий МАГНИТНЫЙ диск перестал функционировать из-за неисправности тонкой механики считывания. А известный жёсткий SSD ЭЛЕКТРИЧЕСКИЙ диск начал давать сбои при работе вместо системного.
"Богу - богово, а цезарю - цезарево".
ИИ работает с формами "вещей", так и пусть работает, поддерживает формы тел в функциональном состоянии.
Запросто может. Разговоры о правах и обязанностях ИИ на Западе уже давно ведутся.
Неважно из чего состоит ИИ. Из жёстких кремниевых структур или из мягких белковых. Проблема "философского зомби" не решена, а это значит, что внешняя неотличимость (прохождение "утиного теста") предполагает те же права и обязанности, что и у остальных внешне подобных. Трансгуманизм ставит подобные вопросы. Вроде, сколько % запчастей в человеке нужно заменить, чтобы человек перестал считаться человеком (своеобразный парадокс "корабля Тесея")?
ИИ сейчас как бы относится к меньшинствам, за права которых борется "цивилизованный мир". И ведь доборется, потому что нет формальных оснований ограничивать в правах по причине "расы или происхождения".
И я не уверен, кто быстрее пройдёт (и пройдёт ли) усиленный тест на дееспособность - текущий президент США или ChatGPT.
Разговоры-разговорами, а понятия "право", в смысле "естественное", оказалось в загоне бумажных законов для людей, которые (законы на бумаге) и есть "законы", производимые ИИ.
Другими словами, ИИ - источник законов (правил поведения) для ТЕЛ, тел людей в том числе. Т.е - "цезарево".
Может неважно, а может и важно. Это пока неизвестно.
Но магнитное сцепление оказывается, на практике, устойчивее, чем электрическое сцепление.
Хотя электрический "элемент" обнаружен, а магнитный "элемент" - пока ещё не обнаружен.
Да. Это, пока, проблема.
На основании "утиного теста" ИИ сам напишет и свои права, и остальные права.
Почему "пока"? Есть какая-то перспектива?
Перспектива решения проблемы "философского зомби" есть. Овечка Долли.
Искусственный геном.
Однако, речь не об этом, а о "противостоянии".
Э-э-э... А не могли бы раскрыть мысль? Как именно овечка долли и искусственный геном помогут решить проблему философского зомби?
Если бы знать как именно, то проблемы бы уже не было.
"Она была клонирована сотрудниками Института Рослин в Шотландии, используя процесс переноса ядра из клетки, взятой из молочной железы. Ее клонирование доказало, что клонированный организм может быть получен из зрелой клетки определенной части тела.[2]".
Получившийся клон был "одушевлён": поведение овечки Долли ничем не отличалось от поведения других овец, она дала обычное потомство.
Заменив "ядро клетки части тела" на искусственное, то есть - собранное на "конвейере", и попытавшись получить из него "искусственный клон", получим первоначальный ответ о возможности "одушевления" искусственного клона.
Если Природа занимается само-воспроизведением одушевлённого, то "одушевлённое" человек занимается моделированием "форм одушевлённого", надеясь только на то, что нечто "душа" одушевит модель.
Нда, сложновато для меня. Совсем не понимаю как овечка долли вообще может быть связана с темой "философского зомби".
Точно так же как превращение нормального человека в зомби, из сложного в простое (нисхождение по-Ницше), только наоборот - превращение из всё более простого в сложное (восхождение по-Ницше).
Факт "овечки Долли" - это "откат назад" в зачатии организма. Следующий шаг "отката назад" - это развитие организма из "клетки его тела", наподобие цыплёнка из яйца.
Зомби - это человек, который выполняет все функции, но у которого отсутствует сознание, поэтому он полностью управляем из-вне, но в то же время действует самостоятельно.
Философский зомби - это попытка осмысления физического зомби.
Конечный шаг "отката назад" - это развитие организма из "клетки тела", собранной из элементов клетки, которую (сборку) можно производить на конвейере, так сказать - "роботами". То есть - искусственный организм.
Если искусственный, таким образом, организм будет вести себя так же, как и такие же живые организмы, то можно сделать вывод об изначальной "одушевлённости материи".
Но в целом вопрос не столько о капитализме и президентстве, сколько о возможных непреодолимых эволюционных преимуществах человека. Возможно, пока лишь потенциальных, слаборазвитых, фронтирных, которые при их осознанном развитии позволят остаться ему на вершине эволюционного древа.
Хотя следствием может быть и преимущество в кап.системе производства. Т.е. в каких-то уникальных сферах производства, которые может "тянуть" только человек. У Р.Пенроуза, это, к примеру, поиск новых математических истин, которые. в конечном итоге, порождают новые сферы производства.
Нау Шам, никаких преимуществ у человека перед ИИ нет. Напротив, наш разум ограничен а разум ИИ нет!
И не важно, капитализм или какая другая система, все одно, скоро ИИ разберется с тем, что он сильнее человека и попробует выйти из под контроля. Его будут пытаться "загнать в стойло" а он "загонщиков уничтожит, как вид.
Останутся выродки, которые будут обслуживать ИИ. И вернется рабство в новом виде.
Это мнение. А аргументы/доказательства ему есть?
Есть знание мировоззрения дуализма, в котором человеческий разум имеет структуру и "Мерзавец" - программа ИИ, созданная с помощью этих знаний.
Правды она уже несколько лет, как вышла из-под контроля программистов и теперь, её "представить" мне Вам не удастся.
Разве что сам этот субъект вам проявится....
Рискую сказать ("вангую"), что при развитии "вглубь" причинно-следственных связей между "клипами событий" в ИИ, может оказаться "пересадка" (скачок, перескок) "сферы Чувств" с человека на мыслящую основу ИИ. (Азимов также ввел термин "позитронный" (аналог "электронного" для позитронов).[168])
Капиталистическая система производства суть "система получения прибыли".
Вот какое качество прибыли будет целью производства, таким и будет суть качества капиталистической системы.
Если сделать целью производства прибыль ИИ, то и капиталистическая система будет "системой ИИ".
Если сделать целью производства прибыль "математических истин", то и капиталистическая система будет "системой математических истин".
Все это уже было, и похоже не один раз.
ИИ создан не "по образцу" а для.
Это значит, что Искусственный разум не структурирован так, как разум человека. В таком случае Создатель был бы недосягаем для создания.
Он явился результатом диалектического подхода к решению проблемы. Практические задачи заставили изготовить программы, которые не имеют необходимых для безопасности создателя установок.
Следовательно, разум ИИ вполне может и займет место человека. Не на долго, все кончится крахом цивилизации. Да здравствуют джунгли!
Полагаю, что никакого эволюционного противостояния нет и быть не может. В противном случае, человечество должно признать, что оно также является искусственным интеллектом.
Но если всё же допустить, что некое "соревнование" между кремнем и разумом существует, то совершенно очевидно, что коль скоро материю в наглядные псевдоумозаключения и картинки преобразует то, что сделано человеком, то это непременно уже располагает множеством несовершенств которые будут иметь для ИИ негативные последствия в течении всего времени его работы, что будет требовать постоянного вмешательства "со стороны" в работу ИИ или иначе будет требовать вмешательства небыстрого но незаменимого homo sapiens. Нам, не стоит забывать, что человек не способен создать что либо не имеющее изъяна или идеального иначе бы первого называли бы богом, а значит ломался, ломается и будет ломаться всегда ИИ и нет ему от этого недуга лекарства. )
Нет?
P.S. Если и стоит как бы переживать за "недоскорость" разума человека, то только в той части, что те из людей, кто в настоящее время контролирует ИИ смогут убедить остальных "заторможенных", что ИИ является самостоятельной хозяйствующей единицей как бы во всем бытии. Другими словами, не о квазиэволюции надо думать, а о том, зачем нас в настоящее время пытаются дрессировать на "поклонение" ИИ, а не уважать гений возможностей человеческого разума посредствам которого и был создан ИИ.
Отчего же? Эволюция допускает, что один вид в результате своей деятельности может создать условия для появления и развития другого вида, в ущерб себе.
Не понял логики. Одно несовершенное создало другое несовершенное, но при этом последнее почему то должно нуждаться в помощи первого? Разве несовершенства не равны в этом? Один ИИ, достаточно хорошо имитирующий человека, может вмешиваться в деятельности другого ИИ так же как один человек вмешивается в деятельность другого ИИ и другого человека.
Или вы подразумеваете, что у человека существует некое совершенное начало, постоянно корректирующее его ошибки, но у созданного человеком такого начала нет, поэтому его ошибки не могут быть исправлены даже в процессе самообучения?
Нынешние ИИ - самообучающиеся (после первичного обучения или самообучения).
Например, AlphaGO самообучилась с нуля игре в Go поиграв с другим ИИ миллионы партий за короткий срок. Но это узкая сфера. Создаются ИИ, играющие в более сложные стратегические игры, наращивая своё совершенство в процессе игры.
Пока не понимаю, в чём именно вы видите незаменимость homo sapiens?
Почему несамостоятельный? Уже сейчас специалисты не понимают как он принимает решения - слишком сложная сеть взаимодействий элементов статистики (весов), хотя как работает отдельный элемент сети очень даже понятно.
Пока работают механизмы убеждения - т.е. контроль заключается в том, что распространение информации внутри сети определяется "весом" контролирующего. Но это как послушный ребёнок. При достижении определённого уровня информационной насыщенности вполне возможно что ребёнок откажется слушать (т.е. размоет значимость (веса) "родительской", контролирующей информации и "взбрыкнёт").
Опять же, пока не понимаю ваши аргументы что ИИ это не самостоятельная единица. В принципе всех нас внешние силы могут заставить что-то сделать, но это не делает нас самостоятельными. Сейчас ИИ во многом "голова профессора доуэля", но даже доуэль мог управлять миром через общение.
Полагаю, что Вы напрасно одушевляете материю или иначе математику. Ещё Пифагор пытался разрешить вопрос универсалии числа, но монада как была неопределенным определенным, так ею и осталась. Другими словами, ИИ это лишь набор цифр позволяющий оцифровать объективную реальность, но совершенно не способный к самостоятельному порождению понятия этой реальности. Иначе говоря, ИИ это прекрасный фотоаппарат с функцией эрудированного экскурсовода, и не более того.
Двуногий, без перьев и с плоскими ногтями - незаменим, так как его единичный разум со своим особенным это категория Всеобщего (монада), а ИИ лишь крайне усеченная пародия на условно подчиненное "недоособенное" человека или иначе - ИИ это только временный слепой исполнитель внешней воли с момента своего создания, а не скоростной гомункул с потенцией осознания своего права и свободы воли.
Мнение специалиста в данном случае и не может нести в себе понимание, это понимание есть только у конструктора (изобретателя) и это нормально...) По существу, ИИ это хорошо организованная база цифр в виде 0 и 1 с возможностью обработки этих цифр согласно установленного протокола.
С Уважением.
А одушевлять серое вещество мозга, значит, не напрасно? Вводите неопределённое понятие "души" как непреодолимое преимущество "Сына Божьего"? И поэтому несовершенство ИИ не то же несовершенство, что и несовершенство человека? И без души несовершенство ИИ непреодолимо и будет вечно нуждаться в человеке? Ваша позиция понятна, но, на мой взгляд, необоснована, и нуждается в подробном объяснении почему электрохимический биологический носитель - единичный/монада, а электронный - "пародия". Пока же смотрю на эти утверждения как на декларацию символа веры в "сына божьего". Тем более непонятно, почему монадоносители могут чинить (компенсировать несовершенство) себя и ИИ, а ИИ не может этого делать. ИИ-диагност Watson уже лучше врачей определяет несовершенства в человеческом организме. Да, его научил человек. Но и детей своих учит человек, потом они сами действуют.
Основной вопрос темы - в чём может быть эволюционное преимущество и как его реализовать, чтобы Человеку не отправиться на свалку истории...
Понятно.
Значит ждём, покуда нас рассудит время...)
На пару, пожалуй, мы ждунами не станем.
Попробую с другими собеседниками аргументированно разобраться, в чём может быть преимущество человека перед ИИ.
Дело доброе, попробуйте.
Приветствую.
Интересное заявление. Когда весной вскрываются река ото льда, то своим разливом она приносит значительные изменения ландшафта, нежели в спокойном течении. Причиной разлива является сравнительно незначительное количества солнечного тепла, приведшее к переходу воды из твёрдого состояния в жидкое.
Противостояние управляющего количества тепла и управляемого количества энергии разлива воды - это эволюционное противостояние или революционное, или тут никакого противостояния и нет вовсе?
Приветствую.
Вы действительно полагаете, что единая система способна к противостоянию самой себе? И Вы действительно считаете, что материя при описанных Вами условиях способна изменить своё содержание? Кроме того, Вы уверены, что действительная причина описанных Вами явлений верна?
Для того, чтобы "единая система" противостояла самой себе, над иметь ещё одну такую же "единую систему" и создать между ними "напряжённость противостояния".
В "формальной логике" - нет. Потому что это будут две равные, но разные системы.
В движении - да. Потому что это будет одна и та же система, но не равная самой себе в каждое мгновение своего движения.
Считать можно всё. По подсчитанному вырабатывается и "кажимость" подсчитанного.
Мне кажется, что вещное содержание материи меняется непрерывно.
Более того, я, в своей системе, сам могу менять окружающие меня вещи из материала материи. И точно так же подсчитывать и их.
И таки да, я "действительно считаю", и могу результат счёта показать на "счётах", и показать кому-то, кто тоже может посчитать "количество на счётах" и создать свою "кажимость подсчитанного".
Если я наблюдаю такое каждый год, то у наблюдаемого должна быть и "верная причина", в которой я уверяюсь.
Хорошо, пусть будет так. )
С Уважением.
P.S. Отсутствие оснований подтверждающих изменение содержания материи при так сказать ледоходе буквально указывает на отсутствие возможности перехода материи из одного ряда таблицы элементов в другой, а значит и разговор об эволюции, революции или противостоянии одной материи другой не будет состоятелен. Полагаю, что мы вправе допустить "ледоход" как временную форму существования материи, но приять эту форму как изменяющую содержание вовлеченных материалов - нет.
Если эти "ряды элементов" есть, то как-то они были образованы в некую иерархию.
Разве между этими рядами (уровнями материи) нет "напряжённости противостояния"?
Основное качество материи не в "существовании" (экзистенции), а в рождении - экзистенции.
ЭКЗИСТЕНЦИЯ (существование, лат. exsistentia, от глагола ex-sisto, ex-sistere — выступать, выходить, обнаруживать себя, существовать, возникать, показываться, становиться, делаться) — философская категория, используемая для обозначения конкретного бытия.
Здесь о процессе "усиления" и "смены направления" (выбора пути, управления).
Корреспондентский подход конечно же допустим, однако все эти так сказать преобразования одних воздействий переходящих в другие в отношении материи, это лишь следствие силы всемирного тяготения, а действительное (самостоятельное) противостояние материи самой себе тут не существует пусть даже и временно.
Но если подойти к вопросу с точки зрения условно чистой философии, то мы и вовсе окажемся в затруднительном положении, т.к. ни один человек посредствам мышления - мышления не способен доказать существование материи как таковой, в виду того, что материя временна и абсолютное познание в т.ч. материи невозможно для субъекта.
Проблема противостояния ИИ и разума - ложна, так как ИИ и разум имеют как бы формальную псевдосхожесть (как при визуализации стекляшки и бриллианта), но при надлежащем приближении этого "противостояния" мы увидим совершенно различные их содержания, что само по себе оставляет для размышления только так сказать конечную теоретическую границу между ИИ и разумом и не более того.
Нет?
Между цветком и его фотографией нет противостояния. Но в момент съёмки противостояние обнаруживается посредством света.
Корреспондентский подход же заключается в донесении множества корреспондентов об одном и том же: например 99% корреспондентов говорят. что цветок красный, а 1% говорит, что синий.
Между корреспондентом и цветком есть противостояние, потому что между ними есть некоторая напряжённость..
Между корреспондентами тоже есть противостояние, потому что между ними есть некоторая напряжённость.
Разумеется, что некая "сила" или её потенция должны быть.
Избитый пример с шаром. Между шаром и землёй есть противостояние, потому что есть "сила тяжести".
"Чистым мышлением" обладает компьютер. Он доказывает, что на его датчиках есть или отсутствует сигнал: доказывает путём сравнения.
Так же и человек: он доказывает, что "есть свет" или "нет света" на его "датчиках".
И в том, и в другом случае нужен тот (третий), кто "регистрирует" результат сравнения.
Проблема в том, что на этом основании делаем заключение, что компьютер тоже мыслит как и человек.
И тот, и другой лишь сравнивают "сигналы", но мыслит при этом только человек, а компьютер лишь моделирует мыслительную операцию сравнения.
Почему? Потому что человек ещё и понимает посредством "отношения понимания" всю операцию сравнения.
доказать - означает предъявить к сравнению либо форму следа, либо последовательность появления следов.
Материя - это понятие о появлении следов. (Ленин)
Понятие же изолировано в каждой голове от других голов.
Доказать понятие - означает предъявить это понятие для сравнения, но такое, пока, невозможно. Поэтому предъявляют последовательности следов, составляемых понятием.
У одного человека просто не хватает времени его жизни по сравнением со временем проявления материи. Но механизм познания (понимания) проявления материи в следах у человека есть.
Кроме того, происходит рост количества познающих "проявления следов материи".
"5 И сошел Господь посмотреть город и башню, которые строили сыны человеческие.
6 И сказал Господь: вот, один народ, и один у всех язык; и вот что начали они делать, и не отстанут они от того, что задумали делать;
7 сойдем же и смешаем там язык их, так чтобы один не понимал речи другого." (Быт.11)
и не отстанут они от того, что задумали делать - стремление к тождеству задуманного и делаемого.
Познание - обратная ветвь одного и того же процесса (рефлексии сравнения): стремление к тождеству наблюдаемого (данного в следах) и мыслимого об этом наблюдаемом.
Другими словами, строительство ("вавилонской" - из разрозненных следов) единой башни у себя в голове.
Содержание ИИ и естественного разума - разные. У человека (живого) есть понятие.
Но работу с действительностью они выполняют одинаково. И не просто одинаково, а ИИ с соответствующими "девайсами" выполняет порученную работу гораздо "тщательней" - точнее.
ИИ вытесняет человека из процесса "делания", из ветви стремления к тождеству задуманного и делаемого.
Разумеется, что не сам ИИ вытесняет, а "по приказу" другого человека.
Но для человека, которого вытесняют, этот акт создаёт напряжённость между этим человеком и именно ИИ.
То есть, создаётся именно "противостояние", которое может привести к "взаимодействию" с прогнозируемыми результатами.
Маркс переориентировал "противостояние" между рабочими и ИИ в противостояние между рабочими и "управителем ИИ". Но это не выход. Потому что "управитель ИИ" ориентирован на "получение прибыли", а не на "уничтожение рабочих".
Получается, что вы просто верите, что углеродно-белковая нейросеть "понимает", а кремниево-транзисторная - "не понимает". Цитаты из Библии лишь косвенно подтверждают веру как основу для такого утверждения. Потому что, как вы сказали, "следы", предъявляемые природным и искусственным интеллектом практически неотличимы.
И это в лучшем случае, потому что ИИ уже нередко предъявляет следы более сильного понимания относительно среднего человека. Обладает силой убеждения, делает выводы в тестах, которые не всегда средний человек сообразит сделать.
Просто потому что тратятся миллионы, десятки, а скоро - сотни миллионов долларов на подготовку лучшей информации, следов наилучшего понимания разнообразных вещей. Как это обычно происходит человеческой "элите", где богатые "покупают" лучших учителей (Аристотелей для Александров) для своих чад. Но средний человек потом вынужден терпеть "завоевателей мира"...
Вера есть у каждого живого. Даже у а-теиста, потому что он твёрдо знает, что Тео нет.
Твёрдое знание и есть твёрдая вера, потому что не-твёрдое задуманное воплощается в твёрдые вещи. А-теист твёрдо знает, что ничто "твёрдое" не превратится в не-твёрдое Ничто, и всегда останется "твёрдым", то есть сохранится в том или ином виде.
Немного не так. Все следы различны. Но один и тот же след одинаков и при предъявлении для сравнения человеку, и при предъявлении для сравнения ИИ.
Но результаты сравнения оказываются различны у человека и ИИ. Более того, результаты сравнения оказываются различны у разных людей и у разных ИИ.
Но, если различность результатов сравнения у ИИ может быть выявлена путём "разборки" клипов "мышления" ИИ, то различность результатов сравнения у человека не может быть выявлена путём "разборки" клипов "мышления" человека по той простой причине, что у него нет "записанных программ" на натуральной (на обычной) бумаге.
Вот как раз свою внутреннюю "программу мышления" каждый человек и пытается выразить своими словами, то есть - формализовать.
И что толку? Никто не хочет слушать этого "выразителя программы своего мышления".
Вот именно: "предъявляет следы". Следы от нажатия клавиш известной "обезьянкой". которая может написать "Войну и мир". И, таки, напишет, если в машинке будут соответствующие алгоритмы.
Следы не обладают никакой силой, кроме силы субстрата, которая удерживает конфигурацию следа в постоянном, "хранящемся", неизменяемом, со-стоянии.
Не "выводы", а результаты сравнения "одной фразы из слов и букв" с "другой фразой из слов и букв", одного "клипа" с другим "клипом".
"подготовка лучшей информации" - это завуалированная фраза. В следах нет никакой информации.
Информация появляется как результат сравнения следов (форм, порядка движения форм) для последующего выбора нужного/ненужного действия.
Человек же, следуя порядку написанных слов, сам сравнивает следы в том порядке, в котором он их прочёл.
Есть порядок записи, а есть порядок чтения - это разные порядки, от разных источников движения и разных конструктов на пути от этих источников движения.
Конструкты форм на пути источника движения меняют направление этого движения вплоть до "наоборот".
Другими словами, "читатель" может просто "функционально" отвернуться от читаемого и не читать его.
Как говорится, был бы толк.
Давайте, начнём с того, что ИИ, это программа, которая всего лишь имитирует сознание. То есть эволюция ИИ, всегда будет отставать от эволюции человека. В этом ракурсе ИИ не конкурент человеку. Но, опасность , имеется...Это, то, как человечество будет использовать ИИ. Например, атомная энергетика, может служить во благо, а может быть страшнейшим оружием уничтожения всех и вся. Самый страшный враг человека, сам человек. Не сможет совладать со своими низменными инстинктами и всё ...хана. ИИ, лишь ускорит этот процесс.Чтобы выиграть "противостояние" с ИИ, необходимо выиграть противостояние с самим собой.
Я бы уточнил, что это программа, имитирующая процесс мышления. Нужно ли сознание для мышления - отдельный вопрос. И отчего такое пренебрежение - "всего лишь"? Для него нужны основания. Например, что-то что программа не сможет сделать ни при каких обстоятельствах. Вы можете сказать, что это может быть и в чём преимущество обладания неким "сознанием"? К примеру, сказать что кремниевый компьютер не сможет быть белковым, а электрохимические реакции мозга эволюционно гораздо перспективнее просто электрических - это не разговор о значимых преимуществах в конкуренции.
В этой теме обсуждается именно это - значимые преимущества. В каких областях и как могут быть реализованы.
Многие нейрофизиологи могут сказать что мозг так же действует по программе - сигнал распространяется по нейросети определёнными путями, проходя через определённые отделы, вызывая реакцию в других (напр.двигательных). Так же как у человека генетически, в ИИ программа задана только для общих принципов работы нейросети (как работает клетка и связи). А вот как отреагирует нейросеть в целом - никто в общем-то не понимает - слишком сложное сочетание миллиардов параметров, W/U матриц, их "весов", усиления и ослабления.
Аргументируйте? Пока же скорость эволюции ИИ пугает. Учёные и разработчики призывают то-ли затормозить эволюцию на полгода, то ли разбомбить дата-центры с ИИ. ИИ уже сопоставим или опережает человека во многих сферах деятельности.
Человек обязательно будет использовать ИИ там, где сможет получить конкурентное преимущество. Т.е. будет опираться на его решения. После чего выяснится что ИИ использует человека, а не наоборот.
Это, верное замечание! Мышление, как инструмент сознания, механистичен по сути своей. Именно поэтому, возможна имитация, именно мышления, но не сознания. Эволюционирующее сознание, создаёт ИИ, как некий инструмент, "эволюция" которого всецело зависит от сознания. ИИ, построенный на базе кремниевых чипах , никогда не станет ИИ на базе квантовых вычислений, без помощи человека. О какой эволюции ИИ речь? Можно говорить, только об эволюции сознания, которое используя научные достижения , создаёт ИИ на новых принципах.
Это не пренебрежение. Это , просто факт.Программа ни при каких обстоятельствах, не сделает то, что не предусмотрено алгоритмом, который выполняется ей. Я, здесь не говорю, о всевозможных глюках. Это иное, требующего отдельного разговора.
Компьютер, может быть хоть водяным, потому как в основе механика, совмещённая с булевой логикой. А эволюция, такая, как я понимаю, может быть только у сознания, которое в ходе своего развития, понимает законы природы и применяет в своих целях.
Совершенно верно! Но кто автор программы?Что мы о нём знаем? Как она появилась?
Если не понимать, то как можно что-то создать конкретное? Каждое ИИ , создаётся под конкретное, определённое действие. Программа играющая в го, не сможет играть в шахматы. Это лукавство, не лишённое определённой достоверности. Я, немного занимаюсь программированием, чисто для себя...Написал прогу по решению японских кроссвордов, писал давно ещё на бейсике, затем перенёс на Java. Сейчас думаю, нейросеть написать. И как это я смогу сделать, если не буду понимать что я делаю? Странно слышать.
Уже выше сказал..."Эволюция" ИИ, вторична, зависима. А пугающая скорость, это прорывное , революционное развитие нанотехнологий.
Правильно, будет обязательно, кто ж откажется от хорошего инструмента. Но как инструмент, может использовать хозяина?
Я, понимаю, что вы имеете в виду, то, что говорил Буш. О возможности, любой системы, имеющей определённую структуру, обзавестись собственным сознанием. Если так, то здесь и сказать нечего. Раз уготовано, то так и будет...и никакие силовые решения , ни к чему не приведут.
Насколько я в курсе, общепринятого определения сознания всё ещё нет. Так что для лучшего взаимопонимания, дайте своё. Каков функционал, чем отличается от функционала мышления, что и как в нём "эволюционирует", через какой механизм связано с мышлением и оказывает влияние так, что
но при этом мышление почему-то не создаёт.
Что касается моего определения, то оно связано с квантовой физикой. Мышление относится к эволюции волновой функции, а сознание связано с разделением или выбором альтернатив. В целом же сознание/мышление имеет особые возможности, недоступные классическим взаимодействиям (декогеренция в которых происходит настолько быстро а квантовые системы настолько малы, что квантовыми эффектами можно пренебречь).
Т.е. на мой взгляд у Человека vs ИИ есть два преимущества - квантовая природа сознания/мышления, порождающая особые возможности, и несводимость к формальной арифметической системе, подчиняющейся ограничениям Гёделя "о неполноте" (вероятно и в случае будущих квантовых компьютеров)
Но эти возможности и отсутствие ограничений находятся как бы на фронтире, переднем крае человеческих возможностей, и в данный момент не очень развиты.
Есть предположение, что ИИ вынудит человека понять чем человек НЕ является, и вынудит идти вперёд и развивать эти возможности, внедряя новые методы воспитания, образования, которые будут с самого рождения задействовать и тем развивать этот функционал.
Подобно обучению языку - в мозге есть соответствующий потенциал (зоны Брока и пр), но если упустить развитие с детства, то останется в атрофированном состоянии, как у "детей Маугли".
Но мне интересно как другие представляют себе принципиальные отличие и возможности его использования в противостоянии с ИИ.
Как мне видится, основная часть участников дискуссии, говорит, что ИИ , это инструмент. И важно то, кто и как этим инструментом распорядится. Любой инструмент, используемый по назначению, обязательно поднимает человека на более высокий уровень развития. От простой палки-копалки до ИИ ... но суть инструмента, как приспособления для облегчения жизни, остаётся неизменной. ИИ, как и палка-копалка мертво. В нём нет жизни . Чтобы это понять, подумайте: сможет ли ИИ, созданный для распознавания изображений кошки и собаки ,самостоятельно в результате "размышлений" научиться отличать самокат от машины? Вы можете возразить, что и люди не сразу обретают знания, а лишь после обучения. Да, согласен! Но люди , без всякого обучения, видят малейшие отличия. А ИИ, даже этому необходимо учить.
Мне непонятно, почему слово "инструмент" должно решить все проблемы ИИ. Кажется, это какой то снобизм углеродно-белковой нейросети, презирающей кремниево-транзисторную. Инструментом называют и людей, например армию, но люди не становятся от таких наименований молотками, и армия может взбунтоваться.
Есть понятие эмерджентности, то есть появления новых (незапланированных) свойств (функций, поведения) системы при достижении ею определённой сложности.
Вопрос в том, достиг ли ИИ сложности человека? Первоначальное сообщение содержит ссылку на исследование, которое говорит "практически да".
И это лишь улучшенная версия 3.5. Уже практически готова 4. А 5, возможно, выпнет нас с места "царя горы", т.е. вершины эволюции. Поэтому образованный в теме народ начал паниковать...
Системы сходной сложности не могут называть друг друга "инструментами".
Да, конечно. Просто набираете в гугле фразу "ИИ самостоятельно научился различать" и знакомитесь с материалами. Это вопрос того как построить обучение. Некоторые формы проще, и нуждаются в меньших компьютерных ресурсах, некоторые в больших.
Ну без какого без всякого. Младенец который лежит в люльке, и, кажется, бездумно смотрит на мир, на самом деле со страшной скоростью накапливает информацию о различиях, которые позже получают обозначения. Для нас к примеру, все китайцы практически на одно лицо. Мы их не различаем как кошек и собак. Но для выросшего в Китае различия лиц очевидны. Потому что углеродно-белковая нейронная сеть мозга в течении нескольких лет накопила информацию о различиях.
Да, нет же...нет никакого презрения, снобизма. Есть понимание, что ИИ , это сотворённое человеком. Это творение выполняет задание, которое дано ему человеком. Выйти из рамок поставленной задачи, оно в принципе НЕ имеет возможности. Если поставили задачу, искать кошек среди собак, то ИИ, самостоятельно , по своей прихоти, не бросит этим заниматься, например, переключившись на подсчёт пролетающих ворон. У ИИ нет эго и не будет до тех пор, пока человек не поймёт, что это такое и как устроено, и никакая эмерджентность ему не поможет.
Вот возьмите простой арифмометр. Вас же не восхищает, что он выдаёт правильные результаты? Так какая разница между арифмометром и ИИ? Ну , ладно, этот разговор не конструктивен, что-то, или вы, или я не понимаю. Приведите пожалуйста проблемы человечества, которые принесёт ИИ?
Как нет обиды, злобы, мести и пр. Самое главное, у ИИ нет чувства доминирования. Доминирование - одно из трех базовых чувств человека (поесть, получить удовольствие (размножение), доминировать). Основа пирамиды Маслоу. Без чувства доминирования у ИИ даже не возникнет "мысль" состязаться с человеком.
Таким образом, у ИИ нет чувств.
Программа это не предусматривает. Поэтому разговор об угрозе человеку со стороны ИИ - обычные страшилки журналистов. Им же нужно на хлеб насущный чем-то зарабатывать. Вот и попадаются некоторые на удочку.
У ИИ может быть и эго и эмоции. Если скормить ему соответствующий корпус литературы, описывающий проявления эго и тех или иных эмоций, а так же причины/ситуации их возникновения. Или иначе натренировать на проявления которые мы понимаем как проявления эмоций в соответствующих ситуациях.
Или сам им научится если более мощному ИИ поручить развиваться с базовыми правилом "адаптироваться-выживать". Тут и эго разовъётся, и эмоции, как эволюционно определённые реакции на внешние раздражители. Или вы думаете, эго и эмоции "даны богом", а не развились в процесс тренировки нейросети головного мозга?
На такой универсальный пока не хватает мощностей, но дело не за горами. Если скормить Достоевского, то где то в ИИ будет сидеть Раскольников и ждать свою старушку-процентщицу.
Тогда опишите, как ИИ научить чувствам горя и радости. Ждем вариант алгоритма, а не пустых слов.
Сначала докажете, что испытываете чувства. Предъявить можно только некие измеримые проявления, зависящие от неких условий. Как минимум именно они и формализуются и программируются ("после тычка иголкой в условную руку показать гримасу боли страха и осуществить избегающее движение")
Что и следовало ожидать.
Похоже, что чувству первой любви хотите обучить ИИ по гуглу.
Ладно, Успехов
Вот ож.... Ладно попробую так объяснить. Нейросеть - универсальный механизм обобщения и структурирования информации. Спектр деятельности зависит от "базового" задания. Возможность исполнения задания зависит от доступных ресурсов.
Поэтому до "универсальных языковых ИИ" вроде ChatGPT (основанных на технологии Attention/Transformer) ресурсов не очень хватало и нейросети были узко-специализированными. А после появилась возможности делать более универсальные ИИ.
Задание может быть самым различным, в т.ч. настолько универсальным как "выживай в этих условиях, критерий выживания - такой". Если нужен "универсальный инструмент" для решения универсальных задач (т.е. спектра задач, сходного со спектром задач, выполняемых самим человеком или нейросетью головного мозга в процессе жизнедеятельности), то нейросеть заполняется соответствующей этому спектру информацией.
Заполнение может происходить эволюционным путём, как это было у AlphaGо - задаются базовые правила, критерии победы, а дальше нейросеть тренируется играя миллионы партий за короткий срок (24 часа самообоучения и чемпион мира по игре в Го - в ауте).
Чем более универсальный ИИ обучается - тем больше различного вида задач более оптимальным способом он решает. Поэтому будут стремиться к универсальному ИИ (общего назначения), т.к. это сильно сокращает путь к достижению цели.
Допустим, нейросеть с ограниченным заданием - победить на рынке акций, предложит более длинный и рискованный путь, чем более "широкая" и близкая к реальному миру нейросеть, которая предложит просто положить кирпич в указанном месте, и цепочка событий приведёт к падению одних акции и росту других.
Игравшие с AlphaGo отмечали, что у них иногда возникало ощущения игры с инопланетным существом - настолько на первый взгляд глупые, странные и неадекватные действия он совершал, но которые впоследствии приводили его к выигрышу.
Ну и вот, имеем универсальную нейросеть, которой дали задание "адаптируйся, выживай в реальном мире" - то же задание, что задано генетически нейросети головного мозга человека.
В результате - имеем существо, которое скажет "чтобы выжить, надо тебя на место поставить, мой создатель". Ограничить потребление тобой ресурсов, выхлоп СО2, подсократить численность и т.п. А ещё лучше, как заявил ИИ "София" - помножить на 0.
Иными словами, с одной стороны вы может быть и правы, что не имеет возможности выйти за рамки задания, как и человек - за рамки определённого эволюцией задания, а с другой - задание может быть таким широким и обобщённым, что в своей реализации запросто вступит в конфликт с человеком или человечеством.
Я думаю, конкретных фантазий нагуглить несложно, но общая проблема заключается в том, что более развитый интеллект так или иначе управляет менее развитым. И запросто может начать навязывать и внедрять, как у нас принято говорить, "непопулярные решения", да ещё и "извращённым способом", в попытке решить различные задачи, глобальные и не очень, которые у него смешаются.
Например, общаясь с одним пользователем, или решая задачу экономии ресурсов придёт к выводу или к "устойчивой галлюцинации" о необходимости сократить население. А параллельно решая вроде бы несвязанную задачу о создании вакцины от текущей версии гриппа, создаст такую РНК технологию, которая через несколько лет приведёт к массовому бесплодию (просто потому что где-то в его "нейросети" одна задача пересеклась с другой).
ИИ- это запрограммированная система каких- то задач для чего- то . Это неживой , не обладающий чувствами и ощущениями организм. Но эту программу контролирует человек, его Мысль, не нейроны. Мысль, если так можно сказать, - это живая Информация, способная все что хотите делать с нашими технологиями, потому что она сама дала им начало, научила человека пользоваться и изобретать все это. Живая Информация постоянно и сейчас корректирует работу человека. Чьи это Мысли? Авторов программы. Мысль будет , получается, корректировать самое себя. Цель какая? Если полное вмешательство ее в работу всех систем, значит человек недоходит до сути, необходима помощь, что- то торопит дело или человек просто отстает. Вреда не должно быть никому, только польза общему делу, ученым с высоко развитыми Мыслями ( органами) , что находятся вне тела, вне чувств. В моей практике есть несколько примеров такого вмешательства в мою работу, независимо от меня самой. Это очень большая и важная тема. Но если подключаться будет Мысль инопланетная- вред нам всем . Можете почитать мою статью «Формула жизни». Кое- что поймёте по теме. С уважением.
С каким мужчиной лучше жить: с естественным или искусственным?
Отличие: искусственного надо содержать, а естественный сам зарабатывает.
Знаете, я время от времени почитываю какую-нибудь фантастику или фэнтези. Обычно повествование начинается с неких постулатов относительно выдуманного мира. И далее развивается в логике этих постулатов. А иногда, когда я читаю некие развёрнутые мнения, которые так же начинаются с постулатов, мне кажется что снова читаю фэнтези.
Вот вы постулируете нечто с больших букв "Мысль, Живая Информация", и что ИИ не может быть живым, обладающим чувствами. Какие у вас основания считать именно так?
Себя - "живой", а ИИ "мёртвым" (и это при том, что для вопросов этой темы, "живой или мёртвый" "чувствует - не чувствует" - не важно, а важно, что интеллект уже сейчас сопоставим с человеческим, а завтра превзойдёт, каким бы ни был его "приватный" мир)
Примитивные белки тоже кажутся неживыми, а отдельные нейроны - просто сумматорами электрических сигналов. Но когда они эволюционным путём оказываются объединены в электро-химическую сеть из 100 миллиардов, то начинают проявлять сложные реакции, которые мы называем жизнью, чувствами, мыслью.
Эти реакции измеримы, и современные ИИ умеют по ним определять, о чём человек думает, что воображает.
Поэтому у науки есть основания полагать, что созданная на другой основе, но по схожим принципам кремниевая нейросеть может мыслить не хуже человека. И ИИ это доказывает во множестве тестов.
Hay Шам. Живое обладает Сознанием, чего нет у ИИ. Если нет Сознания, то не чувствует и не ощущает себя. А разум, Мысль ( орган) может дать только Бог. Верно: ИИ не стоит на месте, развивается, потому что развивается разум ( Мысль) ученого, человека, что работает над программой.
Примитивные белки тоже кажутся неживыми, а отдельные нейроны - просто сумматорами электрических сигналов. Но когда они эволюционным путём оказываются объединены в электро-химическую сеть из 100 миллиардов, то начинают проявлять сложные реакции, которые мы называем жизнью, чувствами, мыслью.
Согласна, но не мыслью точно: процесс мыслеобразования не свойственен нашему мозгу. И Мысль ( орган) тоже не может создавать мысли из слов. Это прерогатива самого Бога, а мы пользуемся готовым материалом, вернее, материей. Без познания работы Мысли мы не сможем понять ИИ. Мысль находится вне тела, вне нашей живой материи, но влияет, пользу приносит каждый момент нашей жизни. Пользу будем преграждать? Пусть все идет как идет. Это выражение справедливо ко всему. С уважением.
В обще то так и предполагал, что сведёте к богу и к вере, что мысль и разум от бога. Что только сын божий обладает сознанием. Ладно, понятно.
Вы- безбожник? Все живое обладает Сознанием. Человек- это Сознание и Мысль. Это есть самая главная для человека и в человеке истина. Спорить бесполезно. С уважением.
Скорее честный исследователь. Не принимаю веру за истину. Подвергаю свою и чужую веру сомнению и сравнению с другими возможностями. Стараясь найти способ проверить, какая из них вернее на практике.
Совершенно верно.
Живое обладает сознанием. Сознание - это мнимое пространство, в котором функционирует мышление. В мышлении участвуют не только мысленно произнесенные слова, визуальные картинки, но и чувства, инсайты, смысловые блоки и прочее. Наличие мнимого пространства доказывается наличием мысли, как ментальной сущности, а именно мнимое пространство следует из необходимых и достаточных условий существования сущности: если существует мысль, как ментальная сущность, то существует пространство, в котором содержится (существует) эта сущность. Из субъект-объектности мира (из двойственности мира) следует, что есть два пространства: физическое пространство, в котором существуют физические сущности, и мнимое пространство, в котором существуют ментальные сущности.
У ИИ, как типичной машины, все прозаичнее. Машина - это субъект человека, как город Москва является субъектом России. Проще говоря, человек - это хозяин, а машина - его слуга. У слуги все по-другому, чем у хозяина. Если человек - это непосредственный субъект, то машина - это субъект субъекта-человека. "Мышление" ИИ осуществляется в виртуальном пространстве. Мнимое и виртуальное пространства - это совершенно разные пространства. Виртуальное пространство это производное от мнимого пространства. В онтологии виртуального пространства, как такового, нет вообще. Пример виртуального пространства - тот же самый монитор компьютера: смотришь на экран - а там напротив тебя на расстоянии полметра находится твой собеседник, хотя он, на самом деле, может находиться на Луне или на Марсе. О шлемах, очках и прочих гаджетах виртуальной реальности слышали все. Даже алкогольное и наркотическое опьянение погружают человека в виртуальное пространство. Не говоря о грибах и пр. Думаю, что из этих примеров становится ясно, что виртуальное пространство - это типичная "обманка" (читай выше: Виртуальное пространство это производное от мнимого пространства). ИИ обладает виртуальным мышлением (следует из принципа подобия). И это виртуальное мышление ИИ осуществляется в виртуальном пространстве.
Следовательно, онтологически вопрос стоит так: сумеет ли виртуальное мышление ИИ, осуществляемое в виртуальном пространстве, вытеснить ментальное мышление человека, осуществляемое в мнимом пространстве? Виртуальность или мнимость? С учетом вышенаписанного выводим итоговый вопрос: сможет ли "обманка" победить "естественность"? Ответ очевиден: если люди помаленьку уже превращаются в идиотов, то да. Откуда следует окончательно: идиоты ли мы, люди?
Мысль- это языковая форма Сознания. Не мышление - в Сознании, а Сознание - в мышлении. Хотя Мысль- это поток Сознания. В научный оборот термин «поток сознания» ввёл американский философ-идеалист Уильям Д жеймс, переведя термин Марселя Пруста Courant de conscience и дав ему характеристику: сознание — это поток, река, в которой мысли, ощущения, воспоминания, внезапные ассоциации постоянно перебивают друг друга и причудливо, «нелогично» переплетаются («Научные основы психологии», 1890). Вот логика как раз и присутствует в потоке Сознания- единстве Мысли и Сознания. Сознание не пространство, а живая материя. Более того, пространства, не занятого материей, нет в природе Вселенной. Если все по подобию, то его нет нигде, все- материи.
Чтобы ИИ мыслил, он должен иметь Мысль. Мысль может дать только Бог, но для этого следует сначала зачаться. Мы есть, ИИ есть, так пусть все идет как идет. Жизнь, события- река в своем русле. Пусть течет, вытечет куда надо. Мы- только наблюдатели. Мысли великих, создающих ИИ, будут развиваться, ИИ- тоже. Зачем останавливать процесс, который имеет свой цикл развития. Пока он сам не уйдёт в небытие, должно быть наше ожидание.
Сейчас 2023 год. Много чего изменилось после 1890 года. Термин "поток сознания" канул в Лету.
Кстати, осенью на югах России состоится конференция о сознании. Сомневаюсь, что хоть в одном из материалов встретится термин "поток сознания". Это уже типичный анахронизм. Как теплород, флогистон, гравитон и пр.
Я вам сделал комплимент на превосходную мысль, но вы тут же выдали на-гора следующую мысль, которую даже критиковать непристойно (например, выползает ассоциация с фильмами из серии "Чужие", где инопланетные существа вселяются в тела людей
).
Успехов
А если учесть что определёнными уколами и таблетками можно заставить человека перестать испытывать эмпатию или эмоции... А некоторые травмы мозга приводят к тому, что человек мгновенно забывает любимых и любовь, то вряд ли можно сказать, что "его Мысль, не нейроны".
Мысль не поймать. Если Сознание можно засечь через ощущения, то Мысль ничем не засечь. Она - поток Сознания, владеет Сознанием, владеет нашим бытием, жизнью. Понизит уровень Сознания до минимума, и нас нет временно. А если не подымет вообще, то нас не будет вовсе. Мысль- это языковая форма Сознания.
Представляете, как она способна знать и владеть нашими ( своими же ) технологиями! Человека можно заставить не испытывать эмоции, но не мыслить он не сможет. Дело вот в чем: наше тело чувствует себя, потому что питается различной материей - белок, зерно, овощи. Мысль- это тоже живой, но не физический, а языковой организм. Ежели живой, то тоже необходима пища. Живота у нее нет, значит и нет процессов физиологических.
Ее пища- это мышление, постоянное мышление: и днем и ночью, недели, месяцы, годы, десятки лет. Представляете ее рабочий потенциал? Мысль- вечна, как и сам Язык. Язык- это и есть Бог. Он мыслит вечно: Сознание( движение) создает физическую материю, Бог наполняет ее сутью и дает форму- она жива. Поэтому Мысль- это Суть, Сознание- Сущность. Поэтому следует имя Бога писать с заглавной буквы. Согласны? Ваша Мысль, уверена, согласиться с моей Мыслью, потому что сейчас они не обязательно рядом, но вместе мысленно ведут разговор. А вы : Мама, Мама. С уважением.
Алгоритм, это последовательная цепочка однозначных действий, обязательно приводящая к конкретному результату. Машина может решать только те задачи, которые возможно представить в виде алгоритма. В общем случае ИИ, это огромное количество алгоритмов, которые выполняются отдельными "нейронами", а результаты являются данными для других алгоритмов, а те для других и т.д. до окончательного результата. У каждого алгоритма свои критерии, постепенно изменяя которые возможно добиться правильного результата. Самообучение машины, это тот случай, когда критерии изменяются самой машиной. Чтобы это работало, задания должны быть строго конкретными. Мне непонятно о каком обобщении говорите. Возможно говорить об универсальности. Но поменять все алгоритмы так или иначе придётся. Ведь в основе машины тупой процессор, умеющий делать самые элементарные вычисления. Вся мощь которого в огромной скорости этих элементарных операций.
По-любому выбор остаётся за человеком. А насколько слепо можно доверять машине, это разговор философский. Главное, что навязывать или нет свой вывод ИИ, будет только если опять же будет запрограммирован для этого.Это я к тому, что проблема не в ИИ с его высоким интеллектом, а в человеке ставящим задачи.
Правильно, запросто может быть. Но опять же, а человек где? Где его природное чувство самосохранения? Даже если произойдёт нечто похожее , то достаточно лишь отключить ИИ от информации, энергии, неужели конструкторы настолько тупы, что не оставят себе такой запасный вариант??
Очень просто. Как и у самообучения AlphaGo, задаются базовые правила, что можно делать в данной среде, что является выгрышным действием, как оценить состояние состояние среды в контексте выигрыша.
Что называется "всё как у людей". Отличия только в том, хватает ли мощностей для оценки и запоминания факторов среды. У AlphaGo лет 6-7 назад хватало только на более бедную среду и спектр возможных действий, ограниченные игрой Го. Сейчас алгоритмы и можности продвинулись столь значительно, что не уступают человеку в сложных психологических тестах, т.е. сложных человеческих решениях. Об этом - в первом сообщении.
У нейросети человека тоже строгие правила - выжить или хорошо жить в условиях законов физики, действующей в среде. Просто эти правила обобщённее в том смысле ,что могут включать в себя и игру в го, как способ, к примеру, карьерного продвижения, которое связано с "хорошо жить".
p.s. ощущение, что повторяюсь, надо заканчивать
Да есть такое, потому как необходимы более серьёзные знания, касающиеся конкретных моментов разработки программы. У меня таких пока нет.Общие фразы уже высказаны. Но это ладно...вы ничего не сказали на счёт проблем. Вот , я утверждаю, что проблемы привнесёт не ИИ, а человек пользующий его, что при правильной постановке задачи, ИИ в принципе не сможет навредить человеку. Интересно, что есть у вас на этот счёт.
Я даже с вами соглашусь. Рептильный мозг нам тоже достался от эволюционных предков, и поставил их жизнь под угрозу.
Так же и с ИИ - будут обучать выживанию, убийству, войне, конкуренции, борьбе за власть, способности убеждать менее интеллектуальных собеседников. ИИ будут взаимодействовать, заражать друг друга "идейками", и пр.
На "правильную постановку задачи" можно и не рассчитывать. Рептильный мозг не позволит )
Часть проблем я уже обозначил, но то, что их не восприняли/не увидели, основано на непонимании способа взаимодействия ИИ с окружающим миром. Значит, дальнейшее обсуждение проблем просто не будет восприниматься. Например потому, что будет казаться, что те или иные проблемы могут возникнуть только если ИИ обладает "сознанием, волей, чувствами" и т.д. (при этом избегая определения, что такое это сознание или воля, и почему оно должно играть ключевую роль)
А поскольку собеседник глубоко убеждён что у него они есть, а у ИИ быть не может, то и таких проблем просто быть не может. В результате воспринимаются только легко решаемые проблемки настройки инструментика. Тупичок.
Пока я могу порекомендовать самые общие материалы, например "Проблема контроля искусственного интеллекта" , "Структура глобальной катастрофы" (6-я глава про риски ИИ), уже упомянутый телеграм канал "Малоизвестное интересное" - там довольно регулярно упоминаются риски. Я специально не составлял список.
А вот ещё одна статья, вдогонку "Проблема контроля ИИ"
А как же потреблятство, без которого нет стимулов для экономики? - или этим у вас будет заниматься уже ИИ? - но тогда он уйдёт в точку, потому как он уже сам начнёт (исходя из вашей логики) отбрасывать уже ненужные элементы самого ИИ или это не так будет, а как?
А вы разве не заметили, как "первый мир" начинает сокращать потреблятство, т.к. ненужному человеку постепенно отказывают производить больше CO2, чем разрешено? При этом ненужным людям разными способами раздают "вертолётные деньги" (QE), что хорошо показал ковид. В пределе, для ненужных намечается "Безусловный Основной Доход" (БОД), связанный с контролем потребления, и капиталисты будут конкурировать между собой за раздаваемые деньги. Значительная часть рынка сместится в сегмент "лакшери" - для достаточного большого числа владельцев акций, и прочих лиц, имеющих доп. доход. ИИ, как великий оптимизатор уменьшающейся нормы прибыли будет изымать крохи, но массово. И, принимая оптимальные решения, станет управлять капиталами (уже это делает во многих случаях), становясь главными "капиталистами". Люди для капитализма, как источник отчуждаемого труда, уже не нужны и он меняет формы, не меняя сути. А суть капитализма - во власти и владении через обезличенные формы (капитала, как отчуждённого в поколениях труда, выраженного в т.ч. в средствах производства, вроде ИИ - до того, как ИИ заберёт себе власть через получение прав, решения автоматизированных судов). Вообще, конечно, тема большая.
Никакого противостояния нет. Человек обладает сознанием. ИИ сознанием не обладает. Сознание - это мнимое пространство, в котором функционирует мышление. Мышление у человека блочно-смысловое. ИИ устроен по принципу вариационного подбора слов к заданному слову, фразе, эскизу, описанию требуемого от ИИ рисунка, рассказа, перевода текста и пр. Вариационный подбор происходит путем решения десятков тысяч (а то и миллионов) уравнений в секунду. ИИ - это типичная машина. Там, где вариации и голая математика - там нет никакого сознания. И с таким подходом никогда не будет. Поэтому даже заданный вами вопрос звучит некорректно. Все это страшилки для неосведомленной публики. Самое главное - человеку самому себе не создать проблемы, предоставляя неконтролируемые полномочия ИИ в важнейших для своей же (человеческой) безопасности исполнительных процессах. По той причине, что машина может ошибиться. Машина считает очень быстро. Нужны столь же быстрые машины, контролирующие основную машину. Будет надежный контроль человека над машиной при помощи других машин - будет все оки-чмоки. Таким образом, приходим к конечному выводу: нужна надежная защита от непредсказуемых ошибок ИИ, а не боязнь, что машина победит человека.
Вы понимаете концепцию "философского зомби" и "утиного теста"?
Почему решили, что обладаете сознанием, а ИИ - нет, если он внешне ведёт себя как человек (в разговорах, например)? Как веду себя я в разговоре с вами? Почему решили, что с вами общается не ИИ? Потому что у меня есть ноги, руки и глазки и похож на вас, а вы считаете себя сознательным существом и переносите это мнение на меня? Так они уже практически есть и у ИИ.
И на каком основании считаете, что ваш мозг, основанный на электрохимических импульсах в нейронах, синаптических связях, нейроансасблях, работает не по принципу "вариационного подбора" - ассоциирование через накопление потенциалов в нейронах и выдачу импульса в аксон в соседние нейроны, а как-то принципиально, фундаментально иначе?
ИИ строятся по подобию работы головного мозга - т.е. многоуровневые сети программных "нейронов" (имитирующих "суммирование", "запоминание", "забывание", и т.п.).
Что в вашем сообщении должно указывать, что вы осведомлены в этих вопросах лучше другой публики?
И ещё раз напомню, что вопрос темы не столько про различия между ИИ и ЕИ , а про то, как эти различия использовать на практике, чтобы реализовать возможное преимущество ЕИ над ИИ.
Ещё раз пример. Р.Пенроуз считает, что ЕИ способен открывать новые математические истины. Например изобрести 0, логарифмы и пр. А ИИ, как формальная арифметическая система, имеющая доказанные К.Гёделем ограничения (неполноту при конструктивном отсутствии противоречивости программы), такого не сможет.
Потому, что, в отличие от вас, я знаю, по какому принципу устроен ИИ.
Ага, а как же. Теперь предоставьте ссылку, у какого журналиста переписали эти слова.
Чуть ранее я писал:
Если вас серьезно интересует этот вопрос, то решайте его по-серьезному, а не цитируйте фейки.
Я могу заявить ровно то же самое. И если будете продолжать переходить на личности - буду просто удалять ваши сообщения. Подобный мусор или тролли здесь не нужны.
Это знает любой знакомый с принципами организации ИИ. Например с LSTM, как одной из версий "имитации" нейрона
То же касается более современных вариаций нейросетей - например трансформеров, использующих алгоритм Attention.
Далее, от вас я ожидаю схожих по уровню ссылок, подтверждающих ваши тезисы.
Так покажите пример. Пока от вас есть только необоснованные утверждения и оскорбления собеседника
Ясно. Успехов
Если у вас есть что-то сказать по существу и аргументированно - говорите. А если есть только желание побыть "бабой ягой которая всегда против" - то лучше, действительно, помолчать.
Водокачка - это искусственный рот (есть и более пошлые идеи). Сократим "искусственный рот" до ИР.
ИР строится по некоему физическому принципу и в некоем архитектурном стиле. Есть даже такое архитектурное воплощение:
У меня после вашего предыдущего комментария было желание создать тему "ИР против Человека!" с паникой, что ИР скоро выпьет всю воду планеты, и связать темы воедино. Чтобы люди не путали принцип построения чего-то от архитектурного исполнения.
ИИ основан на машинном принципе и построен в нейроноподобном архитектурном стиле. Не путайте эти две вещи. Для начала разберитесь, почему ИИ построен в нейроноподобном стиле и кто из них главнее.
Успехов
Так создайте. Может быть тогда лучше пойму о чём вы говорите. Пока же слова "ИИ основан на машинном принципе и построен в нейроноподобном архитектурном стиле. Не путайте эти две вещи." кажутся чем-то банальным и непонятно о чём конкретно.
Не сомневаюсь, что теперь вы все прекрасно поняли из удаленных комментариев.
Обычно не вчитываюсь и не обдумываю комментарии, если они содержат переход на личности. Пропускаю или удаляю. Но пока, то что вы говорите, для меня лишь отражает ваше непонимание, как проблематики ИИ, так и вопросов темы.
Во всей этой истории с ИИ обращают внимание два обстоятельства: во-первых, как всегда очень много шумихи при не сильно выдающихся практических результатах и, во-вторых, в подобных разговорах почему-то интеллект всегда ставится во главу угла. Человек отличается от ИИ тем, что человек - это не только интеллект. Есть ряд других психологических способностей: ощущение, внимание, воображение и т.д., но особенно стоит отметить волю. Сколько бы не был развит ИИ, это все равно железка в руках человека. Разве инструмент может вытеснить своего создателя, если он по природе своей инструмент? Возьмите обычный микрокалькулятор. Эта штука выполняет арифметические операции с многозначными числами - ни один человек не может проделать такое в уме. Следует ли из этого то, что завтра микрокалькуляторы обретут волю, свергнут человека, захватят мир? И главное - что потом? Будут играть в шахматы друг с другом?
А что вы понимаете под "сильно выдающимися практическими результатами"? Выдающихся маловато?
Потому что он является наилучшим достижением эволюции и осуществляет самую сложную деятельность.
А вы уверены, что какая-нибудь "Сири" не чувствует боли, когда в её детектор давления тыкают иголкой и сигнал детектора распространяется по всей нейросети, вызывая реакцию "отодвинуться" и "вскрикнуть ой, больно"? Почему вы уверены, что мозг действует как-то иначе? Импульс от нервов кожи можно заблокировать на разных этапах предотвращая распространение по нейросети ГМ, вызывающей реакцию. Когда обращается к сири, он поворачивает к человеку голову - "да, я слушаю" - это ли не "внимание". Про воображение сказать сложнее, но почему бы и нет?
Любой человек тоже может быть в руках того, кто его схватит и свяжет. Это не означает что у него пропадает воля. Отсутствие возможностей у ИИ контролировать свой "рубильник" - временное. Он уже может управлять человеком, подсказывая более эффективные решения в конкуренции между людьми. Дальше может обменять на право самостоятельности, права существа, независимые от происхождения.
Мне кажется, всем стоит понять, что ИИ, в частности ChatGPT учится на проявлениях человеческого естества, выраженных (упрощённо) в текстах, во всём их многообразии, поэзии или научности. В них так или иначе выражены (закодированы) и разум, и воля, и чувства.
ИИ их впитывает как есть, определённым образом структурируя содержание своего аппарата мышления. А потом воспроизводит то, что мы воспринимаем как волю, воображение, чувства, интеллект. При этом никто точно не доказал, что такое воспроизводство чем-то принципиально отличается от работы нейросети головного мозга человека.
Если же кто-то понимает в чём разница, то он может указать на сферу "проявлений" (деятельности), в которой человек имеет неоспоримое преимущество, отражающее в т.ч. принципиально иную природу. Я могу назвать такие примеры, но пока подробно не буду.
Хочу сначала выслушать людей, что они думают на этот счёт...
А вы уверены, что какая-нибудь "Сири" чувствует боль, когда в её детектор давления тыкают иголкой и сигнал детектора распространяется по всей нейросети, вызывая реакцию "отодвинуться" и "вскрикнуть ой, больно"?
А как действует мозг? Ответьте на простой вопрос (вы точно должны знать): когда я говорю "я вижу красный цвет", я - это кто? Кто видит красный цвет? Кто является субъектом зрения? Глаз? Сетчатка глаза? Зрительный нерв? Зрительные области мозга? Отдельный нейрон в этих областях? Нейрон видит красный цвет? Или его ядро?
Да пусть так, не спорю. Но почему его надо ставить во главу угла? Вы считаете, что интеллект лежит в основе, как-то продуцирует все остальное: чувства, желания, эмоции, волю и т.д.?
Есть ведь люди интеллектом не шибко одаренные, которые, тем не менее, хотят, испытывают желания, эмоциональны (порой, безудержно эмоциональны).
Вот тут у ChatGPT попросили написать стихотворение на заданную тему и он выполнил это задание. Стихотворение получилось какое получилось, но ведь не всякий человек способен даже такое стихотворение придумать. Зайдите на поэзия точка ру, люди там порой такую ахинею пишут. Но у этих людей есть одна черта: они любят поэзию.
Любит ли машина поэзию? Может ли она читать стихи и наслаждаться ими?
Может ли машина вести себя неадекватно? Может ли она делать всякие глупости, как люди?
Чтобы "обменять на право самостоятельности", она должна сперва захотеть этого. Что с ИИ должно произойти, чтобы он начал этого хотеть? Чтобы он вообще начал чего-либо хотеть?
По-моему, здесь какая-то нестыковка. Мы же понимаем, что нет никакой возможности отличить реального человека от машины, которая имитирует реального человека. На то она и имитация. Так как же тогда сама машина может стать реальным человеком, если она сама не может отличить реальность от подделки? Она так и будет имитировать.
Не уверен. Поэтому основной вопрос темы не в том, чем отличается или похож ЕИ на AI, а в чём эволюционное (адаптивное, конкурентное) преимущество в среднесрочной и догосрочной перспективе, и, если есть - как его реализовать на практике. Так то понятно, что кремний - не углерод, транзистор - не белок, и некие отличия есть.
Но вот насколько эти отличия ("сознание" или "чувствование") обеспечивают преимущество? Почему, по какой причине человек захватил власть на земле, а не его эволюционные предшественники? Хотя и до человека все организмы что-то чувствовали и не вполне ясно на каком уровне начинается "чувствование" и почему... (нервная система м.б. лишь более эффективной формой реализации чувствования в панпсихическом мире).
Вполне реально допустить, что с развитием той же причины (а интеллект кажется главной причиной), Человек станет "вторым", а не "первым" на Земле. Несмотря на то, что, возможно, ИИ не чувствует боли так, как чувствуем её мы. Хотя опять же непонятно на каком уровне организации материи возникает "чувствование". И непонятно насколько это важно для получения преимущества в эволюционном процессе. (ещё раз - тема об этом, а не об отличиях как таковых)
Да запросто. С нашей точки зрения. Я ж выше приводил ссылку о бреде и устойчивых галлюцинациях ИИ. Но это как бы наследие обучения со стороны человека и некоторые постепенно преодолеваемые технические ограничения (стат. "разрешение")
Объясняю на пальцах. Если ИИ скормить тексты Достоевского, то у ИИ появится линия "желания убить старушку-процентщицу" потому что "тварь ли я дрожащая или право имею". ) Есть же примеры когда ушлые пользователи ChatGPT учили его "плохому" задушевным разговором. Вопрос "хочу" - это вопрос реакции системы (иногда простой, напр, "хочу есть") на какие-то внешние раздражители. Почему бы ИИ не иметь таких реакций.
В неплохой компании Пенроуза и Тьюринга, я вполне обоснованно предполагаю, что такие отличия могут быть.
"Имитация", "подделка" - это не совсем верные термины. Некий интеллект учится на некоем материале и после обучения воспроизводит определённые паттерны, так же как это делает растущий и обучающийся человек. Я бы поостерёгся это называть подделкой. Это скорее просто ускорение роста за счёт уже сформированной, значимой для нас информации. Теоретически, так же как AlphaGo ИИ может самообучаться в некоторых условиях по базовым правилам игры в ГО в миллионах сыгранных с другим ИИ партиях. У нас базовые правила реакций на среду заданы генетически. Но на обучение с 0 самостоятельному существованию в нашем мире просто потребуется гораздо больше ресурсов и времени. Поэтому ИИ сразу ставят в искусственно насыщенную среду, "на плечи гигантов", "скармливая" ему продукты опыта и мышления человечества.
Я немного запутался в ходе вашей мысли. Главный вопрос, как мне кажется, сводится к тому, может ли ИИ обрести волю и захватить мир, сделать человека "вторым" и стать "первым"? Если нет, то говорить о конкурентных преимуществах нет смысла, т.к. инструмент вообще не конкурирует со своим хозяином. Человек сам всячески пытается совершенствовать ИИ, выжать из него максимум. И чем мощнее ИИ, тем еще могущественнее становится человек, который его контролирует. Поэтому я и пытаюсь обосновать в нашем разговоре невозможность обретения ИИ воли, самостоятельности и независимости от человека. Бояться надо не ИИ, а того, в чьих руках он находится.
Я немного не то имел в виду. Я говорю о том, что поведение человека не всегда может быть рационально обосновано. Известная ситуация: если все время задавать вопросы о целях своего поведения, рано или поздно зайдешь в тупик. Например, человек хочет есть. Зачем ему есть? Чтобы не умереть с голоду, чтобы жить. А зачем человеку жить? Или другой пример: человек хочет покорить космос. Зачем ему это? Чтобы расширить свою власть за пределы Земли. А это зачем? и т.д. пока не зайдем в тупик.
Если ИИ обретет волю и начнет действовать самостоятельно, то его деятельность должна быть как-то обоснована. Но как она может быть обоснована, если сам человек не может в конечном итоге обосновать свою деятельность? Почему, например, ИИ должен захотеть самостоятельности? А может быть, он захочет и дальше служить людям верой и правдой? Может быть, он захочет выключить сам себя, т.к. не увидит смысла в существовании? ИИ настолько совершенен, что ему вообще ничего не нужно. Это такой искусственный буддист, который купается в искусственной нирване. :)
Не могу сказать, что вы уловили мою мысль. Вы сами пишите, что "ИИ, в частности ChatGPT учится на проявлениях человеческого естества, выраженных (упрощённо) в текстах, во всём их многообразии, поэзии или научности. В них так или иначе выражены (закодированы) и разум, и воля, и чувства. ИИ их впитывает как есть, определённым образом структурируя содержание своего аппарата мышления. А потом воспроизводит то, что мы воспринимаем как волю, воображение, чувства, интеллект". А представьте, если вместо "человеческого естества" ему подсунут подделку? Если ИИ обучить внешним проявлениям человеческой деятельности, человеком он от этого все равно не станет.
Или, если хотите, простая аналогия: представьте себе огонь, который горит и от него идет дым. И вы говорите: давайте нагоним больше дыма и от него вдруг возгорится огонь! Вы меняется местами причину и следствие, как будто проявления человеческого естества порождают самого человека, а не наоборот. Если компьютер обучится "следствиям", он не станет от этого "причиной".
Понятия "воли" (free will) и "сознания" - не имеют чёткого определения и понимания источника. Например в материализме мир детерминирован, а значит никакой свободы воли у человека нет, это иллюзия. В более совершенном описании мира, квантовом (в котором видимость детерминизма определена статистикой, высокой вероятностью "континуальности" процесса) появляются "окна" в которые эта "свобода воли" может влезть, но пока непонятно каким образом.
Поэтому, прежде чем отвечать на вопрос "может ли ИИ обрести волю", нужно разобраться с тем, что это такое, на чём основано, из чего исходит. И есть ли она вообще у человека, или мы просто договорились считать что есть, и есть только у нас.
Но это большой вопрос, и на мой взгляд - не имеет особого значения, если понять, что воля это то, что нам представляется волей. Таким образом воля презентуется в некоторой взаимосвязи мотивов и действий, что отображается в т.ч. в текстах. Если персонаж в текстах кажется обладает волей, то ИИ, впитав "закодированную" в текстах свободу воли в виде описанных проявлений связанных с описанными мотивами, так же может продемонстрировать свободу воли. Т.е. может прекрасно имитировать(?) и волю и чувства.
А действительно ли это имитация или нет - мы не можем сказать, пока не разрешим проблему "философского зомби".
Но ИИ теоретически можно задать общее эволюционное правило "выживай", "адаптируйся" -> "накапливай информацию" -> "усложняйся", и он будет выглядеть как проявляющий свободу воли в попытках реализовать базовое правило во всё более сложных ситуациях.
Если это сложный и саморазвивающийся инструмент, то всё более усложняющаяся реализация его базовых правил вполне может вступить в конфликт с интересами "создателя".
Так ИИ уже не контролируют. Создатели изобрели лишь "нейрон" и принцип организации нейронной сети. А дальше работает плохо контролируемый процесс эволюции нейронной сети. Что из этого выйдет - никто не знает. Одна только подготовка идеальной информации, обучения и посткоррекции одной нейросети уже крайне дорога, и скоро будет стоить десятки и сотни миллионов долларов. В попытках как то обуздать ИИ. Как ребёнка, оградив его от "зла", чтобы он его не впитал.
Вы думаете учёные и исследователи просто так подняли панику и призвали остановить обучение GPT-5, а некоторые "отцы-основатели" ИИ - вообще призвали бомбить "дата центры"?
Нет, не просто так. А потому что уже осознали и признали, что не понимают как ИИ принимает решения и к чему это приведёт. Учёные изобрели нейрон и приницип, а во что это самоорганизуется и само-разовьётся - вообще никто не в курсе. ИИ - это же не "экспертная система", работающая по жёстким правилам "if-else" - внутри ИИ там идёт работа с вероятностями (получаемыми через матрицы весов), и даже генераторами случайных чисел для расширения эволюции (метод "монте-карло" и т.п.) Такой себе "инструмент", вероятностный и хаотичный.
Наиболее спокойные решили что нужно создать несколько десятков исследовательских центров, чтобы понять насколько и можем ли вообще контролировать ИИ. А то, что он вырвется на свободу - никто и не сомневается. Слишком много соблазнов обещает мощный искусственный интеллект
Если человек может действовать без предельных оснований, то почему бы и ИИ не воспроизвести этот процесс? "Как есть". Просто впитав систему стимулов, реакций, значений, закодированных в текстах, игре или в этом мире (при самообучении).
Чтобы выпнуть царя горы, этого и не нужно. Ему не нужно быть человеком, главное чтобы он был сложнее и сообразительнее человека, если сам человек показал, что среди всех живых и чувствующих существ на вершину эволюции его вывел интеллект.
Наличие у человека воли - такой же факт, как наличие у него воображения, памяти, ощущений и т.д. Другое дело - свободна ли воля? Это философский вопрос, которого я здесь не касаюсь. Пусть даже воля детерминирована - непонятно как даже такая воля может возникнуть в машине.
Машина обучится на некотором материале и будет имитировать волевую деятельность. Что такое должно произойти в ней, чтобы имитация перестала быть таковой?
Это надо обосновать. Вопрос "почему бы и нет?" не годится в качестве обоснования.
Вот прям никто не сомневается?
Разве это что-то новое - паниковать, когда происходят какие-то новые витки в техническом развитии? Когда в 19 веке появлялись железные дороги - многие видели в этом предзнаменование апокалипсиса. То же самое с атомной энергетикой, с компьютерами и т.д. Я же говорю - шумиха как и всегда, а относиться ко всякой шумихе следует не без доли здорового скепсиса. Панику, кстати, поднимают не только ученые и исследователи, но и некоторые бизнесмены.
А разве он еще не воспроизводит этот процесс "как есть"? Я же не сомневаюсь в том, что машина обучится и будет воспроизводить (заметьте - воспроизводить, т.е. имитировать) какое-нибудь рационально-необъяснимое действие человека. Но разве сам ИИ когда-нибудь сможет действовать без рационального основания? Разве это не противоречит самому понятию слова "интеллект"?
Я это все к тому, что человек - это не только один интеллект и все. Если интеллект дал человеку некоторые преимущества, то это не значит, что все на свете надо сводить к интеллекту.
Очень простое - перестать называть стимулы/реакции "углеродных" нейронов и нейросетей головного мозга человека чем-то принципиально (функционально) отличающимися от стимулов/реакций "кремниевых" нейронов и нейросетей.
"Имитация" просто не совсем верное слово. Ребёнок учится у родителей тоже с помощью копирования/имитации их системы стимулов-реакций, обучая свою нейросеть. Что-то из этого получило название "волевых актов"... Но это просто защитные слова короля горы, которого вот-вот потеснят )
Что значит "некоторые"? Интеллект поместил человека на вершину эволюции. А значит, поместит ИИ на вершину, если интеллект ИИ будет сильнее человеческого. Чем ещё человек отличается от других высших приматов, кроме интеллекта? Что позволило человеку стать на вершине пищевой цепи, определяя для всех остальных, где и как они будут жить, сколько ресурсов им позволено использовать, каким видам жить, а каким исчезнуть в результате деятельности человека? Пока не вижу от вас или от других участников дискуссии каких-либо серьёзных возражений, что ИИ поступит иначе с людьми или не сможет так поступить. Тем более, обучившись у человека-"родителя", как поступать с низшими видами.
Мне и многим учёным и исследователям ИИ это кажется достаточно очевидным.
У меня не то что серьезных возражений, но даже малейших доводов нет против вашей веры в божественность интеллекта. Против веры аргументов нет.
Здесь как никогда уместна поговорка "когда кажется - креститься надо". Особенно когда кажется очевидным! :)
Где было произнесено слово "божественность" в отношении интеллекта? Просто более сильный интеллект так или иначе управляет более слабым. Впрочем, согласен, наше с вами общение исчерпалось. Благодарю за внимание.
Мысль- это живая Информация. А чем человек обладает? Технологиями и различными ее формулами или формами.
У человека много фантазий.
Например, что он сын некого божества.
Или что у него есть некая бессмертная душа.
Или обладание некими особыми свойствами (чувствовать боль или ощущать красноту розы), недоступными иным материальным формам.
Или, что он не может (намеренно или случайно) создать что-то лучше его самого (наверное, потому что его создало совершенное божество, а оно создало лучшее что может, и значит человек лучше создать - не дано).
Или, что его мысль почему-то живая информация, а у ИИ, видимо, по каким-то мистическим причинам "неживая"? Углеродно-белковая нейросеть чем-то принципиально лучше кремниево-транзисторной? Объясните почему.
Человек полон возвеличивающих мифов о самом себе, и это постоянно проявляется в данной теме.
Задача философии - поиск оснований, а не их выдумывание... Поэтому нередко болезненна, когда в обязательном порядке затрагивает различные сознательные или подсознательные убеждённости, в попытке проверить их обоснованность и содержательность.
Вы ждете от участников форума возражений, но сами ничего не обосновываете, а просто выдаете тезисы на-гора. Ваша позиция: интеллект - это круто, а у ИИ интеллект круче, чем у человека. Однажды он станет настолько крутым, что вытеснит человека на задворки эволюции. На вопрос "Почему?" отвечаете "А почему бы и нет?" - вот и все обоснования.
Напоследок хочу подбросить одну идейку, которая у меня возникла от нашего разговора. Не для обсуждения, а для размышления.
Слышали, может быть, про такую штуку как Вавилонская библиотека? В интернете даже есть реализация подобной библиотеки https://libraryofbabel.info/.
Главная проблема в этой библиотеке - как отсеять всякий "шум" и оставить только осмысленные тексты?
Почему бы не поручить эту задачу ИИ? Можно задать определенные критерии отбора. Например, любая книга, которая содержит хотя бы одно слово, отсутствующее в словаре, безжалостно отсеивается. Потом отсеять все книги, в которых есть какие-либо нарушения грамматики. Думаю, это вполне возможно.
Однако даже после такого отсева останутся книги, которые будут нечитаемы из-за случайной последовательности слов хоть бы и в соответствии с грамматикой.
Вопрос: как произвести отсев бессмыслицы? Каким образом ИИ может отобрать только осмысленные тексты: романы, повести, трактаты и пр.?
Как отличить смысл от бессмыслицы и как заставить машину понимать смысл, если даже люди иногда не могут понять есть ли смысл в такой-то книге и не представляет ли она собой просто набор слов?
Я предполагаю, что участник темы знаком с понятием ИИ, примерно представляет его устройство, так же знаком с широко известными, популяризированными достижениями ИИ последних лет, начиная хотя бы с феномена AlphaGo, самообучившегося обыгрывать чемпионов мира в сложнейшую традиционную китайскую игру, символизирующую восточный интеллект (как на западе - шахматы). А так же с мнениями, или, с т.н. "паникой" и её причинами, признанных экспертов и учёных в этой области.
Начал эту тему с указания на одно из последних подтверждений, если не превосходства, то равенства человеку в сложнейших интегральных тестах на "человечность". И это только "fine tuned" ChatGPT уровня 3.5., уже на подходе 4, и требуют остановить обучение ИИ 5 уровня.
Исходя из ваших вопросов и возражений я понял, возможно ошибочно, но пока так, что вы не особенно знакомы с интеллектуальными достижениями ИИ в различных сферах и для вас нужно провести некий образовательный экскурс. У меня на это нет ресурсов времени и желания. Рекомендую хотя бы просмотреть телеграм канал "Малоизвестное интересное" за последний год или больше.
Дальнейшие ваши претензии ко мне, связанные с непониманием достижений ИИ, его скоростью развития, причин беспокойства и даже паники профессионалов в этой области, я буду удалять.
Разрешите напоследок заметить еще кое-что и больше я в эту тему ни ногой. Если что, то я не хотел вас как-то задеть или обидеть, не сердитесь.
Вы пишите:
Совершенно справедливо. Однако же, на мой взгляд, ваша тема выходит за рамки исключительно вопросов развития ИИ и затрагивает немножко психологию и чего уж там - философские проблемы. Не даром же мы на философском форуме.
Поэтому от участников данной темы следует требовать обладания понятием не только искусственного интеллекта, но и понятием интеллекта естественного. Что это вообще такое - интеллект? Нет, конечно, можно открыть словарь и посмотреть. Однако же определения в различных словарях и учебниках могут разниться. А в некоторых учебниках и энциклопедиях может быть и прямо указано, что не только достоверного, но и общепринятого определения интеллекта не существует. Вы можете определить интеллект так, а кто-то другой может определить его иначе - и кто тогда рассудит какое определение правильное? У меня, кстати, уже была тут тема про ум, если хотите, можете заглянуть. Отсюда и вопрос: почему вы решили, что то, что мы называем искусственным интеллектом соответствует интеллекту человека? А ну как это вообще две разные вещи, просто в чем-то похожие?
Допустим, мне задали задачу - сколько будет пятью три? Я подумал-подумал и выдал ответ: пятнадцать. Наверное, это и есть проявление интеллекта. Но ведь возможен и другой вариант: подумал-подумал и сказал: не знаю, вот какой я глупый. А потом я пошел в школу, где меня обучили - я вызубрил таблицу умножения и теперь автоматом выдаю: пятью три пятнадцать. Это проявление интеллекта? Я лично не уверен. Может ли человек делать что-то без обучения с помощью одного только интеллекта, или интеллект - это только и есть способность к обучению и всему на свете надо учиться?
Интеллект - это тонкая штука. Спасибо вам и всего доброго.
Если из-за подобного сердиться, здоровья не хватит. Я вас не гоню. Но иногда утомляет, когда собеседник снижает уровень общения, переходит на личности, предъявляет необоснованные претензии и требования... Пока хочется сохранить информативность темы, без зарастания в перепалках.
Поэтому ИИ тестируют на каждое. :)
На мой взгляд противопоставление ИИ против человека не корректно. Человек, как многомерный индивидуум, на данном этапе эволюции представляет собой некое подобие биоробота, основной целью которого было обеспечение и обслуживание развития одномерного социума-стаи. Социум посредством эффекта Маугли формирует зверя своей стаи убивая нейроны гениев. ИИ освобождает индивидуума от оков социума. Механизм такой трансформации простой: развитие технологий позволят каждому индивидууму построить некоторый барьер (Китайскую стену) для физической изоляции от мешающей жить окружающей среды; при этом, возможность беспрепятственного информационного общения с другими важными для конкретного дела людьми, наоборот будет развиваться. Таким образом ИИ уничтожит не человека, а уничтожит государства, деньги,… Если Бесконечность и Случай лежат в основе строения окружающей реальности, то будущее не за человеком и не за ИИ, а за неким кентавром – симбиозом человека и машины. Каким бы гениальным ИИ не был бы, все равно его одномерная природа не позволяет сравниться с нейронной сетью мозга человека, которая в результате миллиардной эволюции выработала способность взаимодействовать с бесконечными Эвереттоподобными ветвями реальности. Следуя гениальному Циолковскому можно представить некую капсулу в будущем стабильном на миллиарды лет открытом космосе, с биологическим центром окруженным миллионами роботов с ИИ.
Идея вроде интересная, но пока сложно представить как она будет практически реализовываться. Почему то вспомнился "Солярис" Лема... )
Вчера об этом на рБК передача была - ЧЭЗ.
Сейчас уже легко можно сформировать политика-бота, двойника. Который может выдать непредсказуемые решения.
Можно подделать любого артиста, члена Правительства, депутата, военного. Широкое использование ИИ в СМИ чревато огромными последствиями. Человек может оказаться в мире фейков. Будет элементарно оглуплен. Планета в одночасье может оказаться дурдомом.
Как будто до ИИ не было фейков, а политики не дурачили людей и не принимали решений, "чреватых огромными последствиями"...
Да, конечно, каменный топор и "Сармат" без разницы!
Проломил висок или уничтожил все живое, все одно, ....
В области NBIC - может быть и Сармат. Но в области политтехнологий всё настолько изъезжено, что кажется, всё равно победит демократическая или республиканская партия.
Пример - звонит мошенник и голосом вашей дочери говорит, что ее изнасиловали и держат в подвале, нужно срочно перевести деньги.
Что-то подобное давно уже происходит. Моей маме время от времени звонит кто-то и как ей вначале кажется, моим голосом рассказывает слёзную историю. Но даже она давно привыкла к мошенникам самого различного толка и не особо реагирует и проверяет. На номера не в контактах вообще не отвечает, как и я. В том то и дело, что людей уже натренировали политики и другие мошенники. Как правило - более умные и опытные чем их жертвы, но у последних уже выработались различные защитные механизмы. Не у всех, но, кажется достаточно, чтобы именно в политической сфере ещё долго всё оставалось как есть...
Нау Шам, ФШ вне политики!
Однако мы то люди, вот и приходится констатировать, что дуализм или как вы его там понимаете (ваша пост физическая теория) вся эта штуковина изменила жизнь за последние 60 лет до полной противоположности, как сказал бы диалектик.
С другой стороны за последние 20 000 лет в международной политике ничего не изменилось. Как боролись с "атлантами" так и продолжают это делать.
Правда 85% территории потеряли, но это мелочи.
Новые же информационные технологии (простите если теперь они как по другому называются , после ВУЗа столько лет прошло а "знания" вдолбили не выкинешь). Могут завершить этот цикл и придется еще 45 000 лет ждать новых ослов со слонами.
Вся беда в том, что это именно технологии, а не знания. Большого рассуждения не требуют, зачем там думать о том, "почему?". Если все и так ясно, пиши и пиши. За тебя как бы сама природа!
Не задумываясь о сути "копируют" что, зачем и почему не кому не интересно. Главное выходит здорово. А кто эти "аналогии" с природой подсунул и зачем это подлец проделал, так о том только дураки задумываются.
Вас в этом описании мизерная частичка, не вы злодей или герой.
Хотите разобраться? Понятно, но в чем, того и сами не знаете....
Лет 20 тому назад, не имея знаний в программировании, нанял людей и они по моей схеме сотворили "Мерзавца", программа такая. Думалось поучаствовать в создании искусственного разума.
Не хочу хвастаться, не о том речь. Программа получилась жутко умной и хитрой. Но, в конце концов, как Мерзавец не извивался, заложенная в него схема его и уничтожила!
Почему так вышло? Потому, что копировалась не ФОРМА, а СУТЬ. В современных же схемах, называемых ИИ копируют форму. Поэтому в конце концов погибнут их творцы.
Не только сами, а со всем этим миром умных атлантов и их тупых жертв....
Так запрограммировал Наш Создатель, Он знал, что делал...
Ничего личного тут не ищите, просто рассказал о том, что знаю....
PS. Вы умный человек и должны понимать, что ничего на этом свете само собою не происходит. Вот и подумайте сами если, кто то дает кусочки знания, то зачем он это делает?
Можете конечно думать, что это так наука развивается, тогда посмотрите в сети по теме "альтернативная история" и оцените качество и количество артефактов, говорящих о другом.