Философское сообщество ЖЖ

Previous Entry Share Next Entry
Тест на сознание - как отличить имитатора?
kant_mortal
alexander_xom wrote in ru_philosophy
Оригинал взят у alexander_xom в Тест на сознание - как отличить имитатора?
Теста на сознание нет. Просто потому что нет самого определения сознания, на основании которого можно было бы построить тест. Но может быть попробуем? Из близких тестов существует только тест Тьюринга, основанный на возможности сознательного существа "поддердживать беседу", причем почему-то ограничивается время на выяснение (фора имитатору?), При этом, точного математческого критерия "поддержки" нет, хотя сам Тьюринг был педантным математиком. Критерием является только мнение другого человека за шторкой. Понятно, что это не критерий, зависит от субъективного мнения и просто настроения этого человека.

Что может быть более точным критерием? Мы же все таки что-то знаем о сознании, чтобы ответить на этот вопрос. Например, что только человек формирует автобиографическую память. Или имеет общую картину мира, даже если ему ее никто конкретно не рассказывал (формируется по мере опыта сама). Проблема скорее в том, что поведенческий критерий только один - речь, текст. То есть критерий информационный, а современное программирование - это универсальный способ имитировать таие сущности. Калькулятор тоже ИИ, отвечает на вопросы при нажатии =, только в очень ограниченной области арифметических операций. Имитировать удается все больше таких ограниченных способностей из арсенала человеческих - шахматы, го, сценарии, музыка, рисунки, вождение авто. И все равно все это имитация, потому что (интуитивно - точного критерия и теста же нет) мы не считаем эти имтации обладателями сознания. Что же нельзя сымитировать?

Можно ли сымитировать ту же автобиографическую память, которой человек вродже бы отличается от животных? Только не вопрос о том, где ты родился, что посилам даже Веселову с Гусманом, не говоря уж о ребятах из IBM. Что-то посложнее, когда память об  изменении своих состояний сказывается на последующих ответах. Для этого надо иметь представление о себе, микрокартину своего мира, что уже не так тривиально. Ил этого недостаточно и тоже можно сымитировать?

Есть еще один потенциальный критерий, который непонятно как применить, так как он очень теоретический. Гальперин утверждал, что сознание (ориентировочная деятельность в его интерпретации) есть у всех, кто имеет варианты своего проведения в среде и вынужден противовопоставлять себя среде. http://uclg.ru/education/psihologiya/lecture_lec_psihika_kak_orientirovochnaya_deyatelnost_subyekta_p_ya_galperin.html Схожие мысли высказывал тут s_e_l_i_k.

  • 1
никак.
"каков алгоритм идентификации алгоритмов?" - это тупиковый вопрос.
потому что,
"алгоритм идентификации алгоритмов" - тоже, по-умолчанию, является - лишь, алгоритмом,
соответственно - априори, подлежащим формальной идентификации.
разумное (наделённое сознанием) - способно идентифицировать - только разумное(другое сознание).
хотя, да - время идентификации - выносится за скобки данной идентификации,
и именно для минимизации ВРЕМЕНИ идентификации и используются "алгоритмы идентификации алгоритмов",
но никак не для 100%-го ответа на вопрос «имитатор или нет?»

Не согласен. Чтобы диагностировать машину я применяю алгоритм последовательных действий, позволяющий обнаружить те или иные варианты ответа на них. И никакие приведенные Вами формальные доводы не мешают этого сделать. В той степени точности, которая задана, конечно.

при чём тут «степень точности»?! =)
где о ней речь в постановке вопроса?
а я говорю - о принципиальной недостижимости - 100%-но верного результата.
а ваш «алгоритм последовательных действий, позволяющий обнаружить те или иные варианты ответа» - это пустое место, в общем случае. потому что ЛЮБОМУ алгоритму можно подсунуть другой алгоритм, который приведёт к «тем или иным вариантам ответа».
из пустого в порожнее.
кстати, это и есть - типичный ИИ ;)

Нельзя сымитировать метапамять - то есть память о том, как ты помнил и что это для тебя значило.

Почему нельзя? Создается условный (виртуальный) персонаж с набором "воспоминаний", он в детальности будет помнить, каким образом он получил то или иное воспоминание.

Автор поста правильно подмечает, что метод заключается только в анализе единственного поведенческого критерия (речи).

Решение проблемы, возможно, лежит в плоскости эмоций - сложной реакции на заранее неизвестный раздражитель. Способен ли ИИ не думать - думать то он, безусловно, способен, а чувствовать и сопереживать.

Он будет помнить только фактичность воспоминаний, но не их смысловую значимость. Так, я помню не только свою любовь к женщине, не только факты и этапы этой любви, но и то, что она для меня значила, как меня меняла и вдохновляла.

Edited at 2017-01-29 09:13 pm (UTC)

Это должен быть очень хитрый раздражитель, чтобы включать и наименее эмоционально экспрессивных особей. Многие умудряются обманывать даже полиграф.

С эмоциями все тоже не получится. На вербальном уровне эмоции легко имитируются. Алгоритмы на NN очень точно определяют тональность речи, а значит можно и построить ответы с учетом тональности текста. И останется только заложить какую-то нехитрую логику соотношения тональности входа и выхода текста. А вот заложить отношение различное к разным аспектам картины мира - вот это сложно, кстати. Тут может быть ключ. ТО ЕСТЬ ВОПРОС КАК ВЫ ОТНОСИТЕСЬ. И рано или поздно машина будет поймана на противоречивом отношении к схожим вещам, так как отношение к каждой ситуации не прописать, а у человека есть универсальный механизм высчитывания его отношений, связанный с целеполаганием и воображением. К сознанию это имеет косвенное отношение, воображения без сознания еще никто не видел.

Edited at 2017-01-30 07:32 pm (UTC)

Само наличие рефлексии об имитации, критериях отделения оригинала от симулякра как раз и есть признак сознания.

Это интересная мысль ) Может просто надо в беседе проверять рефлексию. Осознает ли собеседник свои действия. Какие тут могут быть типы вопросов?

Ну, если это о действиях, тогда тут, очевидно, должны фигурировать цели и средства, ценности и смыслы, идентичность актора (личностная и социально-культурная) и его роли.
Как правило, там, где присутствуют имитации, там
- происходит переворачивание, в котором средства становятся пределом целеполагания, а его содержание превращается в манипулятивный инструмент;
- ценностная универсальность замещает уникальные смыслы (которые суть возможности целеполагания и целедостижения) или, наоборот, уникальный смысл возводится в универсальную ценность (в первом случае – догматизм, консерватизм и т.п., во втором случае – достижения некого актора возводятся в "абсолют");
- роли замещают идентичность (всё, что подразумевается _состоянием постмодерн_) или идентичность отчуждается от ролевых форм социальной действительности (например, аутизм, социопатия).
Такая, типа, система координат. И, исходя из неё, уже выстраиваются вопросы определенных типов.

// Что может быть более точным критерием?

Перенастройка беседы в другую понятийную сетку. Сначала нужно задать тему - поговорить немного - а потом продолжить разговор, заменив все основные понятия на другие, из другой предметной области, напр, из области изготовления мебели. От "собеседника" (который машина) потребуется налету дешифровать беседу, не соскочив на обсуждение мебели.

Нужно только хорошо выбрать ключ для шифрования. Он, кстати, может быть чем-то, что уже упоминалось в беседе прежде.

Edited at 2017-01-30 11:21 am (UTC)

Это интересно. Только не очень понял как это сделать. Пример можете привести? Перевести разговор о птицах в термины мебели?

Можно для начала попытаться ответить на более простой теоретический вопрос, обладает ли сознанием объект со сложным поведением, устройство которого нам полностью известно, включая память во всех ячейках - ПО. Если там имеется полностью детерминированная обработка входящих воздействий, то сознания у него нет, а даже если и есть, то оно абсолютно не влияет. Детерминизма может не быть, если в алгоритм включены точки, где генерируется спонтанность - случайное число, шум и т.п. Моделируем этот процесс на виртуальной машине много раз со своими случайными числами. Если поведение модели похоже на поведение оригинала, значит сознания в оригинале нет. Но может возникнуть ситуация, что поведение не получается смоделировать схемой детерминизм + слусайные числа, даже зная всё устройство объекта. Другими словами, даже полностью зная, что в объекте происходит физически, мы не можем его просчитывать даже вероятностно, объект делает нечто маловероятное, для чего в точках спонтанности его алгоритма должны попадать строго определённые сочетания случайных чисел. Это может значить только одно: объект создаёт корреляцию между случайными числами, хитрит, неправильно мешает карты, имеет заинтересованность в конкрнтных вариантах развития событий, т.е. имеет мотивацию. Механизм корреляция между его точками генерации спонтанности мы не можем обнаружить на уровне физического носителя, это означает, что этот механизм вне физики, по крайней мере той, с которой работает научный метод. Этот механизм - и есть сознание. Оно не так упорядоченно как полный детерминизм, но и не так беспорядочно, как детерминизм с независимыми случайными параметрами. Оно представляет собой детерминизм с коррелированными в некоторой степени случайными параметрами.
Постоянный сигнал не несёт полезной информации, чисто шумовой сигнал - тоже. Но в переходной области между этими вариантами может быть что-то более вразумитнльное.
Ещё аналогия - сравнение поведения и внешних форм машины (детерминизм, легко параметризуемые формы, сознания нет) -> живое существо (поведение более и формы гибкие, чем у машины, сознание есть) -> явление неживой природы, наример, облако (поведение предельно изменчивое, нестабильное, форму параметризовать трудно, сознание нет).
Конечно, это не строгое рассуждение, доказать тут вряд ли что можно, да и разложить правильно устройство организма на самые низкоуровневые элементы.

Возможно, примером действия человека при полном отсутсвии сознания может быть сомнабулизм. Сознание в этот момент находится в фазе глубокого сна и ничего не видит вокруг, но нейронная сеть без участия сознания распознаёт знакомые стимулы и отправляет на исполнительные механизмы соответсвующие команды. Но реакции не целенапрвалены, не мотивированы, сводяься к принципу "увидел - схватил", они либо рефлекторные, либо являются сложной привычная деятельность типа управления автомобилем, ходьбы по улице, залезание на предметы (высота не пугает и страх не мешает работе вестибулярного аппарата, т.к. мотивация полностью отключена.

Не думаю, что сознание сводится к непредсказуемости ) Вы верно заметили, что это что-то посередине между случайностью и предсказуемостью (когда вы знаете как будет), которую вы называете детерминированностью. А посередине - это на самом деле многовариантность поведения. Но это отличительный признак не сознания, а высшего интеллекта (чем выше, тем вариативнее).

Вы точнее написали тут "Сознание в этот момент находится в фазе глубокого сна и ничего не видит вокруг, но нейронная сеть без участия сознания распознаёт знакомые стимулы и отправляет на исполнительные механизмы соответсвующие команды. Но реакции не целенапрвалены, не мотивированы, сводяься к принципу "увидел - схватил".

Это уже более существенный признак сознания - автобиографическая память, о которой я и написал. На нем легче проверить, мне кажется, чем многовариативности поведения. Последнее даже непонятно как проверить, так как трудно отделить от случайности - надо проверять много вариантов, чтобы определить их некоторую ограниченность. Человек как раз отличается от животных, что может порождать бесконечное число речевых цепочек как мы тут вот делаем ...

В сомнамбулических состояниях человек действует так, как он видит во сне. Снится ему, что он курит - он воспроизводит движения, как-будто берёт сигареты и закуривает. Телесный механизм выполняет те "куски" личного бытия, которые проживаются во сне. К тому же сны имеют тенденцию не запоминаться, так что нельзя со стопроцентной уверенностью утверждать, что не существовало момента непосредственного проживания ситуации курения, когда со стороны видно спящего человека, воспроизводящего жестами (да и химией тела, до определённой степени тоже) данный процесс.

А автобиографическая память ненадёжна, чтобы на ней строить подобные универсальные теории. Известно множество случаев ложной памяти. Человек абсолютно уверен, что с ним нечто случилось, хотя все вокруг подтверждают, что этого с ним не было. В обратную сторону тоже. Все вокруг говорят человеку, мол, ты был там в прошлом году, делал то-то, мы были с тобой. А у него полный провал, и даже его собственные фотки ни о чём не говорят. И это я говорю о нормальных людях без всяких нейродегенеративных заболеваний.

Так нас интересует вообще наличие автобиографической памяти, пусть даже с ошибками, а не сами ошибки.

Но если мы рассматриваем андроида с ИИ, типа тех, кого показали в "Западном мире", то логично предположить. что личная история в них тоже заложена. Мол, "последние 10 лет я была хозяйкой борделя". Вполне можно в контекст рассуждений об условном прошлом вписать некую историю, семантически схожую с нынешним состоянием.

А что насчёт гипноза? Ввести в состояние "представьте, что...", где начинают видеть картинки на "внутреннем экране", и попросить описать, что человек видит. Такое используют психологи в терапии прошлыми жизнями. Там, конечно, не прошлые жизни просматриваются, а некий сюжет, который на очень абстрактном уровне отражает какое-то заряженное состояние в психике человека, типа как сон. Во всех мной изученных скриптах у человека в воображении разворачивалась целая связная история, погруженная в исторический контекст, появляющийся спонтанно.

Меня всякий раз восхищает этот механизм у нас в психике/мозгу/сознании, что создаёт эти сюжеты. Прямо какая-то созидательная сила. Может ли ИИ потенциально создавать воображаемые миры и проживать в воображении свою смерть?

Я не большой специалист в степенях гипнабельности, но, мне кажется, что на уровень "представьте, что..." могут выйти все люди без специфических органических поражений мозга. Хотя, конечно, это не затрагивает людей с психическими болезнями.

//Может ли ИИ потенциально создавать воображаемые миры и проживать в воображении свою смерть?
//
Это была одна из первых мыслей - у машины не может быть воображения. К сожалению, машины нас уже превзошли в этом, вернее в имитации воображения - они могут такое написать, что у вас волосы дыбом встанут. Причем они умеют это делать на основе биграмм в цепях маркова или неройросети куда лучше нас. Нам такие фантазии даже не приснятся. Потому что их можно специально настроить на построение цепей с редкими переходами.

Высокоразвитые личности и примитивные обыватели по-разному понимают СТРУКТУРУ человеческого/русского языка, то есть естественные взаимосвязи общих понятий, таких как: народ, общество, коллектив, человек, свобода, права, собственность, эгоизм, объединение, возвышение...
Обычный бытовой язык, используемый для общения, основан на ИНТУИТИВНОМ понимании изменчивых взаимосвязей КОНКРЕТНЫХ реальностей.
Структура/система человеческого/русского языка подобна системе химических элементов, так как отражает постоянные естественные взаимосвязи общих понятий и соответствующих им общих реальностей.
В виде выводов из анализа структуры русского языка образуется научно обоснованное мировоззрение, а из множества вариантов ИЗВРАЩЕНИЙ естественных взаимосвязей понятий образуется ПЛЮРАЛИЗМ примитивных мировоззрений.

Все научно обоснованные рассуждения надо обосновывать последовательно, с самых азов.
Современные философы, политики, идеологи, делают вид, что ОТКУДА-ТО уже знают естественные взаимосвязи общих понятий/категорий, (хотя никогда их специально не изучали), и с умным видом рассуждают об устройстве действительности, используя или бытовой разговорный язык или многозначные неопределённые понятия.
Поэтому все их рассуждения построены на песке обычных субъективных мнений.
Относительно долго держатся только некоторые субъективные мнения отдельных авторитетов и групп единомышленников, но это не значит, что они объективно отражают какие-то взаимосвязи понятий и соответствующих им реальностей.
Соревноваться в объективности отражения с СТРУКТУРОЙ человеческого/русского языка бесполезно в принципе.

Надеюсь, Вы знаете, что в возрасте около 3-х лет в жизни ребенка происходят два события, которые навсегда выводят его из мира животных. Повторю: первое (Н.Н. Ладыгина-Котс) - он выделяет себя из окружающего мира, называет себя "я" Этот момент и регистрируют, как "пробуждение" сознания.
Второе: он начинает говорить. По данным Б. Уайта (Гарвардский ун-т) к этому моменту у ребенка накапливается около 80% будущего словарного запаса.
Речь - не критерий сознания, это - его условие в соответствии с его пониманием людьми...

Про речевой взрыв я знаю много вплоть до экспериментальных цифр. О нем хорошо написал Якобсон в свое время, что именно в этот момент для ребенка появляется прошлое и будущее (чуть позже). И он научается управлять собой при помощи речи. Вот что отличает человеческое сознание. Но сознание как ориентировочная деятельность (по Гальперину) присуще не только человеку. Оно присуще любому существу, которому как он писал в "Психика как ориентировочная деятельность" приходится решать, что делать (ему) в новой ситуации, когда есть варианты.

Я собиралась учиться на психфаке, но во-время поняла,что науки психологии не существует, там анализ фактов подменяется рассуждениями о том,как ситуацию понял тот или иной ученый.
\\именно в этот момент для ребенка появляется прошлое и будущее\\
Из чего это следует? Где доказательства?
\\И он научается управлять собой при помощи речи.\\
Еще не лучше! Доказательства?! Зачем ему это нужно?
БЕЗУСЛОВНЫЙ ориентировочный рефлекс ("рефлекс "что такое")направлен на обеспечение безопасности живых существ с развитой центральной нервной системой, их адаптации к среде обитания.
У человека он существует в виде сознания - УСЛОВНЫХ рефлексов, образованных 2-й сигнальной системой (речью).
Такова физиологическая основа сознания и таковое есть только у человека.
Варианты "рассматривает" разум; физиологическая основа этого феномена - аналитико-синтетическая деятельность коры больших полушарий головного мозга...

  • 1
?

Log in