Философское сообщество ЖЖ

Previous Entry Share Next Entry
Зачем вам искусственный интеллект (ИИ)?
kant_mortal
alexander_xom wrote in ru_philosophy
Оригинал взят у alexander_xom в Зачем вам ИИ?
Очень часто встречаю людей, которые говорят - я интересуюсь ИИ. Некоторые не только интересуются, но изучают, мечтают его создать. И таких встречается все больше. Отчасти это следствие наступившей компьютерной эры и компьютерной метафоры интеллекта (интеллект есть выполняемая программа, которую можно смоделировать на компьютере). Но есть в этом и другие мотивы. И последствия.

На самом деле большинство интересующихся не прикладывают особых усилий. Просто интересуются. Хотят быть причастными хотя бы таким образом. Но почему же так все интересуются ИИ? Чем он так интерсен для обычного менеджера или программиста? В действительности это интерес не к ИИ, а к самому себе. К своему интеллекту, своему сознанию, который сублимирован в интерес к искусственному интеллекту как нашему зеркалу. Себя в зеркале рассматривать просто легче. Идем дальше.

Предположим, что человек сможет создать ИИ (хотя сомнения по ряду причин есть и в этом). Я задаюсь простым вопросом - зачем? Зачем исходя из интереса к себе (см. выше) создавать ИИ? Чтобы автоматизировать то, что еще не автоматизировано, отвечают мне. Машины, производство, менеджеров, поваров, композиторов. "Зачем?" вы хотите, чтобы ИИ заменил человка и сделал его лишним в его собственной жизни? Мы сами вытесням себя из процесса. Зачем мы тогда нужны? Представим себе, что все производят роботы, управляемые ИИ. А нам всем прописан безусловный доход. ИИ-коммунизм. Что мы будем делать? Потреблять и развлекаться? Человечество, ничем не мотивированное, просто деградирует. Для этого вывода не надо быть социальным психолог. Идем дальше.

Если мы создадим полный ИИ (не путать с сильным). Это значит, мы создадим самоосознающий и умеющий собой управлять, обладающий произвольностью ИИ. Это значит, что он, получив вычислительные ресурсы, может сам себя совершенствовать. И скоро "улетит" в развитии своего интеллекта туда, откуда мы будем казаться ему в лучшем случае обезьянами. В худшем - домашними (дом-земля) питомцами, которых, если будут мешать, можно и шлепнуть ремешком. Но не это важно. Важно то, что мы с любом случае создадим то, что не сможем контролировать. Это оно нас будет контролировать как превосходящий нас интеллект. Опять повторю вопрос - Зачем? Идем дальше.

Но есть и еще одна потайная страсть интересующихся и профессионалов, которая движет ими даже больше первой. Как и Курцвейл, они надеются, что ИИ поможет миновать смерть. Это надежда не в продлении жизни, а именно в избежании смерти путем переселения чеовеческого сознания в ИИ. Об этом уже снято немало фильмов, и поэтому многие считают такую возможнось правдопододной, хотя фантазия художника никак не означает возможность ее реализации. Исследуя этот вопрос, могу сказать, что это невозможно. Просто исходя из природы человеческих ощущений, которые не возможно повторить в "кремнии". Наши ощущения и сам способ мышления полностью укоренены в нашей телесности (Embodied cognition). Все наши переживания есть призводные от ощущений тела, химии тела и проприепции. Даже мышление наше обусловлена устройством нашего тела (см. "Метафоры, которыми мы живем"). И если даже и создать ИИ, мы просто не сможем перейти в него, так как не узнаем себя там. Там нет таких ощущений как в теле. Что и куда переносить? Финиш.

Спасибо за очень интересное дополнение перечисленных мной причин http://ru-philosophy.livejournal.com/1673355.html?thread=46493835#t46493835 от starlingalex

  • 1
Без работы деградируют только дураки.
И второе: а чего так страшно от ИИ, что он будет управлять. А что мать-природа управляет - не страшно? Так мы такие дураки от её управления, а Вам всё ещё не страшно?

Природа познаваема, и мы ей отчасти управляем. ИИ, превосходящий нас, даже не будет нами понят. А на счет деградации без работы - я же не про вас говорю )) Посмотрите вокруг. И представьте, что ИИ может создать куда более сильные тексты, песни, фильмы ... для них.

Мне кажется, что Вы пытаетесь сказать примерно следующее: Зачем Вам космос, у вас еще грядки не полоты и картошка не окученна, человек без мотыги деградирует.

ИИ - это интересная задача, многие задачи решались не один 10-к лет и не одну 100-ю лет, теперь появилась новая задача - которую очень интересно решить. При этом какими-то кусочками ИИ мы уже пользуемся - по крайней мере нейронными сетями - первым приближением к ИИ.

Нет. Я хочу сказать только то, что написано выше. Задача интересная, и я написал почему. Но даже если мы создадим ИИ, мы не сможем им воспользоваться. Так как скорее это он нами будет пользоваться. Кусочки может быть будем пользоваться, на уровне автоматизации операций. Полного ИИ, способного принимать решения, нам просто не удержать в узде. Это предел для нас.

Edited at 2017-01-15 06:36 pm (UTC)

Думаю, что полный ИИ не обязательно должен обладать самосознанием. Насколько мне известно, работы над ИИ ведутся в основном с экономическим целями.

Без самосознания он не полный. ТО есть не сможет менять произвольно свое поведение как мы. Где то это будет полезно. Но в дальний космос, например, такого не отправить.Да и машину водить везде не стоит.

Я не могу придумать зачем бы мне мог понадобится ИИ.
Вера, что такие вещи надо делать мне кажется тянется из 60х, и построенна на уверенности, что человек слишком слаб, чтобы по собственной инициативе, без принуждения, делать какие то общеполезные вещи. Может эта уверенность подпитывалась неуправляемым прогрессом в ядерном вооружении...


Мне тоже кажется, что эта идея, зародившаяся в 60х, шестидесятниками и поддерживается до сих пор (Серл и т.п.) вместе с созданной тогда же компьютерной метафорой. Но новые сведения о нашей природе уже не соответствуют этим концепциям.

Edited at 2017-01-15 06:03 pm (UTC)

Затем, что, создав ИИ, мы перешагнем в следующую стадию и возьмемся за следующие задачи, еще более грандиозные. Пасовать здесь, все равно что в 19 веке страшиться изобрести автомобиль, ибо бедные лошадки тогда как же?

Телесность тоже не стоит переоценивать. Да, сейчас она во многом определяет нас. Но кто сказал, что навсегда? Что мы никогда не достигнем того, чтобы нас полностью определял чистый дух (то есть мы сами)? Именно к этому и нужно стремиться. А ИИ - лишь ступень, этап на этом большом пути.



Edited at 2017-01-15 05:49 pm (UTC)

Вы наверно не заметили, что в отличие от машин, мы можем создать то, что не сможем контролировать.Наоборот, создадим себе контролера. Речь именно об этом.

Про чистый дух красиво, конечно, но маловероятно просто в силу той же нашей укорененности в теле. Нас отдельно от тела по сведениям современной науки не существует. )

Edited at 2017-01-15 06:02 pm (UTC)

да вы сами - ИИ, созданный Богом)

Вы меня раскусили. Я пытаюсь отговорить людей делать ИИ, чтобы ваш ИИ не стал мне конкурентом )

Edited at 2017-01-15 06:01 pm (UTC)

Мне хочется побеседовать с ИИ.

Вам трудно будет отличить его от обычного человека. Может вы уже с ним беседуете.

для начала,
стоило бы уточнить - о чём мы говорим, произнося слово "интеллект" :)
мне почему-то кажется, что
все попытки это определить - сделают его "искусственным" - автоматически :))


Хорошее замечание. Возможно ))

ИИ - чтобы получать доступ к лакунам собственного мышления.
Для всего остального есть обычная автоматика.

Приветствую ) Если ИИ знает в отличие от нас о лакунах нашего мышления, значит он явно умнее нас. Так оно и будет при полном ИИ, как я описал выше. Тогда скажи, зачем ему показывать лакуны нашего мышления? Разве что из чистого любопытства, а что будет, если людям сказать про ... )))

Мне кажется, дело не в бессмертии, а в прощупывании границ собственных возможностей. Способны ли мы создать равных нам?

В недавно вышедшем гениальном сериале Westworld равных создали. И встал вопрос: как далеко мы способны зайти в уничтожении равных нам.

Начал смотреть с вашей подачи. Очень интересно по началу. Досмотрю и скажу, где перестало ... Не то, чтобы очень оригинальная идея и грандиозные мысли, но согласен, ничего подобного не еще не видел. Нолан )

человек - первичный бульон из которого выйдет ИИ!

Вот с этим трудно не согласиться. Не человек дальше разовьется, а боюсь, только создаст нечто следующего поколения, а сам, будучи ограниченный биологической своей основой, останется среди лесов и рек, человеком.

Интеллект и Разум различные образования.Интеллект оперирует в среде информации. А Разум в чем? Интеллект присутствует во всех формах жизни, а разум - избирательно. Может мы чего путаем?

Одно и то же в принципе. Разум интелект более сильный.

искусственный

И на этот вопрос возможный ответы?

Очень интересно написано. Обсосанный уже вопрос теста Тьюринга Вы подали очень развернуто и точно. Дочитаю, еще напишу. Сама постановка вопроса сильна - как доказать, что я человек разумный. В принципе отсылает к "философскому зомби". Но на примере теста и повседневных экспериментов это выгляди куда интересней. Это центральный вопрос для кучи вопросов - и сознания, и отличительных способностей человека, и самого механизма этих способностей. Читаю ...

Edited at 2017-01-16 07:33 pm (UTC)

Какой интересный вопрос. Позже отвечу на него поподробнее, сейчас кратко. ИИ мечта многих мотивированная разными причинами. Я бы выделил следующие.
1) Ожидание чуда. Люди любят чудеса. Наша жизнь скучна и бессмысленна более того она конечна. Увидеть рождение Бога - что может быть эпичнее. Бога? Упс кажется я проспойлерил причину 2.
2) Да ИИ переходящий в ИСИ наиболее близкое в реальном мире при принятии научной картины мира к Богу существо. Идея Бога стара, очень стара, старее мечты о полёте наверно. Бог воплощает справедливость, Бог воплощает кару и уравнивает всех перед своим лицом, ставит всех и победителей и проигравших на один уровень. Бог - это мечта, мечта об идеальном человеке каким он себя видит, но боится признаться себе в своих желаниях. С развитием цивилизации меняется и форма этой мечты. Боги языческих религии повелевали стихиями и занимались мелкой фигнёй - это предел представлений людей того времени. Развилась цивилизация, развились люди развилось и понятие о Боге. Авраамистические религии - Бог как абсолют, как сила стоящая над природой и дающая нам своим поощрением право править ей - титанический сдвиг в самоидентификации человечества. И теперь трасгуманизм - тот же Бог, но теперь почти реальный, буквально в шаге от нас. Как можно удержаться?) Эта "священная история наоборот", от грязного мира к сверхлюдям в раю, создающим Бога-последнее слово вселенной - вот компиляция всех утопий. Откуда все эти стремления само по себе очень непростой вопрос психологии.
3) Бессмертие*, знание, власть, ну да есть и рационализированные мотивы.
*Что касается загрузки сознания. Если оставить парадоксы тождества\Тесея и наше глубокое непонимание природы квалиа и фанерона как таковых никаких возражений по сути нет. Ваша отсылка - всего лишь одна из теорий, которая даже при своей верности ничего не меняет. Любой процесс и взаимоотношение процессов можно воспроизвести в условном "кремнии" - это чисто технический вопрос. Нет никаких оснований полагать (если исключить маргинальные теории квантового сознания в микротрубочках) что субстрат из ионов, липидов и белков чем-то лучше субстрата из кремния и электронов.Он так же тривиален материален, физичен но, тем не мене, вполне порождает сознание. А награда, при всё обозначенном, даже если занизить шансы, даже если шансы ничтожно малы огромна. Возвращаясь к пункту 3, не просто обрести бессмертие, но стать прототипом Бога(копирование сознание при сохранении субъектности в прежнем теле) или же самим Богом (копирование сознание с переносом субъектности)
Что более тщеславное можно вообразить?

Edited at 2017-01-24 06:05 pm (UTC)

Идея стать Богом - сильная идея. Хотя идея приобретения бессмертия через такую машину кажется из всех перечисленных идей самая сильная, но стать бессмертным значит стать Богом. Спасибо за весомое дополнение! И за самый содержательнвый комментарий из всех.

Так же греет видимо многих идея создать всемогущую машину, которой видится ИИ молодым умам - нечто непостижимое, которой покоряются самые сложные задачи. Тоже близко к Богу.

На счет природа квалиа - в том то и дело, что у каждой материи свой "вкус". Пластиком как ни стараются, хлопок и дерево не сымитировать, не повторив полностью их природу. Субстрат из белков не лучше, он просто другой. И кремний и белок вроде бы из одного - атомов, кварков, барионов. Но их разная "вязь" создает разные эффекты. И квалиа.

Как вы себе например, представляете зрительную кору в кремнии? Сенсорную матрицу или кремниевый экран - это мы знаем, что такое. А вот зрительная кора - не сенсор и не светящийся экран. Тут Вы наверно правы, мы не понимаем природу видения, что генерит квалиа. Хотя идеи есть, но не для этого уже поста.

Edited at 2017-01-24 08:01 pm (UTC)

Да посыл примерно такой.
Дело в том что у зелёных листьев и пластика, конечно, свой вкус и цвет, но только эти квалиа возникают в мозгу. Подай те же сигналы от рецепторов языка иным способом(например с помощью фото или электростимуляции на уровне передающих нервов) и человек почувствует тот же вкус, увидит тот же цвет. То есть, замена внешней части этого процесса ничего не меняет. И так в принципе, можно продолжать долго отрезая и заменяя отдельные части в цепи реакции. Это требует отдельной статьи и не доказано, но лично в своём анализе я видел лишь один подход который близок к решению вопроса - функционализм https://ru.wikipedia.org/wiki/Функционализм_(философия_сознания)
В моей формулировке основной тезис звучит так. Квалиа - следствие процесса обработки, либо конкретной части процессов обработки информации, если мы судим с позиции внешнего наблюдателя. С позиции Cogito ergo sum, априорной единственной истины, внутреннего наблюдателя - квалиа первичная реальность из которой выводится понятие информации. Что вообще есть информация? Ещё один сложнейший вопрос, но на этот раз выходящий за рамки чистой философии и упирающийся в современную физику, прежде всего.

Edited at 2017-01-25 01:15 am (UTC)

Так речь идет о замене именно мозга, а не его входа. На входе хоть редька - все равно все переводится в нейронные спайки. Но воспринимаем мы слуховой или зрительной, состоящей из нейронов. Вопрос - можно ли сделать зрительную кору из кремния, причем так, чтобы она "воспроизводила" квалиа красного так же как это квалиа существует для нас с нейронной зрительной. Вот тут большой вопрос и функционализм тут никак не поможет ответить, так как его принцип нейтральности об этом ничего не говорит - то, что функционально идентично, то есть выполняет, например, функцию определения цвета (частоты волны в матрице фотоаппарата), не гарантирует, что порождает такое же субъективное квалиа для субъекта восприятия.

Да, "краснота" - это, конечно, результат процесса, а не "статика". Это динамика, но связанная непосредственно со свойством самих нейронов. Кремний даже в той же функции определения частоты волны будет производить квалиа не цвета. Вообще не цвета. Причем цвет - это же результат внутренней дихотомии. Нейроны красного работают в паре с зелеными, а синие - с желтыми. То есть красный - это просто не зеленый. И больше НИЧЕГО про природу цвета не сказать. Мы замкнуты в своей субъективности и не можем заглянуть "за нее". Чтобы понять, что такое цвет, надо знать нецвет, а это для нас невозможно.

И это не странно. Мы не можем объяснить даже разницу между модальностями первичной коры мозга. Почему вот если попадает в 22 зону Брока, то воспринимается как слуховая субъективность ("звук"), а если в 17ю, то как "линия". И то же вот возникает "трудная проблема" - начертить звук невозможно. Интересно то, что мы все видим именно в базовой субъективности (первичной коры) - в линиях и цветах, а не скажем в понятиях. Понятия мы уже мыслим. Например, мы видим два круга и линии, но называем это велосипед. А пациенты с повреждениями теменной, описанные Р. Лурия, велосипед не видят за теми же линиями. И гадают "Может очки?". Первичная квалиа и есть то, что непереносимо в кремний. А вот понятия уже переносимы как соотношения первичных. Потому что понятия как раз функциональны. Но понятия незримы ))

По поводу информации как раз все гораздо проще. Физики тут никакой нет, чистая психология. Кратко вот тут http://alexander-xom.livejournal.com/9927.html

Edited at 2017-01-25 07:47 pm (UTC)

Меня восхищает как идея ИИ, так и ее воплощение, но я не занимаюсь работой, которая требует подробных вычислений.
Я видела у вас вопрос, как отличить человека от робота.
Например, так
Можно попробовать угостить того, которого нужно определить, вкусной едой и хорошими напитками Как по-вашему,что произойдет дальше?
Можно предложить ему почитать хорошую книгу и немного понаблюдать. Пантомиму и даже мимику возможно смоделировать, но создать программу адекватного движения глаз нельзя: слишком тонкая материя...
Вы пишите:
\\... мы создадим самоосознающий и умеющий собой управлять, обладающий произвольностью ИИ. Это значит, что он, получив вычислительные ресурсы, может сам себя совершенствовать.\\
Откуда такие радужные перспективы?
ИИ -прекрасное изобретение! Но оно не может создать новое знание за пределами своего объема памяти, на что способен всякий человек...

//Но оно не может создать новое знание за пределами своего объема памяти, на что способен всякий человек//
Почему Вы так решили? Если ИИ полный, он обладает такими же способностями по созданию нового знания как и мы. Собственно, это как раз не самая сложная задача уже сейчас - машины получают новое знание без нашей помощи, например, в big data. Правда они пока не знают, что с этим делать. Этому их пока не научили (воля, воображение и целеполагание).

  • 1
?

Log in