02:00 

За пятьдесят лет до конца света - 3

almaburu
Часть третья: побег из китайской комнаты.

В прошлый раз мы обсуждали историю нейронных сетей и основные принципы их работы, а также то, почему они не очень похожи на настоящий интеллект.

Время поговорить о настоящем интеллекте.

Предположим, мы хотим сделать настоящий, разумный ИИ, как ГЛАДОС в компьютерной игре “Портал Два”.

Первая проблема в том, что даже на сегодняшний день мы не знаем определения разума. Мы не знаем что это, как оно работает и даже не уверены есть ли оно вообще. Это настолько фундаментальная проблема что в нейрофизиологии она называется “сложной”, в том плане что все остальные проблемы рядом с ними выглядят простыми и их можно хоть как то решить, обложившись неограниченным времени и ресурсами.

Проблему разума с наскоку решить нельзя.

Три логических эксперимента раскрывают сложность Сложной Проблемы очень хорошо, и первый из них это всем уже надоевшая до усрачки китайская комната.

Прежде чем говорить о китайской комнате, упомянем проблему корабля Тессея. (Внимание, чтение третьей и четвертой частей этого опус магнум может вызвать легкое ощущение экзистенциального холодка в области спины)

1.
Тессей плывет на корабле. Корабль дает течь, и его чинят. Рано или поздно в корабле не останется ни одной старой доски.

Или вот, железный дровосек отправляется в лес и заколдованный ведьмой топор отрубает ему ногу. Дровосек меняет ногу на железную, но топор отрубает руку. Так повторяется, когда топор наконец не отрубает ему голову.

Но ладно, черт с ним с кораблем.

2.
Предположим, мы заперты в комнате и нам подают листки бумаги с китайскими иероглифами. У нас есть большая библиотека книг, которая описывает как формируются правила китайской грамматики. Книги не объясняют что означают иероглифы, но только что нужно написать в ответ, чтобы этот ответ был осмысленным.

Для стороннего наблюдателя будет казаться что он разговаривает с китайцем и ведет осмысленный диалог, даже если мы сами при этом не понимаем ничего из того что мы делаем.
Это очень старый парадокс и он изначально применялся к человеческому сознанию чтобы показать как тяжело связать результат когнитивных процессов (логос) с механической основой мышления (мозг). Сейчас можно заметить что китайская комната довольно хорошо ложится на машинные переводы и речь - понимает ли гугл что значит китайский, когда он переводит с китайского на русский?

- Но знания не взялись в китайской комнате сами по себе - скажет нам наблюдатель - разумный человек внес их в комнату и комната является продолжением его сознания и опыта!

Хорошо, мы пока примем это объяснение.

3.
Допустим, мы решили сделать манекен, который будет изображать человека.
Если разговаривать с манекеном, то он будет отвечать и делать это правдоподобно. Он будет изображать человеческие эмоции, плакать, смеяться, реагировать на боль и кричать если его уколоть булавкой, словом он будет полностью идентичен настоящему человеку за одним исключением - манекен не живой, а всего лишь работа сложных механизмов.

Философский зомби (а именно так называется наш манекен) это попытка дать ответ на вопрос о феномене ощущения и наблюдателя - а именно, возможны ли физиологические реакции на боль без феномена ощущения (квалии) самой боли?

Философский зомби это тот водораздел где все исследователи интеллекта делятся на два больших лагеря - лагеря эмерджентов, тех, кто считают разум некой неуловимой субстанцией, возникающей такой сложной системе как человеческий мозг и фундаментально разделяющей сознание от бессознательного (назовем ее гнозисом от греческого “знание”), и второго лагеря, который принципиально отрицает существование гнозиса, и считает всех нас философскими зомби, а сознание всего лишь сложной иллюзией, шумом в мозговых проводах.

Какой из лагерей прав?
Мы не знаем. Не исключено что оба, а возможно и никакой.

Итак, мы хотим сделать ИИ. ИИ будет читать текст, который мы наберем ему с клавиатуры и выдавать ответ.

ИИ обучен на огромных массивах текстов. Мы знаем из прошлых глав что весьма условно мозг можно считать большой машиной по трансформации входных данных в выходные, и что для людей входными данными будут зрение и слух, а выходными речь и положение конечностей в пространстве.
Наш ИИ будет очень похож, но значительно, значительно проще. ИИ будет трансформировать текст в текст. Мы так же знаем что на достаточно больших объемах текстов ответы ИИ будет неотличимы от ответов человека с определенной степенью погрешности, к примеру в 95%.

Можно ли считать такой ИИ разумным?

На этот вопрос есть четыре возможных ответа.

а) ИИ обладает гнозисом как скрытым аспектом его сложной структуры.
б) ИИ не обладает ничем и ничем не умнее дрессированного попугая.
в) Вопрос бессмысленный, а несчасный ИИ не сможет доказать что он обладает сознанием в той же степени что и один человек не сможет доказать это другому (привет Тьюринг)
г) Вопрос бессмысленный, потому что само утверждение о феномене сознания бессмысленно.

Ладно, получилась довольно азбучная глава про азбучные вещи, но будем надеяться следующая будет поинтереснее.

3/4

URL
Комментарии
2017-03-14 в 10:46 

по направлению к свану
а почему обращаясь к проблеме разума вы (и подавляющее большинство) оказываетесь тут же в поле действия так называемой философии сознания в духе чалмерса и этой вот тетеньки-фашистки черчленд (? кажется такая у нее фамилия), и совершенно игнорируете ту же КЧР канта? потому что способность читать тексты длиннее двадцати страниц утрачена навсегда? вам не приходило в голову, что неразумный в принципе не может судить о разуме?

2017-03-14 в 11:04 

almaburu
по направлению к свану, мне кажется тут какой то наезд, но он для меня вышел очень сложным.

URL
2017-03-15 в 10:18 

Болотный Пёс
Я как-то осознал однажды, что любой многоклеточный организм (и человек в частности) является, технически, колонией одноклеточных организмов, находящихся в облигатном симбиозе. Хотя ни одна из клеток не знает о существовании большинства других клеток организма (что хорошо видно на примере опытов над отдельными нейронами, помещёнными в физраствор), вместе они представляют собой нечто с поведением и даже знанием об окружающем мире.
На данный момент количество людей на планете настолько велико и они настолько плотно взаимодействуют, что я не исключаю, что планета Земля уже обладает зачатками самосознания, но мы, будучи её отдельными нейронами, никогда об этом не узнаем.

2017-03-16 в 14:01 

Just-a-Shadow
I'm not dead... yet.
Мои рассуждения, возможно, покажутся наивными... я не уверен даже, что правильно пользуюсь философскими терминами.

Люди рассматривают боль, как что-то уникальное, что присуще только живым организмам. А ведь это всего лишь информация о повреждении клеток, которая вызывает определенную реакцию тела и сознания (при его наличии). Мозг устроен так, чтобы воспринимать боль как что-то очень нежелательное, чего следует избегать любыми способами, потому что это давало эволюционное преимущество.
И машина может "чувствовать боль", если снабдить ее датчиками и запрограммировать избегать определенных сигналов.

Но в человеческой системе координат отношение к боли меняется в зависимости от того, чья это боль.
неспособный чувствовать боль < способный чувствовать боль, но не разумный < способный чувствовать боль и разумный

С развитием технологий придется вписать в эту иерархию роботов с ИИ и без ИИ. И определиться, в каких случаях допустимо причинять им боль. Хотя люди до сих пор не могут определиться даже с животными.

Мое ИМХО - робот, даже без ИИ, мало чем отличается от животного. Его можно убить (уничтожить), если это требуется для твоего выживания. Но причинять боль без причины - не совсем здоровое поведение.

2017-03-22 в 23:27 

almaburu
Болотный Пёс, мне очень нравится эта идея, но не думаю что это будет работать по аналогии с нейронами, скорее уж мы сольемся в одно большое коллективное сознание.

Just-a-Shadow, ок ок!

URL
2017-03-23 в 11:05 

Болотный Пёс
Но возможно мы уже слились, просто не замечаем этого!

2017-03-23 в 18:52 

almaburu
Болотный Пёс, в осознаное.

URL
   

Waking up from the Yokohama dream.

главная