?

Log in

No account? Create an account

windeyes windeyes
Previous Entry Share Next Entry
Обратные аналогии Витгенштейна с животными
Лев, который если бы вдруг заговорил человеческим голосом, был бы понятен нам или нет; собака, которая никогда как будто не врет - не может попросту - можно ли о ней сказать, что она искренна? Может ли вообще животное, даже самое развитое, притворяться? Если нет, то неужели оттого, что оно такое уж честное? Почему нет? Потому, что искренность, честность не что-то само по себе, а результат степени взаимопонимания? От которой и зависит развиваемые ими глубины?..

Buy for 10 tokens
Buy promo for minimal price.


Я не только о человеке. Я не очень ясно выразился, может быть. Попробую немного развернуть.

Любая нервная система строит более или менее сложную действующую модель окружающего мира в реальном времени. Поддерживает и обновляет ее от сенсорного входа и на ее основе оптимизировать моторный выход. Нервная репрезентация реальности возникла ради оптимизации поведения (т е основная ее функция - прогностическая, прогнозы же легко проверяются, на чем и основано обучение), и в этом смысле чем она объективнее и точнее, тем, грубо говоря, лучшие значения полезности (неких НЕСКОЛЬКИХ объектных функций, не важно каких) мы получаем - и в моменте, и, главное, на некотором отрезке времени после принятия решения. И поэтому "стремится" быть правдивой, картина мира "стремится" быть адекватной, как не велико бывает искушение обмануть себя. И по этой же причине в кооперированной группе коммуникация стремится быть правдивой. Правдивость - это ее натуральное состояние, так сказать. А если под давлением каких-то локальных максимумов полезности происходит вранье (локальных и во времени и по членам группы: например одному члену полезно соврать ради своего локального интереса), то ее последствия примерно те же, что и при ошибке/обмане внутри индивида.

Кстати о целевых функциях. Ну, понятно: боль, голод, все эти первичные вещи. Но есть интересные более абстрактные функции, оптимизация которых способствует оптимизации и боли с голодом. В первую очередь - новизна, желание получать опровержения прогнозам. Или любопытство, желание уметь прогнозировать то, что сейчас выглядит непредсказуемым. Бескорыстное желание понимать. Бескорыстное в том смысле, что возникает не под конкретную задачу. Но связанное с первичныими задачами в том смысле, что повышает точность прогнозов и тем самым вероятность высокой полезности по первичным задачам. Желание понимать даже не "на всякий случай", а безусловное, заложенное даже не как как результат предобучения, а как одна из целевых функций. Если не ошибаюсь, машин-лернинг-приложения с такой или похожей мотивацией "из любопытства" играли в несложные видеоигры и демонстрировали мотивационно-психологические феномены, понятные на человеческом языке. Например, если трудно пройти какую-то ветку игру, от нее отступаются ради других, и тем самым оставляют неисследованной. Обратите внимание, что это - внутренняя мотивация, стимулирующая самообучение. Другие варианты такой "универсально потенциально полезной" внутренней мотивации -
самопоощрение выявления закономерностей, дающих верные прогнозы, интерес к абстрагированию (проверяется тем, переносится ли закономерность на другие данные).. Интерес к снижению размерности описания (выявлению наиболее предсказующе эффективных факторов, как это делает, например, сеть-автоассоциатор, где внутреннее представление "вынуждено" возникать на меньшем количестве элементов, чем их во входном им выходном слое). Ну и далее, например, по "Психологии интеллекта" Пиаже: каждая из рассмотренных им операций - отличная целевая функция. Вопрос только в том, как именно операционализировать для той или иной задачи, но это вопрос, думаю, уже более или менее технический.

И далее интересно то, что эти целевые функции в принципе различны, т е в некоторых условиях конфликтуют: повышение полезности по одной ведет к снижению по другой. И отсюда весь психоанализ по поводу внутренних противоречий: дезинтеграция внутреннего мира вокруг локальных пиков полезности отдельных составляющих (Обычно рассмотрены доверие - защита, кооперация - агрессия, или, как это называют в английском кляйнианском анализе - любовь-ненависть. Но это - уже не самый низкий уровень, это уже производный конфликт от, в частности, конфликта жажды новизны и жажды эффективного предсказания)..

...>