?

Log in

No account? Create an account

windeyes windeyes
Previous Entry Share Next Entry
из беседы Деннетта и Чалмерса Philosophy and AI 4.10.19
Наши умы постепенно переходят на вычислительные системы, пока только относительно небольшими частями - воспоминания, системы планирования, навигационные системы, но вопрос уже может стоять так: кто имеет большую часть моего мозга- Google, Apple или Facebook? На данный момент это, скорее всего, Google. Мы уже становимся гигантскими экзоорганизмами с гигантским экзокортексом, уже фактически никуда не идем, не посоветовавшись с ним. Ему уже принадлежит довольно большая часть нашего разума. Мы уже в ситуации, когда нам приходится оказывать им доверие. Хотя, да, пока они еще не забрали весь наш разум. Наше сознательное ядро все еще не в цифре, а в биологии, но это лишь вопрос времени. Однако, все больше и больше наш мозг перетекает в облако, это взаимодействие с ним непрерывно и вот может стать так: ваш био-мозг умирает, а вы двигаетесь дальше, как Корабль Тесея, в другую жизнь. В какую?

Многие видят видят этот переход, как форму смерти, что это будет больше не я, а кто-то, моя копия, что-то, что больше не будет в сознании. Или – будет? Если да, то – в каком?

Или, может, эволюция интеллекта на основе углерода была просто катализатором в эволюции интеллекта на основе кремния, который поможет выжить в гораздо больших экстремальных условиях?
Ведь био-эволюция сейчас в значительной степени вытесняется культурной - развитие языка, письменности, компьютеров - а техно-эволюция может значительно опередить даже культурную.

И сводится все к тому, будет ли ИИ иметь сознание и какое? Деннет приводит пример иллюзии сознания: вы входите в комнату, глаза Кога (робота) будут следовать за вами через всю комнату. Известно, что Ког – без сознания, но у него поразительно убедительное поведение, «сознательное» рукопожатие. Т.е. проблема может быть в понимании, что нет, они не сознательны. По крайней мере не сознательны в нашем понимании.

Как мне проверить, в сознании кто-то или не в сознании? Как мне узнать, что именно он осознает? Через мое общение с ним. Например, такое (Деннетт) : если вас обвинили в чудовищном преступлении и у вас есть выбор между судом присяжных, судом или судом ИИ, хотели бы вы в этой ситуации испытать ИИ на сознание?

Риски, недостатки и этика ИИ стали чрезвычайно актуальны за последние два- четыре года. Существует партнерство по выработке этических принципов управления ИИ, в котором участвуют некоторые ведущие компании, занимающиеся искусственным интеллектом - Google, Facebook, DeepMind.
Основная опасность не что машины станут неотличимы от людей, а что люди, общающиеся с ними станут машинами.

Мнение Деннетта - надо сразу же усечь ИИ, свести к чисто утилитарному – мухи отдельно, котлеты отдельно. Не надо позволять ему начать самовоспроизводиться, начать общаться, ведь из этого общения может возникнуть некое общее системное сознание, а из этого общего и индивидуальное, совершенно неведомое, чуждое, опасное.
https://www.edge.org/conversation/david_chalmers-daniel_c_dennett-is-superintelligence-impossible
Tags:

Buy for 10 tokens
Buy promo for minimal price.

Такие запреты ни к чему хорошему никогда не приводили.

Даже, если соответствующие решения/законы будут приняты, то вопрос о границе останется открытым. Получается противоречие: мы не можем определить когда и как возникает сознание, но сможем не допустить его появления в сложной алгоритмизированной работе, когда возникнет какой-нибудь эмерджентный эффект.

Кроме того, любой алгоритм воспроизводим и прозрачен, пока не возникнет этого самого качественного перехода всегда можно будет показывать, что речь идет о детерменированной контролируемой системе.

В-третьих, такой подход не запрещает исследования мозга, то есть приближение к пониманию его устройства с бионической стороны будет продолжаться и мы снова упремся в эту самую границу.

Edited at 2019-06-05 07:28 pm (UTC)

Получается противоречие: мы не можем определить когда и как возникает сознание, но сможем не допустить его появления - противоречие это очень мягко. Зависание. Ни туда, ни сюда.

В том-то и дело, что качественный переход во-первых, неуловим, и, в-главных, совершенно непонятно какого он будет рода/качества.

Так что, да упремся в стену и вообще можем на другие рельсы перескочить, от чего Деннетт и предостерегает.

Нашему "Я" в эту другую жизнь пути нет, к сожалению. Оно остаётся в теле.

А месту, которое оно занимало, свободному от него месту?

...вы двигаетесь дальше, как Корабль Тесея, в другую жизнь. В какую?

Ни в какую. Ссылка будет стерта, как только станет не нужна. А можно и весь массив стереть. Как Google+

_ Ни в какую. _

Стерта, стереть это не ни в какую. Это хотя бы в само это стирание. Что такое полная аннигиляция, какой энергии требует? Какой требует, такой и становится.