windeyes (windeyes) wrote,
windeyes
windeyes

Category:

из беседы Деннетта и Чалмерса Philosophy and AI 4.10.19

Наши умы постепенно переходят на вычислительные системы, пока только относительно небольшими частями - воспоминания, системы планирования, навигационные системы, но вопрос уже может стоять так: кто имеет большую часть моего мозга- Google, Apple или Facebook? На данный момент это, скорее всего, Google. Мы уже становимся гигантскими экзоорганизмами с гигантским экзокортексом, уже фактически никуда не идем, не посоветовавшись с ним. Ему уже принадлежит довольно большая часть нашего разума. Мы уже в ситуации, когда нам приходится оказывать им доверие. Хотя, да, пока они еще не забрали весь наш разум. Наше сознательное ядро все еще не в цифре, а в биологии, но это лишь вопрос времени. Однако, все больше и больше наш мозг перетекает в облако, это взаимодействие с ним непрерывно и вот может стать так: ваш био-мозг умирает, а вы двигаетесь дальше, как Корабль Тесея, в другую жизнь. В какую?

Многие видят видят этот переход, как форму смерти, что это будет больше не я, а кто-то, моя копия, что-то, что больше не будет в сознании. Или – будет? Если да, то – в каком?

Или, может, эволюция интеллекта на основе углерода была просто катализатором в эволюции интеллекта на основе кремния, который поможет выжить в гораздо больших экстремальных условиях?
Ведь био-эволюция сейчас в значительной степени вытесняется культурной - развитие языка, письменности, компьютеров - а техно-эволюция может значительно опередить даже культурную.

И сводится все к тому, будет ли ИИ иметь сознание и какое? Деннет приводит пример иллюзии сознания: вы входите в комнату, глаза Кога (робота) будут следовать за вами через всю комнату. Известно, что Ког – без сознания, но у него поразительно убедительное поведение, «сознательное» рукопожатие. Т.е. проблема может быть в понимании, что нет, они не сознательны. По крайней мере не сознательны в нашем понимании.

Как мне проверить, в сознании кто-то или не в сознании? Как мне узнать, что именно он осознает? Через мое общение с ним. Например, такое (Деннетт) : если вас обвинили в чудовищном преступлении и у вас есть выбор между судом присяжных, судом или судом ИИ, хотели бы вы в этой ситуации испытать ИИ на сознание?

Риски, недостатки и этика ИИ стали чрезвычайно актуальны за последние два- четыре года. Существует партнерство по выработке этических принципов управления ИИ, в котором участвуют некоторые ведущие компании, занимающиеся искусственным интеллектом - Google, Facebook, DeepMind.
Основная опасность не что машины станут неотличимы от людей, а что люди, общающиеся с ними станут машинами.

Мнение Деннетта - надо сразу же усечь ИИ, свести к чисто утилитарному – мухи отдельно, котлеты отдельно. Не надо позволять ему начать самовоспроизводиться, начать общаться, ведь из этого общения может возникнуть некое общее системное сознание, а из этого общего и индивидуальное, совершенно неведомое, чуждое, опасное.
https://www.edge.org/conversation/david_chalmers-daniel_c_dennett-is-superintelligence-impossible
Tags: nb
Subscribe
Buy for 10 tokens
Buy promo for minimal price.
  • Post a new comment

    Error

    default userpic

    Your reply will be screened

    Your IP address will be recorded 

    When you submit the form an invisible reCAPTCHA check will be performed.
    You must follow the Privacy Policy and Google Terms of use.
  • 7 comments