am. (antimeridiem) wrote,
am.
antimeridiem

Все-таки живой

Придумал сегодня мысленный эксперимент. Все из той же серии – «О природе сознания».


Предположим, что люди все-таки смогли написать программу, проходящую тест Тьюринга. Ну, или хотя бы такую, что демонстрирует поведение очень похожее на поведение человека. Тут не так важно, может ли эта программа кого-то обмануть – человек заранее знает, что перед ним робот, и живет в тесном взаимодействии с ним. Его роль может быть некой комбинацией: коллега-друг-раб. В чем это выражается? Робот всегда может воспользоваться своей глобальной эрудицией – все языки, все энциклопедии, все экспертные системы и т.д. Всё, что человечество сумело оцифровать, структурировать и формализовать к его (и соответственно вашим) услугам. Он обладает симулятором психики, адаптированным к достижению максимального комфорта для общения в сами. Одновременно он в курсе всех ваших дел, забот и желаний. С ним можно поговорить о наболевшем, поделиться новостями, спросить совета. И чем больше он с вами общается, следит за вашими реакциями, обобщает опыт этого общения, тем точнее он вас чувствует, тем удачнее, а может быть и неожиданнее, его реакции, ответы и советы. В дополнение к этому он обладает и неким подобием тела, может видеть, слышать, осязать, выполнять работу по дому или еще что. В общем, может быть и не копирует человеческое тело, но имеет свое «выражение лица» и может функционировать в реальном мире.

Конечно же, все это ловкая симуляция, результат действия программы, которая выполняется где-то на супер-компьютере, а ваш робот – это манипулятор и модем, имеющий «мозг» в удаленном доступе. Там же архивируется и структурируется его память.

Заметим, что в этом нет ничего принципиально невозможного, наверняка подобные программы и механизмы могут быть созданы.

Для того, чтобы робот ощущался как живой, программа демонстрирует эмоции – робот может устать, заболеть, проголодаться, испугаться и т.д. Причем это даже не нарочитая симуляция. Робот вполне может беспокоится о том, что прогноз обещает грозу, а с ним и перебои в связи и электропитании. Может устать, если его мощности не хватает или перегружен трафик. Или еще что – у роботов свои проблемы. Вирусы, например. Просто он реагирует на них не только сухими сообщениями на мониторе, а как человек – эмоционально окрашенными репликами, изменением поведения. Более того, возможно подобное эмоциональное поведение будет естественным следствием сложности программы, ее способности к саморефлексии и разнообразия поведенческих стратегий. Например, чтобы вас подбодрить, он может показать своим поведением, что жизнь робота тоже не сахар.

Пожив с таким роботом пару-тройку лет, уже будет почти невозможно относиться к нему как к роботу. Самым естественным будет принять наличие у него сознания. Ну, так же как «я» принимает на веру наличие сознания у окружающих его людей.

Заметим, что человек будет твердо уверен – что это лишь программа и мертвый механизм. Может быть, этот человек даже принимал участие в разработке этой программы. Но то, что он изо дня в день общается с этим комплексом «программа плюс механизм», уже не позволит ему относиться к нему формально. На всякий случай ему придется вести себя так, будто робот такая же сознающая личность, как человек. Потому как железо-железом, а кто его знает?

А теперь предположим, что сам этот робот как механизм и право пользования супекомпьютером стоит немалых денег. И вот человек обзавелся таким роботом, взял его в аренду, а потом обстоятельства изменились, и он уже не может его содержать. По договору тело должно быть возвращено, а все данные на дисках суперкомпьютера стерты. С учетом того, что робот в курсе всех обстоятельств жизни хозяина, он начинает беспокоиться, умолять что-то придумать, впадать в депрессию и т.д. и т.п. Понятно, человек никак не может отделаться от мысли, что тут затевается убийство. Но стоит ему нажать на некую кнопку, как программа мгновенно дезактивирует все эмоциональные подпрограммы и робот становится чем-то вроде комбинации гугля, дневника и мясорубки. Ничего не изменилось, кроме того, что робот больше не плачет и не умоляет его не отключать. Причем делает это искренне, т.к. ему просто нечем умолять и плакать.

Может ли такая кнопка помочь? Наживая на нее, мы никого не убиваем, просто блокируем действие неких, совершенно незначительных программ. А когда она нажата, перед нами просто программа и железо, и тоже об убийстве говорить не приходится. Но конечный результат все равно тот же – данные стерты, робот на складе. Не будет ли человек ощущать, что он отнес робота в «ветлечебницу», где его «безболезненно усыпили»? Или он просто избавится от абсурдной идеи, что робот все-таки живой?



Subscribe

  • пройденное

    Уил предпочитал ждать. Может быть, ему просто не очень хотелось? Но когда Уилу предлагали выбрать между синицей в руках или журавлем в небе, он не…

  • Листая назад

    04.06.16 ЭМОЦИОНАЛЬНЫЙ КПД Дорисовал сегодня финальную картинку к Сваровскому. Теперь нужно бы еще акриловую дорисовать, как-то она зависла, не…

  • Читая френдленту

    burrru: «Будем честны, мы читаем стихи и слушаем песни ради приятных ощущений. Важно понимать, что есть два основных вида таких…

  • Post a new comment

    Error

    default userpic

    Your reply will be screened

    When you submit the form an invisible reCAPTCHA check will be performed.
    You must follow the Privacy Policy and Google Terms of use.
  • 9 comments