Развитие искусственного интеллекта поднимает вопрос огромной практической и этической важности: способны ли машины однажды обрести сознание? Однако, отмечают постдокторант Мария Кобос и профессор Анна Чика, ученые из Университета Гранады (Испания), ответ на этот вопрос требует прежде разобраться, что именно мы понимаем под «сознанием». Источник: The Conversation.
Этот термин подразумевает осознание происходящего вокруг нас, в нашем теле или наших действиях, что позволяет нам вести себя гибко и контролируемо.
Сознательное поведение можно охарактеризовать двумя признаками. Первым является глобальное восприятие информации. Хотя некоторые части нашего мозга узкоспециализированы (зрительная, двигательная области, области памяти), сознание требует, чтобы вся информация воспринималась глобально. Т. е. если мы видим что-то, то можем сказать, какого оно цвета, какую форму имеет, как звучит или как ведет себя.
Второй признак – самостоятельный контроль обработки данных. Происходит оценка, был ли ответ правильным или ошибочным, что позволяет сознанию исправить данный ответ немедленно или в похожих ситуациях будущего. Это способность также известна, как «метапознание».
Рассмотрим это на примере картофельного омлета. Для его приготовления необходимо подобрать ингредиенты, взять их в определенном количестве и использовать в определенный момент (первый признак сознания). Во время готовки омлета нужно пробовать его на промежуточных этапах, чтобы оценить вкус и адаптировать эту характеристику к собственным предпочтениям на данный момент. Если, например, мы хотим менее соленое блюдо, то добавим меньше соли, но при этом будем следить за готовкой омлета в целом, чтобы конечный результат был удовлетворительным (второй признак самосознания).
Оба этих признака считаются обязательными для сознания. Если любой из них отсутствует, то обработка данных будет бессознательной. Т.е. мы могли бы добавить в наш омлет соль, даже не осознавая этого поступка, поскольку сделали бы это автоматически. Эта модель обработки данных эффективна, поскольку не требует внимания и ресурсов памяти, но она ограничена. Мы не можем оценить, правильно ли мы добавили соль, а иногда автоматизм ее добавление даже заставляет нас усомниться, посолили ли мы пищу.
Одним из величайших ограничений бессознательной обработки данных является то, что «мы не осознаем того, чего не осознаем». То есть самостоятельно мы не можем оценить, правильно ли была наша бессознательная обработка данных.
Как оценить наличие сознания у неспособных говорить
Первый признак сознания (глобальное восприятие) наблюдается у живых существ, лишенных языка. С первых месяцев жизни человеческие младенцы способны, реагируя на раздражители, извлекать для себя правила, не являющиеся частью ранее установленной последовательности. Такие животные, как вороны и приматы, могут (если их дрессировать) реагировать «да» или «нет» на очень трудные для восприятия стимулы.
Второй признак (метапознание) относится к нашей способности самостоятельно оценивать результаты обработки информации. Когда мы сознательно воспринимаем или реагируем на что-либо, то можем оценить вероятность того, насколько наше восприятие или реакция верны. Метапознание можно оценить и у животных, анализируя, насколько они упорствуют в первоначальном выборе или предпочитают не реагировать.
Способны ли машины обладать признаками сознания
Некоторые исследователи предполагают, что оба названных признака могут быть реализованы в машинах, что позволит им действовать так, будто бы они сознательны.
Представим, что наш картофельный омлет будет готовить робот. Если он сможет измерить кровяное давление посетителя кафе, то эта информация будет доступна его системе (первый признак), чтобы готовить омлет с меньшим количеством соли для клиента с высоким кровяным давлением. В то же время, если кровяное давление посетителя будет слишком велико, то робот сможет отправить сигнал тревоги на телефон клиента, чтобы тот записался на врачебный прием (первый признак).
Помимо восприятия доступной информации, роботу было бы интересно оценить собственно поведение посетителя (например, привело ли добавление лука в омлет к улучшению вкуса) и постоянно обновлять свои кулинарные навыки (второй признак).
Согласно этой логике, сознание можно свести к набору вычислений, а значит его можно реализовать в машинах.
Только этот подход не учитывает, что у биологических организмов сознание возникает не только в результате взаимодействия мозга с окружающей средой, но и в результате взаимодействия мозга с самим организмом.
К примеру, когда вы голодны, возникает ряд физиологических реакций, интерпретируемых мозгом как ощущение, эмоцию или чувство. Эти интерпретации – важнейшая часть сознания живых существ, возникшая за миллионы лет эволюции и способствующая выживанию.
Когда мы сталкиваемся с опасностью, наше сердце бьется быстрее, что помогает нам избежать опасной ситуации, но также заставляет нас ощущать испуг. Недавние исследования показали, что сердцебиение более спокойное при сознательном восприятии раздражителей, чем при бессознательном. Это указывает на то, что сознательность предполагает не только мониторинг окружающей среды, но и мониторинг сигналов, посылаемых нашим телом, чтобы лучше адаптироваться, учиться и подбирать поведение соответственно переменам в окружающей среде.
Эти взаимодействия между мозгом и телом необходимы для того, чтобы мы могли генерировать субъективные переживания от первого лица («я это видел»). Понимание сознания у людей предполагает понимание не только того, как мы реагируем на окружающую среду, но и того, как информация из центральной (мозга) и периферической (организма) нервной систем интегрируется для создания субъективного опыта восприятия.
Сознание у машины возникнет нескоро
Современные научные данные показывают, что для возникновения сознания необходима система, способная обрабатывать информацию, собранную глобально (первая признак), а затем оцениваемую, принимаемую к обучению и исправляемую на основе опыта (второй признак).
Вычисления, выполняемые в настоящее время машинами, не отвечают этим характеристикам. Также им не хватает разума живого организма, способного строить сенсорные представления как об окружающей среде, так и о внутреннем состоянии собственного тела (в случае машины – ее аппаратного обеспечения).
Отсутствие внутреннего мониторинга между мозгом и телом ограничивает возможность развития у машины сознания, как оно понимается нами сегодня. Но это не означает, что наука не должна сохранять бдительность перед лицом быстрого прогресса технологий. Следует пристально отслеживать достижения технологий и предвидеть этические дилеммы, которые могут возникнуть в следствии этого.