Команда ученых из Йельского университета недавно разработала роботизированную систему, способную понимать, изучать и делать выводы об имущественных отношениях и нормах. Их исследование, опубликованное на arXiv, рассматривает целый ряд комплексных проблем, связанных с обучением роботов социальным нормам и тому, как научить машины соблюдать их.
Поскольку роботы становятся все более распространенными в мире очень важно научить их правильно и эффективно общаться с нами. Ключевым аспектом взаимодействия с людьми является понимание социальных и моральных норм, а также следование им при выполнении тех или иных действий. Все это способствует позитивному сосуществованию с другими видами.
Нормы собственности – это набор социальных норм, которые помогают ориентироваться в общей среде таким образом, чтобы внимательнее относится к другим. Обучение этим нормам роботов может помочь улучшить их взаимодействие с людьми. Например, они смогут различать инструменты, которые принадлежат или не принадлежат им, а также возвращать предметы, переданные им на время.
«Моя исследовательская лаборатория направлена на создание роботов, с которыми людям легко взаимодействовать. Часть этой работы посвящена изучению того, как мы можем обучить машины общим социальным концепциям и вещам, которые важны нам, но относятся к не очень популярным темам. Понимание роботами прав собственности на объекты, людских обычаев и законов – это темы, которые не получили большого внимания, но будут иметь решающее значение, когда машины появятся в наших домах, школах и офисах», – отметил Брайан Скасселлати, один из исследователей, в рамках беседы с журналистами TechXplore.
В подходе, разработанном Скасселлати, Сюань Таном и Джейком Брауэром, собственность представляется в виде графика вероятностных отношений между объектами и их владельцами. Он объединен с базой данных, основанных на предикатах норм, ограничивающих действия, которые может выполнять робот с не принадлежащими ему вещами.
«Одна из проблем, с которой мы столкнулись, заключается в том, что некоторые нормы удается узнавать из четких правил, а другие базируются на личном опыте. Люди легко обучаются обоим типам, а вот для машин это является настоящим испытанием», – заявил Скасселлати.
Система, разработанная исследователями, сочетает в себе новый инкрементный алгоритм обучения нормам, который базируется на двух формах запоминания новой информации: одномоментное изучение определенных правил и последовательное обучение на основе примеров из реальной жизни, с Байесовским выводом имущественных отношений. Вместе эти компоненты позволяют системе изучать нормы собственности и отношения, применимые в различных ситуациях.
«Ключевым моментом в работе, проделанной Сюанем и Джейком, является объединение двух разных типов машинного обучения, один из которых позволяет учиться на основе прямых символических правил, а другой – на личном опыте. Совместная работа этих двух систем заметно усложнила процесс, но зато сделала его успешным», – пояснил Скасселлати.
Исследователи оценили работоспособность своей роботизированной системы в серии смоделированных и реальных экспериментов. Они обнаружили, что она способна эффективно выполнять задачи, связанные с манипулированием объектами и требующие соблюдения различных норм собственности.
Исследование, проведенное Скасселлати и его коллегами, представляет собой замечательный пример того, как можно обучить роботов понимать и уважать социальные нормы. «Мы продолжаем работать над созданием роботов, которые смогут более естественно взаимодействовать с людьми. Наше текущее исследование фокусируется только на одном аспекте этой работы», – добавил в конце специалист.