Российская нейросеть для сферы ЖКХ научилась нецензурной лексике после общения с жильцами

Российские айтишники, которые внедряют искусственный интеллект в сферу ЖКХ, столкнулись с неожиданной проблемой. Голосовой робот, созданный для приема заявок от жителей, в какой-то момент начал вставлять в свою речь мат при общении с людьми.

Почему робот заговорил на «особом» языке

Об этом случае рассказал Михаил Викторов, президент НОТИМ (Национальное объединение организаций в сфере технологий информационного моделирования). Выяснилось, что нейросеть слишком буквально восприняла задачу учиться на живых примерах: она просто нахваталась крепких выражений от рассерженных жильцов, которые звонили с жалобами.

Михаил Викторов описал ситуацию так: «Приведу забавный случай. Это нейросеть, она учится, и уже в первый месяц разработчики заметили странность — программа научилась материться. Как говорится, с кем поведешься, от того и наберешься. Эту проблему, конечно, пришлось быстро исправлять».

Зачем управляющим компаниям нужен ИИ

Даже с учетом таких накладок, в отрасли считают, что переходить на цифру выгодно. Роботы помогают компаниям серьезно экономить на зарплатах и содержании офисов. Цифры говорят сами за себя: сейчас один голосовой помощник и пара операторов на подстраховке справляются с тем объемом звонков, для которого раньше нанимали 20 человек.

Что именно сейчас делает система

На сегодняшний день алгоритмы взяли на себя основную рутину:

• Принимают и регистрируют примерно 90% всех входящих звонков.
• Отвечают на обычные вопросы про квитанции, начисления и сроки ремонта.
• Сортируют заявки и передают аварийные вызовы узким специалистам.

Судя по внутренним отчетам, около 80% людей вполне довольны тем, как их консультирует бот. Диспетчеры теперь подключаются только в действительно сложных случаях, когда нужно быстро принять решение на месте или разобраться в ситуации, которая не вписывается в стандартный сценарий.