В Калифорнии (штат США) состоялась конференция, посвященная искусственному интеллекту. На ней несколько разработчиков ИИ сообщили, что в некоторых случаях сами не понимают, на базе каких принципов работают их системы и как именно они принимают свои решения.
Эксперты отмечают, что это может стать серьезной проблемой в будущем, поэтому они пытаются найти эффективные способы ее решения. К примеру, Мэтра Рагху, работающая в корпорации Google, продемонстрировала новейший метод по нахождению ошибочных решений искусственного интеллекта. Пока что он еще не подводил ее команду.
Разумеется, это вряд ли приведет к «восстанию машин», однако может повредить работе автономных систем или уничтожить экспедицию к далеким звездам. Дело в том, что ИИ вполне может принять решение, которое ему покажется логичным, но при этом приведет к потере всего экипажа.