Он также отметил, что одной из задач Совбеза является разработка норм, определяющих моральные вопросы применения «компьютерного разума».
По мнению Медведева, еще никто не брался за определение круга этических вопросов, связанных с использованием искусственного интеллекта. Между тем это очень важный аспект, на который необходимо обязательно обратить пристальное внимание.
Он привел в пример один из таких вопросов. Недавно в Ливии беспилотный аппарат по собственной инициативе убил солдата ЛНА. Этот случай снова поднял практически исчезнувший было вопрос о враждебности искусственного интеллекта по отношению к человечеству, а также к риску его выхода из-под контроля.
По словам Медведева, чтобы подобные проблемы не возникали, необходимо установить строгий внешний контроль за разработкой ИИ, а также ограничить или полностью запретить его использование в отдельных областях деятельности человека.