На этой неделе исследователи заявили о том, что они разработали автоматический текстовый генератор с использованием искусственного интеллекта, который оказался настолько хорош, что создатели пока решили скрыть его детали.
Это программное обеспечение, разработанное специалистами OpenAI, может использоваться для написания новостных историй, обзоров продуктов и других видов статей, которые выглядят заметно реалистичнее предыдущих творений, написанных компьютером.
OpenAI – это крупный исследовательский центр, поддерживаемый Илоном Маском, основателем Tesla и SpaceX, а также компаниями Amazon и Microsoft. Его представители заявили, что новое программное обеспечение «демонстрирует невероятную производительность во многих тестах моделирования языка», включая обобщение и перевод.
Однако они не собираются выпускать программу для широкой общественности.
«По причине нашей озабоченности по поводу вредоносного использования этой технологии мы не станет выпускать обученную модель», – сообщили исследователи OpenAI в своем блоге в четверг.
В этой новости говорится о потенциальном прорыве в области компьютерного генерирования текста, который выглядит весьма правдоподобно, но при этом может оказаться потенциально опасным для людей.
Исследователи заявили, что существует множество способов использования программы в мошеннических целях, включая создание фейковых новостных статей, выдачу себя за других людей в Интернете и автоматизацию поддельного контента в социальных сетях.
В одном из примеров программу снабдили всего одним абзацем о «стаде единорогов, живущих в отдаленной, ранее неисследованной долине, расположенной в Андах». На его основе она написала новостной сюжет на 300 слов.
«Общественность в целом должна будет научиться скептически относиться к тексту, который они находят в Интернете. Ранее люди смогли научиться этому в отношении изображений, которые могут подделываться с помощью разнообразных программ», – пишут исследователи, ссылаясь на видео, созданные с использованием искусственного интеллекта и пользующимися большой популярностью в Сети.
Специалисты заявили, что их модель под названием GPT-2 «превосходит другие языковые программы», обученные таким задачам, как публикация уникальных записей в Википедии, новостей или книг, без необходимости какого-либо специального обучения.
Новости OpenAI являются последней демонстрацией того, насколько быстро компьютеры смогли приобрести языковые навыки. Они также показывают высокие результаты IBM Project Debater в рамках открытого конкурса с профессиональным чемпионом по дебатам.