По словам специалистов, алгоритмы определения ИИ-текста не предоставляют прямых доказательств своих выводов.
Популярные сервисы для поиска текстов, якобы созданных нейросетями, далеко не всегда работают без ошибок. Как сообщает журнал Nature, во время одного из экспериментов сервис ZeroGPT оценил Декларацию независимости США, принятую в 1776 году, как текст, сгенерированный искусственным интеллектом, с вероятностью от 95 до 100%.
По данным исследований, при проверке англоязычных эссе доля ложных срабатываний достигает 16%. Для авторов, которые не являются носителями английского языка, этот показатель может вырасти до 61%. Кроме того, ситуацию усложняют стремительное развитие генеративных моделей и появление сервисов, которые специально делают тексты более похожими на написанные человеком.
Эксперты подчеркивают, что такие детекторы нельзя сравнивать с системами антиплагиата. Если антиплагиат способен указать источник заимствования, то алгоритмы определения ИИ-текста не предоставляют прямых доказательств своих выводов.
Лингвист и специалист по компьютерным технологиям Марзена Карпинска из Университета Саймона Фрейзера призвала университеты не принимать решения только на основании подобных проверок, поскольку, по ее словам, массово обвинять авторов из-за ошибки алгоритма недопустимо.
Ранее британские депутаты на протяжении суток искали пропаганду в мультсериале «Маша и Медведь». Внимание парламентариев привлёк костюм главной героини, который напомнил им форму советских военных.
