Насколько точны детекторы ИИ-текста?

Короткий ответ: недостаточно надёжно, чтобы полагаться на них в одиночку. Разберём реальный механизм, стоящий за этим, а не просто оговорку.

Как детекторы ИИ-текста работают на самом деле

У большинства детекторов ИИ-текста нет какой-то секретной «подписи», доказывающей, что текст написан машиной. Вместо этого они измеряют статистические закономерности — насколько предсказуем выбор каждого слова с учётом предыдущих слов, насколько единообразны длина и структура предложений — и оценивают, насколько текст похож на типичный вывод языковой модели. Это вероятностная оценка, а не отпечаток пальца, и она строится на закономерностях, которые меняются каждый раз, когда новая версия модели меняет манеру письма.

Проблема ложных срабатываний

Поскольку детекторы сопоставляют текст с «типичным» стилем письма, то, что написано непривычно единообразным или формальным языком, помечается чаще — включая немало текстов, написанных людьми. Наиболее устойчиво это подтверждается для тех, кто пишет не на родном английском: структура их предложений обычно более регулярна и менее идиоматична, чем у носителей языка, а детекторы воспринимают это как признак машинного текста. По той же причине ложным срабатываниям подвержены и очень короткие тексты, и сильно формализованные тексты (сопроводительные письма, стандартные деловые письма).

Детекторы против humanizer-инструментов: подвижная цель

Целая категория инструментов — ИИ-humanizer'ы, такие как Undetectable AI и Humbot, — существует специально для того, чтобы переписывать сгенерированный ИИ текст так, чтобы он получал более низкую оценку у этих детекторов. Когда детектор становится точнее, humanizer подстраивается; когда humanizer научается обходить конкретный детектор, разработчик детектора переобучает его против этого паттерна. Ни одна из сторон долго не остаётся стабильной, и это само по себе причина не считать оценку какого-то одного детектора окончательным вердиктом спустя месяцы или годы после того, как инструмент был протестирован.

Как использовать детектор на практике

• Относитесь к высокой оценке ИИ как к причине присмотреться внимательнее, а не как к самостоятельному доказательству
• Во всём, что имеет реальные последствия — оценки, найм, публикация, — сочетайте детектор с прочтением содержания живым человеком
• Не полагайтесь на один детектор: разные инструменты регулярно расходятся во мнениях по одному и тому же тексту
• Помните, что тексты не носителей английского языка и короткие формальные тексты чаще подвержены ложным срабатываниям, чем в среднем