Важное преимущество — технология будет предоставляться бесплатно, что может способствовать её широкому применению.

SynthID Text работает на основе анализа последовательности символов (так называемых «токенов»), которые генерирует ИИ. Во время этого процесса модель добавляет дополнительную информацию в вероятности токенов, что создаёт своеобразный водяной знак в тексте. Этот невидимый маркер позволяет точно определить, был ли текст создан с помощью ИИ. Интересно, что технология может хуже работать, если текст изменён или перефразирован.

Отметим, что Google не единственная компания, работающая над подобными технологиями. OpenAI также занималась внедрением системы водяных знаков в свои ИИ-модели, но приостановила проект по причине технических сложностей. Тем не менее, если такие решения будут широко применяться, это может существенно улучшить точность работы инструментов для распознавания контента, созданного ИИ, и снизить количество ложных срабатываний.

Несколько стран уже предпринимают шаги для регулирования использования таких технологий. Например, Китай ввёл обязательную маркировку ИИ-контента, а Калифорния рассматривает аналогичные меры.

Напомним, Илон Маск презентовал новых роботов Optimus: на что теперь способна технология.

Сообщение В Google представили инструмент для распознания текстов, созданных ИИ появились сначала на Главпост.