ИИ запоминает книги целиком

Учёные выявили, что ведущие языковые модели способны воспроизводить крупные фрагменты защищённых авторским правом книг, которые они «запомнили» в процессе обучения. Это открытие вызывает серьёзную обеспокоенность в отношении соблюдения авторских прав и потенциального нарушения интеллектуальной собственности. Способность ИИ запоминать и выдавать значительные объемы текста из книг, используемых для обучения, выходит за рамки простого цитирования и ставит под вопрос границы допустимого использования чужого контента.

Наиболее показательным стал эксперимент, в ходе которого Claude 3.7 выдала 95,8% текста «Гарри Поттер и философский камень». Этот впечатляющий результат демонстрирует не просто знание сюжета, а фактически возможность воспроизведения текста книги. Это означает, что модель не просто понимает содержание, но и способна «извлекать» и генерировать отдельные главы и даже целые страницы, практически дословно. Другие модели, включая Gemini и Grok 3, также показали высокие результаты — до 76,8% текста. Такие результаты, хотя и ниже, все равно представляют собой значительный объем воспроизведенного текста, который может быть идентифицирован как нарушение авторских прав. Например, модель Gemini смогла выдать значительные фрагменты из книг Агаты Кристи, что также вызвало беспокойство среди правообладателей.

Такое открытие может иметь серьёзные юридические последствия для компаний-разработчиков, которые уже столкнулись с десятками исков из-за использования защищённого контента. Судебные иски, поданные авторами и правообладателями, касаются не только воспроизведения текста, но и использования произведений для обучения моделей, что, по мнению истцов, является нарушением авторских прав. В частности, речь идет о несанкционированном копировании и использовании контента без выплаты роялти. Компании, разрабатывающие ИИ, сталкиваются с необходимостью пересмотреть свои методы обучения и разработать механизмы защиты авторских прав, чтобы избежать дальнейших судебных разбирательств. Это включает в себя использование фильтров для удаления защищенного контента из обучающих данных, а также разработку инструментов для отслеживания и предотвращения несанкционированного воспроизведения текста.

Эти проблемы усугубляются тем, что объем данных, используемых для обучения ИИ, огромен и постоянно растет. Это затрудняет контроль за использованием защищенного контента и увеличивает риск нарушения авторских прав. Кроме того, сами модели становятся все более сложными, что усложняет процесс выявления и предотвращения нарушений. В качестве примера можно привести ситуацию с ИИ-генераторами изображений, которые столкнулись с исками из-за использования защищенных изображений для обучения. Аналогичная ситуация может возникнуть и с языковыми моделями, если не будут приняты соответствующие меры. В будущем, вероятно, потребуется разработка новых юридических рамок и технологических решений для регулирования использования защищенного контента в обучении ИИ. Это может включать в себя лицензирование контента, создание специализированных баз данных для обучения ИИ, а также разработку новых методов оценки и контроля за использованием защищенных произведений.

Источник: https://www.securitylab.ru/news/567841.php

📱 Наш Телеграм канал: https://t.me/bninstrum

🔵 Канал VK: https://vk.com/club195425868