Adobe поймали на использовании втихую рисунков и видео своих клиентов для тренировки ИИ

Эксперты обнаружили, что Adobe по умолчанию разрешает себе использовать контент, созданный ее клиентами, для обучения ИИ. В компании утверждают, что это правило действует уже десяток лет, и что речь не идет о будущем генеративном ИИ, который разрабатывает компания.

Вы не отказывались

Компания Adobe использует созданный пользователями ее продуктов контент для обучения своих систем искусственного интеллекта (ИИ). Речь идет об изображениях, аудиозаписях, видео и текстовых документах, которые хранятся на облачных серверах Adobe.

Как обнаружили сотрудники некоммерческой организации Krita Foundation, занимающейся разработками графических продуктов с открытым исходным кодом, в настройках конфиденциальности пользовательских аккаунтов по умолчанию выставлено разрешение для Adobe «анализировать контент с использованием методов машинного обучения (например, для распознавания закономерностей) для разработки и совершенствования продуктов и сервисов».

Пользователь имеет право запретить Adobe использовать свои работы, но это надо делать специально. По умолчанию все, созданное пользователем и сохраненное им в облаке, может использоваться в качестве «учебного пособия» для ИИ-разработок компании.

Adobe обучает свои ИИ на работах пользователей ее продуктов

Журналисты издания The Register отметили, что вопросник по анализу пользовательского контента Adobe алгоритмами в последний раз обновлялся в августе 2022 г., но какие именно изменения были тогда внесены, сказать трудно.

Документ описывает процедуру анализа. Оговаривается, что контент, который пользователи создают и хранят на локальных устройствах, для обучения ИИ не используется.

Уже десять лет

На данный момент у Adobe есть довольно широкий диапазон ИИ-приложений, которые позволяют, например, конвертировать плоские изображения в трехмерные модели или быстро искать видеоролики с нужным содержанием. При этом компания (пока) не выпускала ничего похожего на ИИ-генераторы изображений по текстовому вводу в духе DALL-E, Midjourney или StableDiffusion, хотя и готова продавать на своей стоковой платформе созданные таким образом изображения.

ИИ-генераторы обучаются на массивах изображений, созданных людьми. Естественным образом производимые ИИ изображения «наследуют» художественные особенности оригиналов, вплоть до авторской манеры.

Это спровоцировало массовые дискуссии о том, насколько авторские права художников, на чьих работах обучался ИИ, распространяются на сгенерированные им изображения, а также вызвало протесты на таких платформах как ArtStation, против того, чтобы на них публиковались сгенерированные машиной изображения наравне с творениями людей.

В самой компании Adobe заявили, что на самом деле политика анализа пользовательских работ алгоритмами не нова, и что соответствующее условие в настройках приватности на самом деле действует уже целое десятилетие. В то же время у пользователей есть возможность исключить свои работы из массива анализируемого контента.

В сообщении Adobe также указывается, что компания работает над собственным «генеративным ИИ» (по-видимому, аналогом Midjourney и других подобных разработок), но для его обучения пользовательские работы не используются, даже те, что хранятся на серверах Adobe. На чем именно он обучается, в компании не уточнили.

«Вероятно, теперь Adobe будет у каждого нового пользователя специально спрашивать однозначное разрешение на автоматизированный анализ созданного им контента, — полагает Алексей Водясов, технический директор компании SEQ. — Не исключено, что под давлением озабоченной общественности компания отключит эту функцию по умолчанию, но попытается получить разрешение у как можно большего количества старых и новых пользователей. Прямого нарушения каких-либо законов со стороны Adobe тут нет: пользовательские соглашения редко читают внимательно, но вендор ничего не скрывал нарочно».

Источник: safe.cnews.ru

Просмотров:

Добавить комментарий