Познакомьтесь с Unstable Diffusion, группой, пытающейся монетизировать порногенераторы с искусственным интеллектом.

Когда ранее в этом году Stable Diffusion , ИИ для преобразования текста в изображение, разработанный стартапом Stability AI, стал открытым исходным кодом, интернету не потребовалось много времени, чтобы использовать его для создания порно. Сообщества на Reddit и 4chan использовали систему искусственного интеллекта для создания реалистичных изображений обнаженных персонажей в стиле аниме, в основном женщин, а также фальшивых обнаженных изображений знаменитостей без согласия.

Но в то время как Reddit быстро закрыл многие сабреддиты, посвященные ИИ-порно, и такие сообщества, как NewGrounds, которые разрешают некоторые формы искусства для взрослых, полностью запретили художественные работы, созданные ИИ, появились новые форумы, чтобы заполнить пробел.

На сегодняшний день крупнейшей является Unstable Diffusion, операторы которой строят бизнес на системах искусственного интеллекта, предназначенных для создания высококачественного порно. Патреон сервера — начал поддерживать работу сервера, а также финансировать общее развитие — в настоящее время получает более 2500 долларов в месяц от нескольких сотен доноров.

«Всего за два месяца наша команда расширилась до более чем 13 человек, а также многих консультантов и модераторов сообщества-добровольцев», — сказал TechCrunch Арман Чаудри, один из членов команды администраторов Unstable Diffusion через Discord. «Мы видим возможность внедрять инновации в удобство использования, пользовательский опыт и выразительные возможности для создания инструментов, от которых могут извлечь выгоду профессиональные художники и предприятия».

Неудивительно, что некоторые специалисты по этике ИИ обеспокоены не меньше, чем оптимистично настроен Чаудри. Хотя использование ИИ для создания порно не ново — TechCrunch рассказал о приложении для создания порно с ИИ всего несколько месяцев назад — модели Unstable Diffusion способны генерировать более точные примеры, чем большинство других. Создаваемое порно может иметь негативные последствия, особенно для маргинализированных групп, говорят специалисты по этике, включая художников и взрослых актеров, которые зарабатывают на жизнь созданием порно для удовлетворения фантазий клиентов.

«Риски включают возложение еще более необоснованных ожиданий на женское тело и сексуальное поведение, нарушение неприкосновенности частной жизни женщин и авторских прав путем подачи сексуального контента, который они создали для обучения алгоритма без согласия, и лишение работы женщин в порноиндустрии», — Равит Дотан, вице-президент. ответственного ИИ в Центре управления полетами, сказал TechCrunch. «Один аспект, который меня особенно беспокоит, — это разрозненное влияние порно, созданного искусственным интеллектом, на женщин. Например, предыдущее приложение на основе искусственного интеллекта, которое могло «раздевать» людей, работало только с женщинами».

Unstable Diffusion зародилась в августе — примерно в то же время, когда была выпущена модель Stable Diffusion. Первоначально это был сабреддит, но со временем он перешел на Discord, где сейчас насчитывает около 50 000 участников.

«По сути, мы здесь, чтобы оказать поддержку людям, заинтересованным в создании NSFW», — написал один из администраторов сервера Discord по имени Эшли Эвелин в объявлении от августа. «Поскольку единственное сообщество, которое в настоящее время работает над этим, — это 4chan, мы надеемся создать более разумное сообщество, которое действительно может работать с более широким сообществом ИИ».

Ранее Unstable Diffusion служила просто местом для обмена порнографией, созданной искусственным интеллектом, и методами обхода фильтров содержимого различных приложений, генерирующих изображения. Вскоре, однако, несколько администраторов сервера начали изучать способы создания собственных систем искусственного интеллекта для создания порнографии поверх существующих инструментов с открытым исходным кодом.

Stable Diffusion поддалась их усилиям. Модель не была создана для создания порно как такового, но Stability AI не запрещает разработчикам настраивать Stable Diffusion для создания порно, если это порно не нарушает законы и явно не вредит другим. Даже тогда компания приняла подход невмешательства к управлению, возложив на сообщество ИИ ответственность за ответственное использование Stable Diffusion.

Стабильность ИИ не ответила на запрос о комментариях.

Для начала администраторы Unstable Diffusion выпустили бота Discord. Созданный на основе ванильного Stable Diffusion, он позволял пользователям создавать порно, набирая текстовые подсказки. Но результаты не были идеальными: обнаженные фигуры, созданные ботом, часто имели неуместные конечности и деформированные гениталии.

Причина этого заключалась в том, что Stable Diffusion не был представлен достаточному количеству примеров порно, чтобы «знать», как добиться желаемых результатов. Стабильная диффузия, как и все системы искусственного интеллекта, преобразующие текст в изображение, была обучена на наборе данных из миллиардов изображений с подписями, чтобы изучить ассоциации между письменными понятиями и изображениями, например, как слово «птица» может относиться не только к синим птицам, но и к попугаям и лысым. орлов в дополнение к более абстрактным понятиям. Хотя многие изображения взяты из источников, защищенных авторским правом, таких как Flickr и ArtStation, такие компании, как Stability AI, утверждают, что их системы защищены добросовестным использованием — прецедент, который скоро будет проверен в суде.

Только небольшой процент набора данных Stable Diffusion — около 2,9% — содержит материал NSFW, что дает модели мало возможностей, когда дело доходит до явного контента. Таким образом, администраторы Unstable Diffusion наняли добровольцев — в основном членов сервера Discord — для создания наборов порнографических данных для тонкой настройки Stable Diffusion, как если бы вы хотели создать ИИ для генерации мебели, вы бы предоставили ему больше фотографий кушеток и стульев.

Большая часть работы продолжается, но Чаудри говорит мне, что некоторые из них уже реализованы, в том числе метод «восстановления» искаженных лиц и рук в обнаженных телах, созданных ИИ. «Мы фиксируем и решаем проблемы, с которыми сталкиваются все системы ИИ, а именно собираем разнообразный набор данных с высоким качеством изображения, богатым текстом, охватывающим весь спектр предпочтений наших пользователей», — добавил он.

Пользовательские модели используются для вышеупомянутого бота Discord и незавершенного веб-приложения Unstable Diffusion, которое, по словам администраторов, в конечном итоге позволит людям следить за созданным искусственным интеллектом порно от конкретных пользователей.

Сегодня на сервере Unstable Diffusion размещается созданное искусственным интеллектом порно в различных художественных стилях, сексуальных предпочтениях и извращениях. Есть канал «только для мужчин», поток софткора и «безопасный для работы», каналы для хентая и пушистых работ, подгруппа БДСМ и «извращенных вещей» — и даже канал, специально зарезервированный для «нечеловеческих» обнаженных тел. Пользователи этих каналов могут вызывать бота для создания изображений, соответствующих теме, которые они затем могут отправить на «правую доску», если они особенно довольны результатами.

Unstable Diffusion утверждает, что на сегодняшний день сгенерировано более 4 375 000 изображений. На полурегулярной основе группа проводит соревнования, в которых участникам предлагается воссоздать изображения с помощью бота, результаты которых, в свою очередь, используются для улучшения моделей Unstable Diffusion.

По мере своего роста Unstable Diffusion стремится стать «этичным» сообществом для порно, созданным искусственным интеллектом, то есть тем, которое запрещает такой контент, как детская порнография, дипфейки и чрезмерная кровь. Пользователи сервера Discord должны соблюдать условия обслуживания и отправлять на модерацию изображения, которые они генерируют; Чаудхри утверждает, что сервер использует фильтр для блокировки изображений, содержащих людей, в своей базе данных «именные лица», и имеет команду модераторов, работающих на постоянной основе.

«Мы строго разрешаем только вымышленные и законопослушные поколения как для SFW, так и для NSFW на нашем сервере Discord», — сказал он. «Что касается профессиональных инструментов и бизнес-приложений, мы пересмотрим и будем работать с партнерами над правилами модерации и фильтрации, которые лучше всего соответствуют их потребностям и обязательствам».

Но можно предположить, что системы Unstable Diffusion станут более сложными для мониторинга, поскольку они станут более широко доступными. Чаудхри не рассказал о планах модерации контента из веб-приложения или будущего бота Discord на основе подписки Unstable Diffusion, которого владельцы сторонних серверов Discord смогут развернуть в своих сообществах.

«Нам нужно… подумать о том, как средства контроля безопасности могут быть подорваны, когда у вас есть версия системы, опосредованная API, которая содержит элементы управления, предотвращающие неправильное использование», — сказал TechCrunch по электронной почте Абхишек Гупта, основатель и главный исследователь Монреальского института этики ИИ. . «Серверы, подобные Unstable Diffusion, становятся рассадниками для накопления большого количества проблемного контента в одном месте, демонстрируя как возможности систем ИИ для создания этого типа контента, так и связывая злонамеренных пользователей друг с другом для повышения их «навыков» в создании такого контента. контент.. В то же время они также усугубляют нагрузку, возлагаемую на команды модераторов контента, которым приходится сталкиваться с травмами, когда они просматривают и удаляют оскорбительный контент».

Отдельный, но связанный с этим вопрос касается художников, чьи работы использовались для обучения моделей Unstable Diffusion. Как показала недавняя реакция сообщества художников на генератор изображений с искусственным интеллектом DeviantArt, DreamUp, который был обучен работе с изображениями, загруженными на DeviantArt без ведома создателей, многие художники не согласны с системами искусственного интеллекта, которые имитируют их стили, не давая должного признания или компенсации.

Дизайнеры персонажей, такие как Холли Менгерт и Грег Рутковски, чьи классические стили рисования и фантастические пейзажи стали одними из наиболее часто используемых подсказок в Stable Diffusion, осудили то, что они считают плохими имитациями ИИ, которые, тем не менее, связаны с их именами. Они также выразили обеспокоенность тем, что искусство, созданное ИИ, имитирующее их стили, вытеснит их оригинальные работы, что нанесет ущерб их доходам, поскольку люди начнут использовать изображения, созданные ИИ, в коммерческих целях. (Unstable Diffusion предоставляет пользователям полное право собственности — и разрешение на продажу — изображений, которые они создают.)

Гупта выдвигает еще одну возможность: художники, которые никогда не хотели бы, чтобы их работа ассоциировалась с порно, могут стать побочным ущербом, поскольку пользователи осознают, что имена определенных художников дают лучшие результаты в подсказках Unstable Diffusion — например, «обнаженные женщины в стиле [имя художника]».

Чаудхри говорит, что Unstable Diffusion ищет способы сделать свои модели «более справедливыми по отношению к творческому сообществу», а также «отдавать дань художникам и расширять их возможности». Но он не обозначил конкретных шагов, таких как лицензирование произведений искусства или разрешение художникам исключить их работу из обучающих наборов данных.

Конечно, существует богатый рынок для взрослых художников, которые рисуют, раскрашивают и фотографируют наводящие на размышления работы, зарабатывая на жизнь. Но если кто-то сможет создавать именно те изображения, которые он хочет видеть, с помощью ИИ, что будет с людьми-художниками?

Это не обязательно непосредственная угроза. В то время как взрослые художественные сообщества борются с последствиями генераторов текста в изображения, простой поиск платформы для публикации порно, созданного ИИ, за пределами Unstable Diffusion Discord может оказаться проблемой. Сообщество пушистых художников FurAffinity решило полностью запретить искусство, созданное искусственным интеллектом, как и Newgrounds, где размещаются зрелые произведения искусства за фильтром контента.

При обращении за комментариями один из крупных хостингов контента для взрослых, OnlyFans, оставил открытой возможность того, что искусство ИИ может быть разрешено на его платформе в той или иной форме. Хотя у него строгая политика против дипфейков, OnlyFans заявляет, что разрешает контент, включая, предположительно, контент, созданный ИИ, если человек, представленный в контенте, является проверенным создателем OnlyFans.

Конечно, вопрос хостинга может быть спорным, если качество не на должном уровне.

«Искусство, созданное ИИ, для меня сейчас не очень хорошо», — сказал Мило Виссиг, транс-художник, который экспериментировал с тем, как ИИ изображает эротическое искусство небинарных и трансгендерных людей. «По большей части кажется, что это лучше всего работает как инструмент для работы художника… но многие люди не видят разницы и хотят что-то быстрое и дешевое».

Для художников, работающих с кинками, особенно очевидно, где ИИ терпит неудачу. В случае бондажа, в котором завязывание веревок и узлов само по себе является искусством (и механизмом безопасности), ИИ сложно воспроизвести что-то настолько сложное.

«Для перегибов было бы трудно заставить ИИ создавать изображения определенного типа, которые хотели бы люди», — сказал Виссиг TechCrunch. «Я уверен, что очень сложно заставить ИИ придать веревкам какой-то смысл».

Исходный материал, стоящий за этими ИИ, также может усиливать предубеждения, которые уже существуют в традиционной эротике — другими словами, гетеросексуальный секс между белыми людьми является нормой.

«Вы получаете изображения, взятые из популярного порно», — сказал Виссиг. «Вы получаете самые белые, самые гетеросексуальные вещи, которые может придумать машина, если только вы не укажете не делать этого».

Эти расовые предубеждения были широко задокументированы в приложениях машинного обучения, от распознавания лиц до редактирования фотографий.

Когда дело доходит до порнографии, последствия могут быть не такими суровыми, но все же есть особый ужас в том, чтобы наблюдать, как ИИ искажает и дополняет обычных людей, пока они не станут карикатурами на расовые и гендерные различия. Даже модели искусственного интеллекта, такие как DALLE-2, которые стали вирусными, когда их мини-версия была выпущена для публики, подвергались критике за непропорциональное создание искусства в европейских стилях.

В прошлом году Виссиг пытался использовать VQGAN для создания изображений «сексуальных квир-трансгендеров», написал он в своем посте в Instagram. «Мне пришлось тщательно сформулировать свои условия только для того, чтобы на некоторых из них появились лица», — добавил он.

В Unstable Diffusion Discord мало доказательств того, что ИИ может адекватно представлять гендерквир и трансгендеров. На канале под названием «только для гендерквиров» почти все сгенерированные изображения изображают традиционно женственных женщин с пенисами.

Unstable Diffusion не занимается строго собственными проектами. Технически являясь частью Equilibrium AI, компании, основанной Чаудхри, группа финансирует другие усилия по созданию систем искусственного интеллекта для создания порно, включая Waifu Diffusion, модель, точно настроенную на аниме-изображениях.

Чаудхри видит, как Unstable Diffusion превращается в организацию, поддерживающую более широкое создание контента на основе ИИ, спонсирующее группы разработчиков и предоставляющее инструменты и ресурсы, помогающие командам создавать свои собственные системы. Он утверждает, что Equilibrium AI получил место в программе акселератора стартапов от неназванного «крупного поставщика облачных вычислений», который предоставляет «пятизначный» грант на облачное оборудование и вычисления, которые Unstable Diffusion будет использовать для расширения своей инфраструктуры обучения моделей.

По словам Чаудри, в дополнение к гранту Unstable Diffusion запустит кампанию на Kickstarter и будет искать венчурное финансирование. «Мы планируем создавать собственные модели, а также настраивать и комбинировать их для специализированных вариантов использования, которые мы будем использовать в новых брендах и продуктах», — добавил он.

У группы есть своя работа для этого. Из всех проблем, с которыми сталкивается Unstable Diffusion, модерация, пожалуй, самая насущная и важная. Недавняя история полна примеров эффектных провалов при модерации контента для взрослых. В 2020 году MindGeek, материнская компания Pornhub, лишилась поддержки основных платежных систем после того, как было обнаружено, что сайт распространяет детское порно и видео с секс-торговлей.

Постигнет ли та же участь Unstable Diffusion? Это еще не ясно. Но поскольку по крайней мере один сенатор призвал компании внедрить более строгую фильтрацию контента в своих системах искусственного интеллекта, группа, похоже, не стоит на твердой почве.

Добавить комментарий

Ваш адрес email не будет опубликован. Обязательные поля помечены *