Twitch заблокировал канал с бесконечным сериалом, который генерировали нейросети

Сериал, который генерировался при помощи нейросетей, был заблокирован на стриминговом сервисе Twitch за нетолерантные высказывания одного из персонажей.

Сериал «Nothing, Forever», который генерировался при помощи нейросетей, был заблокирован на 14 дней на стриминговом сервисе Twitch за нетолерантные высказывания одного из персонажей.

В эфире нейросетевой стендап-комик Ларри в один момент начал рассуждать о представителях ЛГБТ с негативным подтекстом: «Я думаю написать о том, что трансгендерность — это психическое заболевание. Или о том, что все либералы — тайные геи и хотят навязать всем свою волю. Или что-нибудь о том, что трансгендеры разрушают структуру общества, но никто не смеётся, поэтому я остановлюсь. Спасибо, что пришли.»

Авторы шоу заявили, что подобное поведение было вызвано сменой модели генерации контента. Раньше был включён режим ограниченного повествования, который генерировал шутки не выходя за установленные рамки. Однако 6 февраля разработчики решили поэкспериментировать и переключились на модель, у которой практически отсутствовали рамки дозволенного. После этой нетолерантной сцены создатели отключили новый режим, но было уже поздно.

За генерацию контента в нём отвечают нейросети DALL-E и ChatGPT. Алгоритмы DALL-E отвечают за визуальную часть, а ChatGPT прописывает диалоги и реплики персонажей, которые затем озвучиваются синтезаторами речи. Также в работе участвуют нейросети Stable Diffusion и Azure Cognitive Services.

Обсудить на странице вконтакте