Оце так прогалина. Лазівка в ШІ від Microsoft дозволяла створювати фейковий порноконтент з Тейлор Свіфт, її закрили

Діпфейки з Тейлор Свіфт створювали за допомогою ШІ від Microsoft (Фото:taylorswift/Instagram)

Інструмент Designer від Microsoft зі штучним інтелектом дозволяв створювати порнографічні діпфейки зі знаменитостями, зокрема, Тейлор Свіфт. Одну з лазівок, використаних юзерами, прикрили.

Тисячі користувачів об’єдналися на 4chan та в Telegram для обговорення та створення фейкових сексуалізованих зображень зі знаменитостями за допомогою генеративного штучного інтелекту. Зокрема, активно використовували Designer від Microsoft, пише 404 Media.

Після того, як зображення з зірками стали вірусними минулого тижні, Microsoft заборонила генерувати зображення за простими текстовими підказками на кшталт «Тейлор Свіфт оголена». Однак цей захист користувачі масово обходили, вдаючи до нехитрих маніпуляцій, як-от написання ім’я співачки з орфографічною помилкою. Також генерувати порнографічні зображення допомагало використання описів, які не містили б жодних термінів, пов’язаних з сексом.

Хоча численні повідомлення на 4chan та в Telegram свідчать, що користувачі генерували цей шкідливий контент за допомогою Designer, Microsoft поки цього не підтверджує. Корпорація продовжує розслідування і намагається посилювати обмеження для того, аби припинити використання її ШІ для створення такого контенту. Наразі більшість лазівок, якими послуговувалися автори порнографічних діпфейків, закрита, підтвердило тестування, проведене 404 Media.

Нагадаємо, минулого тижня в соцмережах почали масово поширюватися порнозображення з відомою американською співачкою Тейлор Свіфт. Проблема стала настільки масштабної, що платформи почали забороняти пошук імені співачки на своїх сайтах, а Білий дім закликав до законодавчих змін.