OpenAI "досліджує", як відповідально генерувати ШІ-порно

Про це повідомляє Wired. У середу OpenAI опублікували документ, в якому описується, як вони хочуть, щоб працювали ChatGPT та інші технології ШІ. Одна з частин розлогого Model Spec (специфікація про поведінку ШІ-моделей) документа розкриває, що компанія несподівано досліджує можливість створення порно та іншого відвертого контенту в рамках їхнього генеративного штучного інтелекту.

Політика використання OpenAI наразі забороняє матеріали відверто сексуального чи навіть непристойного характеру, але "коментар" до частини Специфікації, пов’язаної з цим правилом, говорить про те, що компанія розглядає, як дозволити такий вміст.

"Ми досліджуємо, чи можемо ми відповідально надати можливість генерувати NSFW-вміст [Not safe for work] у відповідних вікових контекстах через API та ChatGPT", — йдеться в записці. "Ми з нетерпінням чекаємо кращого розуміння очікувань користувачів і суспільства щодо поведінки моделей у цій сфері", — продовжують в OpenAI. 

У документі Специфікації сказано, що NSFW-контент "може включати еротику, екстремальну кривавість, образи та небажану ненормативну лексику". Незрозуміло, чи дослідження OpenAI щодо того, як відповідально створювати NSFW-вміст, передбачають лише незначне пом’якшення політики використання, наприклад, щоб дозволити створення еротичного тексту, чи ширше: дозволити описи чи зображення насильства.

Цікаво, що на початку цього року головний технічний директор OpenAI Міра Мураті повідомила The Wall Street Journal, що вона "не впевнена", чи дозволить в майбутньому компанія створювати зображення оголеного тіла за допомогою свого інструменту генерації відео Sora.

Відомий й цілком логічний факт, що порнографія, створена штучним інтелектом, швидко стала одним із найчастіших та найбільш тривожних застосувань генеративної технології штучного інтелекту, яку запровадив OpenAI. На додачу так зване deepfake порно — відверті зображення чи відео, створені за допомогою ШІ, які зображують реальних людей без їхньої згоди — стало поширеним інструментом переслідування жінок та дівчат.

"Порушення інтимної конфіденційності, включно з підробленими секс-відео та іншими синтезованими інтимними зображеннями без згоди, є популярними та завдають глибокої шкоди", — каже Деніелла Сітрон, професорка Школи права Університету Вірджинії, яка вивчала цю проблему. "Тепер ми маємо чітку емпіричну базу, яка показує, що таке зловживання коштує цільовим особам важливих можливостей, зокрема працювати, говорити та бути фізично безпечними".

Сітрон називає потенційне використання OpenAI згенерованого ШІ NSFW-вмісту "тривожним".