OpenAI "досліджує", як відповідально генерувати ШІ-порно

Про це повідомляє Wired. У середу OpenAI опублікували документ, в якому описується, як вони хочуть, щоб працювали ChatGPT та інші технології ШІ. Одна з частин розлогого Model Spec (специфікація про поведінку ШІ-моделей) документа розкриває, що компанія несподівано досліджує можливість створення порно та іншого відвертого контенту в рамках їхнього генеративного штучного інтелекту.

Політика використання OpenAI наразі забороняє матеріали відверто сексуального чи навіть непристойного характеру, але "коментар" до частини Специфікації, пов’язаної з цим правилом, говорить про те, що компанія розглядає, як дозволити такий вміст.

"Ми досліджуємо, чи можемо ми відповідально надати можливість генерувати NSFW-вміст [Not safe for work] у відповідних вікових контекстах через API та ChatGPT", — йдеться в записці. "Ми з нетерпінням чекаємо кращого розуміння очікувань користувачів і суспільства щодо поведінки моделей у цій сфері", — продовжують в OpenAI. 

 

У документі Специфікації сказано, що NSFW-контент "може включати еротику, екстремальну кривавість, образи та небажану ненормативну лексику". Незрозуміло, чи дослідження OpenAI щодо того, як відповідально створювати NSFW-вміст, передбачають лише незначне пом’якшення політики використання, наприклад, щоб дозволити створення еротичного тексту, чи ширше: дозволити описи чи зображення насильства.

Цікаво, що на початку цього року головний технічний директор OpenAI Міра Мураті повідомила The Wall Street Journal, що вона "не впевнена", чи дозволить в майбутньому компанія створювати зображення оголеного тіла за допомогою свого інструменту генерації відео Sora.

Відомий й цілком логічний факт, що порнографія, створена штучним інтелектом, швидко стала одним із найчастіших та найбільш тривожних застосувань генеративної технології штучного інтелекту, яку запровадив OpenAI. На додачу так зване deepfake порно — відверті зображення чи відео, створені за допомогою ШІ, які зображують реальних людей без їхньої згоди — стало поширеним інструментом переслідування жінок та дівчат.

"Порушення інтимної конфіденційності, включно з підробленими секс-відео та іншими синтезованими інтимними зображеннями без згоди, є популярними та завдають глибокої шкоди", — каже Деніелла Сітрон, професорка Школи права Університету Вірджинії, яка вивчала цю проблему. "Тепер ми маємо чітку емпіричну базу, яка показує, що таке зловживання коштує цільовим особам важливих можливостей, зокрема працювати, говорити та бути фізично безпечними".

Сітрон називає потенційне використання OpenAI згенерованого ШІ NSFW-вмісту "тривожним".

 

 

OpenAI

Tags: OpenAI
27.05.2024
Про це повідомляє Суспільне із посиланням на Читомо. 23 травня росіяни вкотре обстріляли Харків та поцілили у палітурний цех друкарні "Фактор-друк". Загинуло семеро працівників підприємства, 21 людина...
Далее
23.05.2024
Співпраця United24 та Lego продовжується. Працівники української комунікаційної агенції та дизайнери данської компанії представили серію наборів Lego присвячених відомим українським пам'яткам архітект...
Далее
22.05.2024
Суспільне, посилаючись на сайт видання, повідомляє, що шведський журнал 20TAL присвятив свій новий номер українській літературі та сучасним українським письменникам. Як написано на сайті 20TAL: "№10/1...
Далее