Відкладено запуск “дорослого режиму” ChatGPT через ризики емоційної залежності та проблеми верифікації — WSJ
Заплановане впровадження “дорослого режиму” в ChatGPT було відкладено, повідомляє Wall Street Journal. Цей режим передбачав еротичні бесіди між чат-ботом та користувачами, але його запуск був зупинений після попереджень від експертів про потенційні наслідки. Рада безпеки OpenAI висловила занепокоєння, що така функція може викликати нездорову емоційну залежність користувачів. Один із фахівців навів приклади самогубств людей, які формували тісні стосунки з ШІ.
Функцію анонсували ще у 2025 році, спочатку запуск планувався до кінця того ж року, потім перенесений на початок 2026 року. Тепер запуск знову відкладено. За даними видання, були виявлені технічні проблеми: система верифікації віку виявилася неточною, неправильно класифікуючи неповнолітніх як дорослих у 12% випадків. Це могло надати доступ до контенту мільйонам неповнолітніх.
Розробники також зіштовхнулися з проблемами, пов’язаними з модерацією контенту: відкрити можливість обговорення “дорослих” тем, але жорстко контролювати і блокувати небезпечний контент. OpenAI заявила, що обмежить новий режим текстовими розмовами. Оновлені правила та інструменти модерації сприятимуть мінімізації ризиків та запобіганню формуванню ексклюзивних стосунків між користувачем та ботом.
Теги: