Roblox запроваджує ШІ-модерацію для контролю чату гравців
Після низки блокувань у різних країнах, компанія Roblox взяла курс на впровадження тестової системи модерації на базі штучного інтелекту. Алгоритм працює в реальному часі, автоматично редагуючи текстові повідомлення гравців перед їхнім відображенням для інших користувачів.
ШІ-алгоритм сканує чат з метою виправлення помилок, усунення спроб обійти цензуру, а також заміни спірних слів і виразів на нейтральні або коректні варіанти. Це означає, що співрозмовники бачать вже відредаговану версію повідомлення замість оригіналу.
Розробники пояснюють, що основною метою цієї ініціативи є боротьба з токсичним та шкідливим контентом. Водночас, противники технології висловлюють занепокоєння щодо втручання у суть діалогу. Система може інтерпретувати наміри гравця замість простого видалення забороненого контенту, що потенційно може призвести до спотворення сенсу повідомлень та перетворення спілкування на посередництво через ШІ.
Теги: