OpenAI заявляет, что инструменты ИИ могут быть эффективными при модерации контента

Создатель ChatGPT OpenAI привел веские доводы в пользу использования ИИ для модерации контента, заявив, что он может повысить эффективность компаний, работающих в социальных сетях, за счет сокращения времени, необходимого для выполнения некоторых изнурительных задач.

Несмотря на ажиотаж вокруг генеративного ИИ, такие компании, как Microsoft и владелец Google Alphabet, еще не монетизировали технологию, в которую они вложили миллиарды долларов, в надежде, что она окажет большое влияние на все отрасли.

OpenAI, поддерживаемая Microsoft, заявила, что ее последняя модель искусственного интеллекта GPT-4 может сократить процесс модерации контента до нескольких часов с месяцев и обеспечить более последовательную маркировку.

Модерация контента может быть изнурительной задачей для компаний, занимающихся социальными сетями, таких как Facebook****-parent Meta**, которая работает с тысячами модераторов по всему миру, чтобы не допустить просмотра пользователями вредоносного контента, такого как детская порнография и изображения крайнего насилия.

«Процесс (модерации контента) по своей природе медленный и может привести к психологическому стрессу у модераторов», — говорится в сообщении OpenAI. «Благодаря этой системе процесс разработки и настройки политик контента сокращается с месяцев до часов».

Отдельно генеральный директор OpenAI Сэм Альтман заявил во вторник, что стартап не обучает свои модели ИИ на пользовательских данных.