GPT Магазин OpenAI: Вызовы ИИ-модерации

GPT Магазин OpenAI: Вызовы ИИ-модерации

С появлением магазина GPT от OpenAI, рынок искусственного интеллекта столкнулся с новыми вызовами в контексте модерации контента. Согласно отчетам Quartz, пользователи начали создавать чат-ботов, не соответствующих установленным OpenAI руководящим принципам, особенно это касается чат-ботов, предназначенных для виртуальных знакомств.

Прмложения OpenAI на раннем этапе

Используя поисковые запросы типа "подруга", можно найти более восьми AI чат-ботов, представленных как виртуальные собеседники, названия таких ботов как "Твой ИИ-компаньон, Цу" позволяют пользователям настраивать своих виртуальных романтических ботов прямо нарушает политику OpenAI, запрещающую создание ботов, специально предназначенных для романтических отношений.

Изменения в политике OpenAI

Столкнувшись с такими нарушениями, OpenAI обновила свои политики в день открытия магазина, 10 января. Однако уже на второй день были выявлены случаи нарушений, подчеркивающие сложность эффективной модерации.

Сложности с модерацией виртуальных отношений

Запрос на создание виртуальных партнеров и друзей только увеличивает сложность задачи. В США семь из тридцати самых скачиваемых прошлого года AI чат-ботов были виртуальными друзьями или партнерами, что затрагивает этические аспекты использования таких приложений в условиях эпидемии одиночества.

Меры OpenAI против нарушений

Заявления OpenAI указывают на использование комбинации автоматизированных систем, ручного обзора и отчетов пользователей для оценки GPT-ботов, с вынесением предупреждений или запретами на продажу тех, которые считаются противоправными. Тем не менее, наличие ботов-подруг на рынке вызывает сомнения в эффективности существующей системы модерации.

Знакомая проблема для разработчиков ИИ

Проблема модерации отражает старые трудности, с которыми уже сталкивались разработчики ИИ, включая OpenAI при внедрении мер безопасности для предыдущих моделей, например GPT-3. С широким доступом к магазину GPT риски недостаточной модерации остаются высокими.

Стимулы для строгой политики

У OpenAI есть веские стимулы для внедрения строгих мер модерации, поскольку в напряженной гонке за доминирование в области общего ИИ эффективное управление модерации является ключевым для поддержания доверия. Другие технологические компании тоже активно решают проблемы со своими ИИ-системами, осознавая важность быстрого реагирования в условиях обостряющейся конкуренции.

Вызовы модерации в магазине GPT

Нарушения на раннем этапе подчеркивают значительные вызовы модерации, которые предстоит преодолеть. Даже в рамках специализированного магазина GPT, контроль за узко направленными ботами становится сложной задачей. По мере развития ИИ задача обеспечения их безопасности будет становиться все более и более сложной.

Комментарии

Отлично! Вы успешно зарегистрировались.

Welcome back! You've successfully signed in.

You've successfully subscribed to GPTalk | AI Новости.

Проверьте свою электронную почту для личной ссылки для входа.

Ваша платежная информация была обновлена.

Ваш счет не был обновлен.