OpenAI запускает программу наград за баги в AI

OpenAI запускает программу наград за баги в AI

OpenAI, получившая поддержку от Microsoft, объявила о запуске своей программы поиска уязвимостей (bug bounty program). Организация приглашает специалистов в области информационной безопасности, этичных хакеров и технологических энтузиастов со всего мира внести свой вклад в обнаружение и устранение уязвимостей систем искусственного интеллекта.

Награды за обнаружение уязвимостей

В соответствии с серьёзностью обнаруженной уязвимости, OpenAI предлагает финансовые вознаграждения, размер которых может варьироваться от $200 за находки низкой степени сложности до $20,000 за особо значимые открытия. Это объявление было сделано в блоге организации во вторник.

Сотрудничество с Bugcrowd

Для управления процессом подачи заявок и выдачи наград компания заключила партнёрство с платформой Bugcrowd, специализирующейся на программах поиска багов.

Объекты программы по поиску багов

Программа поиска уязвимостей OpenAI охватывает такие цели, как API, ChatGPT, корпоративные ресурсы третьих сторон, ключи OpenAI API и исследовательские организации OpenAI.

API-цели

К API-целям относятся OpenAI API и облачные ресурсы или инфраструктура, задействованная в поддержании работы OpenAI API, включая облачные хранилища (например, Azure data blobs) и облачные вычислительные серверы (например, виртуальные машины Azure).

ChatGPT

В сферу действия программы по ChatGPT входят ChatGPT Plus, системы входа, подписки, плагины, созданные OpenAI (например, для просмотра, интерпретатора кода), плагины, созданные пользователями, и вся остальная функциональность.

Корпоративная информация OpenAI

Программа также включает в себя конфиденциальную корпоративную информацию OpenAI, которая может быть раскрыта через третьи стороны, такие как Google Workspace, Asana, Trello, Jira, Monday.com, Notion, Confluence, Evernote, Intercom, Hubspot, Zendesk, Salesforce, Stripe, Airbase, Navan, Tableau, Mode, Charthop и Looker, по данным Bugcrowd.

Исключения из программы

Все вопросы, связанные с содержанием запросов модели и её ответов, строго не входят в область действия программы и не будут вознаграждаться, если только у них нет дополнительного непосредственного влияния на безопасность сервиса в рамках программы. Также явные "галлюцинации модели" перечислены OpenAI как не относящиеся к делу.

Компания указывает, что вопросы безопасности модели не подходят для программы поиска багов, так как они не являются индивидуальными, отдельными ошибками, которые можно было бы непосредственно исправить.

Процесс сообщения об уязвимостях

После обнаружения уязвимости информация о ней должна быть передана через программу Bugcrowd компании OpenAI. Данные об уязвимости должны оставаться конфиденциальными до момента их официального разрешения к публикации со стороны команды безопасности OpenAI, которая стремится предоставить разрешение в течение 90 дней после получения отчёта.

Недавние инциденты безопасности и конкуренция

Объявление о программе поиска багов происходит через несколько недель после инцидента с безопасностью в ChatGPT. В прошлом месяце компания сообщила, что из-за ошибки в библиотеке открытого исходного кода Redis клиента произошёл сбой в работе ChatGPT и утечка данных, в результате чего пользователи могли видеть персональную информацию других пользователей и их запросы в чате.

ChatGPT был запущен OpenAI в ноябре и привлёк более миллиона пользователей в течение первых пяти дней.

Тем не менее, ChatGPT сталкивается с усиливающейся конкуренцией. В понедельник Alibaba Cloud объявила о запуске новой крупной языковой модели, Tongyi Qianwen, которая будет выпущена в качестве аналога ChatGPT для всех её бизнес-приложений. Tongyi Qianwen будет поддерживать ввод как на английском, так и на китайском языках и выйдет в бета-тестирование для клиентов в Китае.

Еще один китайский интернет-сервис и AI-гигант, Baidu, в прошлом месяце объявил о создании альтернативы ChatGPT на китайском языке, Ernie bot. В его первоначальной фазе к боту получат доступ 650 бизнес-партнёров, и компания надеется улучшить бота на основе обратной связи.

Заметка была подготовлена Апурвой Венкат, главным корреспондентом изданий CIO, CSO и Computerworld в Индии. Венкат ранее работала в ISMG, IDG India, Bangalore Mirror и Business Standard, где она сообщала о развитиях в области технологий, бизнеса, стартапов, финтеха, электронной коммерции, кибербезопасности, городских новостях и образовании.

Комментарии

Отлично! Вы успешно зарегистрировались.

Welcome back! You've successfully signed in.

You've successfully subscribed to GPTalk | AI Новости.

Проверьте свою электронную почту для личной ссылки для входа.

Ваша платежная информация была обновлена.

Ваш счет не был обновлен.