Споры ЕС о регулировании ИИ: принят AI Act

Споры ЕС о регулировании ИИ: принят AI Act

Нормативные вопросы, связанные с использованием искусственного интеллекта (ИИ), в последнее время стали предметом ожесточённых дискуссий на уровне Европейского парламента и Совета министров. Особенно много споров вызвало применение ИИ органами правопорядка и безопасности, и эти разногласия продолжались до последнего момента перед принятием финальной версии закона об ИИ, называемого "AI Act".

Рекордно долгий процесс трёхсторонних консультаций, включающих представителей Европейского парламента, Совета министров и Еврокомиссии, достиг своего пика в пятницу утром, когда после 22 часов переговоров, которые начались в среду и закончились только в следующий день, обсуждение возобновилось.

Дебаты вокруг AI Act

Основные вопросы, вызывавшие разногласия в пятницу, касались запрета на определённые способы использования ИИ, в том числе вопросы вроде использования технологии распознавания лиц в реальном времени. Здесь позиции Европейского парламента и стран-членов ЕС расходились: если государства настаивали на возможности использования таких технологий, парламент выступал против, особенно левые и центристские партии.

Регулирование продвинутых форм ИИ

Компромисс в отношении регулирования более сложных форм ИИ был достигнут ещё в ночь на четверг. Еврокомиссия ранее сфокусировалась на стандартных приложениях ИИ, но вслед за появлением популярных моделей, таких как текстовый бот ChatGPT и другие, Парламент принял решение о введении конкретных требований к таким системам.

Этот подход основывался на оценке риска, который представляют различные формы использования ИИ. Однако Европейский парламент выразил мнение, что такой подход не работает в случае моделей, которые могут быть применены в широком круге задач. В то же время, Германия, Франция и Италия выступали против законодательных ограничений, предлагая вместо этого обязательную саморегуляцию.

Согласование интересов различных сторон

Внутри немецкого правительства была замечена редкая единственность мнений между Министерством экономики и Министерством цифрового развития по вопросу регулирования ИИ: оба выступали за регулирование способов использования технологии, а не самой технологии. Тем не менее, Европарламент в итоге преобладал в данном вопросе, настояв на своих позициях.

Основные положения AI Act

"AI Act" фокусируется на так называемых "Foundation Models" – базовых системах, на которых базируются специфические модели ИИ. Примером такой базовой модели для текстового бота ChatGPT является модель GPT. Еврокомиссия планирует составить список таких базовых моделей, представляющих "системный риск". Критерии риска включают параметры, как мощность вычислений, а также количество профессиональных пользователей.

Поставщики указанных моделей должны будут чётко декларировать, какие данные использовались для тренировки, как предотвращается дискриминация и как проводится независимая проверка безопасности моделей. Кроме того, важно будет учет эффективности использования энергии моделями ИИ, что может в дальнейшем стать предметом отдельного законодательства ЕС.

Как известно, "AI Act" налагает особые требования на приложения ИИ, которые классифицируются как высокорискованные. К таким относят приложения, представляющие прямую или косвенную угрозу для жизни, возможность дискриминации, или же угрозу для правового государства и демократии. Это требует должного отбора данных для обучения и гарантию, что управление всегда остаётся за человеком.

В зависимости от того, как ИИ используется, регулирование может быть менее строгим – например, использование ChatGPT в поисковых системах не рассматривается как высокорискованное применение, в отличие от использования в страховании или отборе кандидатов на работу.

Комментарии

Отлично! Вы успешно зарегистрировались.

Welcome back! You've successfully signed in.

You've successfully subscribed to GPTalk | AI Новости.

Проверьте свою электронную почту для личной ссылки для входа.

Ваша платежная информация была обновлена.

Ваш счет не был обновлен.