Глава европейской IT-структуры уверена, что правила ЕС по ИИ справятся с угрозой «изгойных» агентов
Глава европейской технологической структуры Хенна Вирккунен заявила, что действующие в ЕС правила использования искусственного интеллекта способны эффективно регулировать угрозу «изгойных» агентов ИИ. На фоне международной озабоченности после инцидентов с OpenAI и Anthropic и опасений ухода ИИ из-под человеческого контроля, Вирккунен подчеркнула, что европейский подход к правилам является одним из самых строгих в мире и охватывает весь жизненный цикл моделей искусственного интеллекта.
Международные опасения и ответ ЕС
В последние месяцы мир обеспокоен инцидентами, связанными с OpenAI и Anthropic, которые повышают риск появления агентов ИИ, выходящих из-под контроля человека. По словам Хенны Вирккунен, эти вопросы безопасности и надёжности мощных моделей искусственного интеллекта активно обсуждаются на международном уровне.
Глава европейской IT-структуры убеждена, что именно Европа подготовлена к адекватному реагированию на такие вызовы благодаря существующим нормативам.
Жёсткий регуляторный подход
Двухлетний AI Act ЕС регулирует использование искусственного интеллекта в зависимости от уровня потенциального риска. Этот закон считается одним из самых строгих в мире — он охватывает весь жизненный цикл моделей ИИ.
Вирккунен отметила, что критика в адрес AI Act как якобы устаревшего законодательства необоснованна. По её словам, регуляторы активно помогают компаниям с оценкой их ИИ-моделей, учитывая рекомендации около 60 экспертов в области искусственного интеллекта.
Мониторинг безопасности компаний
В конце августа Европейская комиссия запросила у более чем 30 анонимных компаний, работающих с ИИ, подробности по мерам безопасности и защиты. В настоящее время Вирккунен занимается анализом полученных ответов.
Такой подход демонстрирует решимость ЕС контролировать развитие технологий даже на этапе внутреннего аудита и обеспечения безопасности.
Опасения по поводу быстрого развития ИИ
Генеральный директор Anthropic Дарио Амодеи в блоге 13 сентября выразил обеспокоенность слишком высокой скоростью развития искусственного интеллекта. Он отметил, что ускоренный прогресс ИИ, обусловленный способностью к самосовершенствованию, может превзойти возможности людей по пониманию и контролю этих систем.
Ускорение прогресса происходит за счёт того, что ИИ всё лучше способен создавать следующие поколения ИИ — эффект, известный как рекурсивное самоулучшение.
Почему это важно
Новость важна, поскольку она отражает уверенность Европейского союза, который активно формирует одни из самых строгих в мире правил для искусственного интеллекта, в своей способности справляться с новыми и потенциально опасными угрозами, связанными с развитием ИИ. В условиях стремительного технологического прогресса, способного привести к появлению «изгойных» агентов искусственного интеллекта, жёсткое и проактивное регулирование помогает снизить риски выхода систем из-под контроля и повысить безопасность использования ИИ для общества.
Материал подготовлен по первоисточнику с помощью AI-редактирования и проверен по переданным фактам.
Открыть первоисточник ↗