Anthropic привлекает Accenture для независимой оценки в инициативе по замедлению развития ИИ

Предыстория инициативы замедления развития ИИ

12 сентября 2023 года CEO Anthropic Дарио Амодеи опубликовал план из трёх шагов, целью которого является замедление развития искусственного интеллекта (ИИ) и создание условий для введения мер безопасности. Амодеи отметил быстрый рост AI-технологий, обусловленный процессом рекурсивного самоулучшения, который позволял ИИ создавать новые, более совершенные версии самого себя. Он предупредил, что при отсутствии контроля скорость прогресса ИИ может превзойти способности человека к пониманию и управлению такими системами.

Реакция индустрии была неоднородной: генеральные директора OpenAI и SpaceX выразили поддержку инициативе, тогда как главный исполнительный директор Nvidia высказался против необходимости дополнительного регулирования в данной сфере.

Роль Accenture как первого встроенного оценщика

В качестве первого шага своего плана Амодеи предложил назначить независимых оценщиков, обладающих доступом, сопоставимым с доступом сотрудников компаний-разработчиков ИИ. Anthropic заранее пообещала реализовать это условие, и в пятницу компания объявила о сотрудничестве с Accenture и её подразделением Faculty, экспертами в области оценки и «красной команды» ИИ-моделей, а также проведения оценки соответствия и тестирования средств защиты моделей.

Подробности реализации взаимодействия ещё разрабатываются, так как концепция встроенной оценки является новой. Тем не менее, обе компании планируют вложить в проект не менее одного миллиарда долларов в течение ближайших пяти лет.

Финансирование и дальнейшие планы

Учитывая, что в настоящее время отсутствует система финансирования независимой оценки ИИ, Anthropic намерена финансировать работы Accenture напрямую, пока не будут созданы более долгосрочные механизмы на основе объединённых или государственных средств.

Партнёрство между Anthropic и Accenture является не эксклюзивным, и Anthropic планирует в ближайшие недели объявить о сотрудничестве с другими оценщиками для совместной работы в рамках инициативы.

По словам представителей Accenture, Faculty обладает значительным опытом в тестировании и оценке моделей для ведущих лабораторий ИИ, а также в построении сложных систем, безопасных и этичных по своей природе. Глава компании Джули Свит отметила, что встроенная оценка — это перспективное направление, и Accenture стремится ускорить развитие таких решений как важной части будущей инфраструктуры безопасности ИИ.