Более 1100 сотрудников крупнейших ИИ-компаний попросили власти США поддержать международные меры по контролю темпов развития искусственного интеллекта.
Среди подписантов — руководители и исследователи из Anthropic, OpenAI, Google и Meta. По их мнению, современные ИИ-системы развиваются быстрее, чем успевают появляться механизмы безопасности и регулирования.
Инициатива получила название Pacing the Frontier («Замедление переднего края»). Ее участники предлагают создать технические и управленческие инструменты, которые позволят осознанно контролировать скорость появления новых поколений ИИ.
Читают прямо сейчас:
ИИкономика: токены, GPU и бигтех — кто реально контролирует ИИ — почему гонка за вычислительные мощности ускоряется быстрее, чем успевают появляться механизмы безопасности
Почему создатель первого чат-бота выступал против искусственного интеллекта — опасения насчёт бесконтрольного развития ИИ появились ещё в момент его создания — и тогда их тоже никто не слушал
Проект Jobs: оценка 342 профессий по риску от ИИ — конкретные данные о социальных рисках гонки ИИ, которые и беспокоят авторов письма
Среди подписантов — руководители крупнейших ИИ-компаний
Обращение подписали сотрудники Anthropic, OpenAI, Google и Meta, а также представители некоммерческих организаций Guidelight AI Standards и Encode AI.
Среди наиболее известных участников — генеральный директор Anthropic Дарио Амодеи и несколько сооснователей компании, вице-президент Meta по исследованиям ИИ Dawn Song и главный научный сотрудник OpenAI Якуб Пачоцки.
Anthropic и OpenAI допускают необходимость «паузы»
Anthropic ранее уже выступала с похожими предупреждениями. Компания заявляла, что крупным ИИ-лабораториям стоит рассмотреть возможность координированной паузы в разработке самых мощных систем.
Глава Anthropic Дарио Амодеи предупреждал, что в будущем ИИ может получить способность самостоятельно улучшать собственные возможности быстрее, чем люди смогут оценивать и контролировать связанные с этим риски.
В OpenAI также поддержали идею постепенного подхода к развитию технологий. Компания заявила, что в будущем темпы создания передовых моделей могут стать настолько высокими, что миру понадобятся механизмы для их регулирования.
Индустрия готовится к новой волне рисков
В Anthropic отметили, что их исследования рекурсивного самоулучшения ИИ показывают необходимость инструментов, которые позволят контролировать развитие передовых моделей.
Параллельно другие компании также усиливают внимание к безопасности. Например, NVIDIA недавно объявила о создании коалиции с Adobe, CrowdStrike и другими партнерами для разработки инструментов защиты ИИ-систем и борьбы с киберугрозами.
