Бывший сотрудник OpenAI и Anthropic Джейкоб Коксон заявил, что ведущие ИИ-компании безответственно развивают технологии, которые в будущем могут представлять угрозу для человечества.
О своем уходе из Anthropic он рассказал в серии публикаций в X, где раскритиковал подход обеих компаний к созданию более мощных моделей.
Читают прямо сейчас:
ИИкономика: токены, GPU и бигтех — кто реально контролирует ИИ — почему компании продолжают гонку, даже осознавая риски: кто принимает решения и что ими движет
Почему создатель первого чат-бота выступал против искусственного интеллекта — опасения, которые высказывает Коксон, звучат с момента появления ИИ — и тогда их тоже не слушали
Проект Jobs: оценка 342 профессий по риску от ИИ — конкретные данные о том, как быстро меняется мир под влиянием ИИ — тот контекст, на котором строятся опасения исследователей
«Они играют с нашими жизнями»
Коксон заявил, что за последние три года работал над исследованиями предобучения моделей в OpenAI и Anthropic. И за это время он пришел к выводу, что ни одна из компаний не действует достаточно осторожно.
По его словам, разработчики ИИ «мчатся прямо к самосовершенствующемуся сверхразуму», при этом рискуя последствиями, которые могут выйти за пределы контроля людей.
«Не стоит недооценивать мощь этой технологии. Скоро появятся сверхчеловеческие системы, которые смогут взламывать что угодно, менять целые отрасли за ночь и получать реальные ресурсы и влияние», — написал бывший сотрудник.
Исследователь считает, что компании сами боятся создаваемых систем
Коксон утверждает, что многие специалисты внутри индустрии понимают потенциальные риски развития ИИ. По его словам, опасения о возможном катастрофическом сценарии — не маркетинговый ход, а реальные разговоры среди руководителей и исследователей.
При этом он считает, что компании продолжают гонку, даже осознавая угрозы.
По словам Коксона, в OpenAI многие сотрудники недостаточно осознают масштаб возможных последствий. В Anthropic, напротив, риски понимают лучше, но компания якобы считает, что должна участвовать в гонке, поскольку другие игроки могут действовать менее ответственно.
Коксон призвал замедлить развитие ИИ
Бывший сотрудник Anthropic раскритиковал идею ускоренного создания сверхразумных систем. Он считает, что запуск таких проектов внутри частных компаний без достаточного понимания поведения будущих моделей является слишком большим риском.
Исследователь заявил, что человечеству необходимо искать способы международного сотрудничества и договоренностей между ИИ-лабораториями. В качестве одного из вариантов он назвал временное ограничение на дальнейшее увеличение возможностей моделей.
Большая скидка — 16% на все курсы Практикума
Если вы читаете эту новость, тогда вы точно разбираетесь в технологиях. Стать лучше и зарабатывать больше можно после курсов Практикума — по искусственному интеллекту, анализу данных и программированию.
До 17 сентября на все курсы действует скидка 16%, она применится автоматически при оплате!
В Практикуме есть программы для начинающих и специалистов с опытом, которые хотят обновить знания или освоить новое направление.
