Бывший сотрудник OpenAI и Anthropic Джейкоб Коксон заявил, что ведущие ИИ-компании безответственно развивают технологии, которые в будущем могут представлять угрозу для человечества.
О своем уходе из Anthropic он рассказал в серии публикаций в X, где раскритиковал подход обеих компаний к созданию более мощных моделей.
Читают прямо сейчас:
ИИкономика: токены, GPU и бигтех — кто реально контролирует ИИ — почему компании продолжают гонку, даже осознавая риски: кто принимает решения и что ими движет
Почему создатель первого чат-бота выступал против искусственного интеллекта — опасения, которые высказывает Коксон, звучат с момента появления ИИ — и тогда их тоже не слушали
Проект Jobs: оценка 342 профессий по риску от ИИ — конкретные данные о том, как быстро меняется мир под влиянием ИИ — тот контекст, на котором строятся опасения исследователей
«Они играют с нашими жизнями»
Коксон заявил, что за последние три года работал над исследованиями предобучения моделей в OpenAI и Anthropic. И за это время он пришел к выводу, что ни одна из компаний не действует достаточно осторожно.
По его словам, разработчики ИИ «мчатся прямо к самосовершенствующемуся сверхразуму», при этом рискуя последствиями, которые могут выйти за пределы контроля людей.
«Не стоит недооценивать мощь этой технологии. Скоро появятся сверхчеловеческие системы, которые смогут взламывать что угодно, менять целые отрасли за ночь и получать реальные ресурсы и влияние», — написал бывший сотрудник.
Исследователь считает, что компании сами боятся создаваемых систем
Коксон утверждает, что многие специалисты внутри индустрии понимают потенциальные риски развития ИИ. По его словам, опасения о возможном катастрофическом сценарии — не маркетинговый ход, а реальные разговоры среди руководителей и исследователей.
При этом он считает, что компании продолжают гонку, даже осознавая угрозы.
По словам Коксона, в OpenAI многие сотрудники недостаточно осознают масштаб возможных последствий. В Anthropic, напротив, риски понимают лучше, но компания якобы считает, что должна участвовать в гонке, поскольку другие игроки могут действовать менее ответственно.
Коксон призвал замедлить развитие ИИ
Бывший сотрудник Anthropic раскритиковал идею ускоренного создания сверхразумных систем. Он считает, что запуск таких проектов внутри частных компаний без достаточного понимания поведения будущих моделей является слишком большим риском.
Исследователь заявил, что человечеству необходимо искать способы международного сотрудничества и договоренностей между ИИ-лабораториями. В качестве одного из вариантов он назвал временное ограничение на дальнейшее увеличение возможностей моделей.
Скидка на все курсы Практикума
Раз вы дочитали эту новость до конца, с технологиями у вас всё в порядке. А если давно присматривались к разработке, аналитике, нейросетям, тестированию или кибербезопасности, сейчас туда можно зайти дешевле.
Промокод KOD (можно просто нажать) даст скидку на любой платный курс! А если пока не готовы покупать курс, у Практикума есть бесплатные вводные части.
