Многие годы OpenAI строила свои сервисы на ускорителях NVIDIA. Но чем популярнее становились ChatGPT и другие продукты компании, тем сильнее росла зависимость от поставщиков вычислительных мощностей.
Теперь OpenAI сделала первый шаг к собственной аппаратной платформе и представила Jalapeño — свой первый специализированный ИИ-чип, разработанный совместно с Broadcom.
Читают прямо сейчас:
ИИкономика: токены, GPU и бигтех — кто реально контролирует ИИ — почему NVIDIA держит рынок в руках и зачем бигтеху собственные чипы
Чем занят нейропроцессор в телефоне — как устроены специализированные чипы для ИИ-задач и чем они отличаются от GPU
Видеокарты: чем различаются NVIDIA и AMD и что там нового — как устроены тензорные ядра для ИИ и почему видеокарты стали главным ресурсом эпохи LLM
Чип для самой дорогой части ИИ
Jalapeño создавался не для обучения новых моделей, а для инференса — обработки пользовательских запросов уже готовыми нейросетями.
Именно на эту задачу сегодня уходят огромные ресурсы дата-центров. Каждый диалог с ChatGPT, генерация изображения или работа ИИ-агента требуют постоянного запуска моделей на серверах компании.
Поэтому даже небольшое снижение стоимости одного запроса может сэкономить OpenAI миллионы долларов в масштабах всей инфраструктуры.
ИИ помогал создавать ИИ-чип
Одной из самых интересных деталей проекта стало участие самих моделей OpenAI в разработке процессора.
Компания утверждает, что использовала свой же ИИ для проектирования и оптимизации отдельных компонентов Jalapeño. По сути, искусственный интеллект помогал инженерам создавать оборудование, на котором в будущем будут работать новые версии ИИ.
Подобный подход позволяет ускорять разработку и сокращать расходы на создание сложных полупроводниковых решений.
Это не замена видеокартам NVIDIA
Несмотря на громкий анонс, Jalapeño нельзя назвать прямым конкурентом ускорителей NVIDIA.
Чип заточен под конкретные задачи OpenAI и предназначен прежде всего для обслуживания пользовательских запросов. Более ресурсоемкие процессы вроде обучения новых моделей компания, вероятно, еще долго будет выполнять на GPU NVIDIA.
Однако даже частичный перенос нагрузки на собственные процессоры способен серьезно снизить расходы и уменьшить зависимость от внешних поставщиков.
OpenAI строит полный цикл
За последние годы компания постепенно начала контролировать все больше элементов своей экосистемы: от моделей и приложений до дата-центров.
Собственный процессор стал еще одним шагом в этом направлении. В OpenAI прямо заявляют, что хотят оптимизировать всю цепочку — архитектуру чипов, память, сетевую инфраструктуру, программное обеспечение и конечные продукты.
Фактически компания идет по пути Google и Amazon, которые ранее также разработали собственные ИИ-ускорители. Только для OpenAI это еще и попытка получить больше независимости на рынке, где вычислительные мощности становятся не менее ценным ресурсом, чем сами модели искусственного интеллекта.
Самая большая скидка — 10% на все курсы!
До 30 июля по промокоду KOD (можно просто нажать) действует максимальная скидка — 10% на все платные курсы Практикума. Если давно хотели разобраться в разработке, аналитике, нейросетях, тестировании или кибербезопасности, сейчас можно зайти дешевле.
А если пока не готовы выбирать курс, у Практикума есть бесплатные вводные части — можно попробовать направление без привязки карты.
