Глава NVIDIA предлагает инженерам работать за токены

На конференции GTC глава Nvidia Дженсен Хуанг заявил, что AI-токены станут отдельной строчкой в корпоративных бюджетах для сотрудников — как ноутбуки или подписки на ПО. Компании могут начать выдавать инженерам токены ИИ как часть компенсации — вплоть до половины годовой зарплаты сверху. Речь про доступ к вычислениям. Токены — это единица работы модели: чем больше их у вас есть, тем больше вы можете использовать AI в задачах.

Источник: Business Insider

Что именно предлагают

Сценарий, который описывает NVIDIA: инженер получает базовую зарплату, например, несколько сотен тысяч долларов, плюс дополнительный бюджет токенов. Хуанг добавил, что готов платить $100 в день на инференс поверх зарплаты, а в период высокой нагрузки — и $1000 в день. По его словам, для высокооплачиваемых специалистов это окупается за счёт роста продуктивности с агентами.

Почему это вообще обсуждают

Если раньше компании конкурировали зарплатами и опционами, теперь добавляется четвёртый компонент: токены. Инженеры уже спрашивают про вычислительные бюджеты на собеседованиях, а инвесторы обсуждают, что компании могут начать указывать токен-бюджет прямо в вакансиях.

Отдельный сигнал — агенты. Хуанг считает, что именно они резко увеличат потребление токенов: агенты работают без участия человека и, в отличие от ноутбука, не простаивают.

Что это значит для разработчика: 

• token budget становится реальным инструментом найма и удержания;
• стоимость AI-работы будет видна явно, а не размазана по счетам;
• при проектировании систем придётся считать не только CPU/RAM, но и токен-стоимость пайплайна
  

Ну что, кто уже заметил бенефит в виде токенов после строчки с чаем и печеньками?